Term (용어)aidraftFri May 08

가드레일 (Guardrail) — 막강한 AI 도구의 보호장치

별칭: 가드레일 · guardrail · safety guard · protective rail

#guardrail#verification#safety#4-elements#lecture-core

정의

가드레일 (Guardrail) = 막강한 AI 도구가 방향성 있게 일하도록 보호하는 장치. 건강검진이 점검하는 일이라면, 가드레일은 막는 일.

가드레일은 한 층이 아니라 여러 층 으로 기록된다. concept/multi-layer-guardrail 의 Defense in Depth 패턴:

사용자 룰 (CLAUDE.md)
    ↓
Hooks (PreToolUse 단)
    ↓
Permission gate (도구별)
    ↓
Anthropic 시스템 룰 (PostSampling)

→ 한 층 통과해도 다음 층에서 또 막힘. 사고 방지의 깊이 기록.

가드레일 깨짐	값
부재	`rm -rf` 실행, 비밀키 노출 → 시스템 한 번에 망가짐
과잉	정상 작업까지 매번 승인 요청 → 진행 정지

→ permission_mode 를 작업 위험도에 맞게 분리 하는 것이 처방.

패턴

값

위험 명령 차단

rm -rf / 같은 destructive 명령 실행 ❌

비밀 보호

비밀키·환경 변수 외부 유출 ❌

룰 강제

사용자가 명시한 룰 (예: "test 없이 commit ❌") 우회 ❌

권한 차단

권한이 없는 작업 실행 ❌

다층 가드레일 — Defense in Depth

가드레일은 한 층이 아니라 여러 층 으로 기록된다. concept/multi-layer-guardrail 의 Defense in Depth 패턴:

사용자 룰 (CLAUDE.md) ↓ Hooks (PreToolUse 단) ↓ Permission gate (도구별) ↓ Anthropic 시스템 룰 (PostSampling)

→ 한 층 통과해도 다음 층에서 또 막힘. 사고 방지의 깊이 기록.

가드레일 깨짐

값

부재

rm -rf 실행, 비밀키 노출 → 시스템 한 번에 망가짐

과잉

정상 작업까지 매번 승인 요청 → 진행 정지