요약

LLM 의 확률적(stochastic) 출력을 결정론적(deterministic) 검증 계층 으로 감싸는 패턴. 여러 층을 동심원 으로 배치하고 각 층이 독립적으로 차단 가능 해야 한다 — Defense-in-Depth. 본 강의 concept/harness-engineering 의 실행 패턴 측면. 핵심 원칙: "의심스러우면 차단(When in doubt, block)" — term/fail-secure.

상세

왜 가드레일이 필요한가

LLM 답변의 99% 는 옳다. 그러나 1% 의 오류 가 프로덕션에서 치명적 이 된다.

→ 모델 개선만으로 해결 불가. 모델을 감싸는 하네스* 가 필수.

4 층 동심원 (운영 시스템용)

왜 4 층이 최내곽 인가: 다른 모든 층을 통과한 입력도 LLM 외부 API 로 떠나기 직전 한 번 더 마스킹돼야 한다. 한 번 나가면 되돌릴 수 없다.

entity/claude-code Hooks 6 이벤트로 구현

Defense-in-Depth 흐름

입력 → [UserPromptSubmit: 2+3층] → 모델 → [PreToolUse: 1+4층] → 도구 → [PostToolUse: 4층] → [Stop: 감사] → 응답

각 층 독립 차단 가능 — 하나 실패해도 다른 층이 잡는다.

층별 우선순위

1 시스템 진실 (최우선)
  ↓ 통과
2 조직 가치
  ↓ 통과
3 팀 컨벤션
  ↓ 통과
4 PII (최후 게이트, LLM 전송 직전)
  ↓ 통과
실행

상위 층 차단 시 하위 층 무관 차단. 어느 층에서든 차단되면 사용자에게 "차단됨" 표시.

방법론

강의 활용 (03 HRN lesson/hrn-superpowers-framework / lesson/hrn-verification-loop 의 심화):

1. 충격 명제 (1분): "LLM 99% 옳다 → 1% 가 사고가 된다."
2. 4 층 동심원 다이어그램 (3분): 한 슬라이드 — 가장 안쪽 = PII.
3. 6 이벤트 Hook 표 (2분): 각 층이 어느 이벤트에 매핑되는지.
4. 차단 흐름 다이어그램 (1분): 입력 → 6 이벤트 통과 → 응답.
5. Fail-Secure 원칙 (1분): "의심스러우면 차단."
6. 사고 사례 회수 (1분): case/lemkin-replit-db-deletion / case/pocketos-cursor-db-deletion — 4 층 가드레일이 있었다면?

주의사항

• 100% 보장 ❌: Defense-in-Depth 는 위험 최소화 목적. 정기 감사·피드백 필수.
• 정규식 우회 가능: "신·천·지" 같은 점 분리 변형. 정기 갱신 + 의심 패턴 학습.
• Soft 경고만으로 ❌: 운영 시스템은 Hard 차단 우선.
• Bypass 권한: 팀 리더 승인 필수. 일반 개발자가 settings.json 편집 ❌.
• 로그 기록: 모든 차단 이벤트 audit.log JSONL — 정기 리뷰.
• 사역 도메인 일반화: 본 카드는 wiki_AI_선용 의 4중 가드레일 (성경/비전/매뉴얼/PII) 을 일반 시스템 (진실/가치/컨벤션/PII) 으로 변환한 결과.