단원 — 컨텍스트 부패 풀버전 (윈도우의 한계가 만드는 망각, 4 단계 메커니즘)
별칭: context rotting 풀버전 · context rot deep · 4 단계 부패 메커니즘 · book-vbc ch02
한 줄 명제
컨텍스트 부패는 오염 이 아니라 부패 다 — 처음엔 멀쩡하다가 시간이 지나며 망가진다. AI 가 망각하는 게 잘못이 아니라, 우리가 영구 지시어를 박지 않은 게 잘못이다.
본 단원은 4 요소 공간 의 풀버전 — book-vbc ch02 (29 KB) 의 깊이 흡수.
강의 흐름 (15 분)
① 어제까지 멀쩡하던 코드가 오늘 무너지는 이유 (2 분)
Chapter 1 의 4 슬롯 (역할/맥락/형식/루프) 은 한 번의 호출 안에서만 작동. 연속 대화 가 시작되면 새 적이 등장 — 컨텍스트 부패(Context Rotting).
어제 PostgreSQL 14 무중단 마이그레이션으로 합의했던 결정이, 오늘 MySQL 잠금 패턴으로 답변되어 돌아온다.
"부패" 라는 말이 정확하다. 오염 이라면 처음부터 더럽다는 뜻. 부패 는 처음엔 멀쩡, 시간 지나며 망가짐.
② 핵심 개념 — Stateless · 윈도우 · Lost in the Middle (3 분)
| 개념 | 값 |
|---|---|
| Stateless 모델 | 모든 LLM 은 무상태. 매 호출마다 처음 만난 사람처럼 입력 받음. 대화 연속성 은 클라이언트가 매번 다시 보내는 기법. |
| 컨텍스트 윈도우 | 모델의 단기 기억 용량. GPT-3.5 4K~8K → GPT-4 128K → Claude Opus 4.7 1M. 외형 250 배 확장. |
| Lost in the Middle | 입력 길어질수록 문맥의 중간 에 기록된 결정을 모델이 체계적으로 잊음. attention 의 시작·끝 편향. |
| 합쳐지면 | Stateless 누적 + Lost in the Middle = 이전 결정 망각 + 충돌 코드 생성. AI 잘못이 아니라 모델 아키텍처의 구조적 한계. |
상세: concept/context-rot · term/context-window · term/lost-in-the-middle
③ 더 깊은 원인 — 메모리 하드웨어 한계 (3 분)
왜 컨텍스트 윈도우가 본질적으로 제한되는가 → 물리 메모리. 트랜스포머 attention 은 모든 토큰 쌍 의 관계를 메모리에 올림. 토큰 수 N → attention 행렬 N². 1M 토큰 → 1 조 셀.
KV 캐시·FlashAttention·sparse attention 이 제곱 폭발 을 완화하지만 완전히 없애지 못함. 결국 한계는 GPU HBM (High Bandwidth Memory) 용량.
★ AI 모델·컨텍스트 수요는 매년 10 배 성장. HBM 생산은 연 30~50%. 비대칭이 메모리 수요 폭발의 정체.
→ Samsung·SK Hynix·Micron HBM 팹 양산 18~24 개월 / GPT·Claude 모델 세대는 그 사이 두 번 바뀜. NVIDIA H100·H200·B200 한 장 HBM 80GB → 141GB → 192GB. 본 사실이 synthesis/4-elements-master 의 HBM 수요 폭증 핵심 근거.
→ 본 강의의 61_article/01_prompt_token-and-hbm.md 칼럼 1 편 핵심 인용원.
④ 부패의 4 단계 메커니즘 (3 분)
| 단계 | 값 |
|---|---|
| 1. 대화 시작 | 깨끗한 컨텍스트. 4 슬롯 정확히 채워짐. 첫 시간은 마법. |
| 2. 시간 누적 | 30 분~1 시간 → 윈도우 한계 접근. 이전 결정 디테일 부분 망각. 유창함 속에 숨은 신호. |
| 3. 충돌 생성 | 망각된 결정에 어긋나는 새 코드. 학술 명칭 = 요구사항 표류 (Requirements Drift). |
| 4. 재작성 강제 | 누적 부패 임계치 → 전체 재작성 외 답 ❌. = 3 개월의 벽. Anthropic RCT 디버깅 능력 17% 하락 — 인간 멘탈 모델 잃음. |
⑤ 라운드오프 에러의 교훈 (2 분)
누적이 시스템을 무너뜨림 은 컴퓨팅 역사상 처음이 아님. 1960~70 년대 부동소수점 연산의 라운드오프 에러 누적이 천체역학·기상 모델 을 무의미하게 만들었음.
| 1960 년대 처방 | 2026 년 컨텍스트 부패 처방 |
|---|---|
| Kahan summation (보상 항) | 영구 지시어 (CLAUDE.md) |
| Lagrange 보간 (수학적 정확 함수 재구성) | 마이크로 태스크 분해 (한 함수 새 세션) |
| Symplectic Integrator (불변량 유지) | Git Worktree 격리 (실패 세션 분리) |
→ 물리·수학적 한계는 인정하되, 그 한계 위에서 보정 장치를 설계. 패턴이 같으니 처방의 형태도 닮음.
⑥ 부패 4 처방 (2 분)
| 처방 | 값 |
|---|---|
| 영구 지시어 | CLAUDE.md / .cursorrules / AGENTS.md — 매 세션 자동 재읽음. 윈도우 맨 앞 에 항상 같은 결정. |
| 마이크로 태스크 분해 | 한 세션 = 짧게 자름. 한 함수만 짜고 새 세션 → 항상 깨끗 시작. |
| Git Worktree 격리 | 실패 세션을 별도 worktree 분리. 부패가 main 침투 ❌. |
| 서브에이전트 격리 | 큰 에이전트 → 작은 에이전트 격리 컨텍스트 위임. 부패 전파 ❌. |
→ 모두 도구 자체가 아니라 우리가 도구를 쓰는 자세. AI-native 의 정의 = AI 가 일하는 환경을 설계하는 사람.
4 엔지니어링 통합 기록
- 컨텍스트 엔지니어링: 본 단원의 주 무대. 영구 지시어 / 정적 7 + 동적 13 / Compaction 5 층
- 하네스 엔지니어링: Worktree 격리 / Subagent = 모델 바깥 인프라
- 에이전틱 엔지니어링: Subagent 격리 = 에이전트 위임 결정 흐름
- 프롬프트 엔지니어링: 영구 지시어 = 응축된 프롬프트. 4 슬롯의 시간 확장
→ 4 분야 모두 본 단원에서 기록됨.
다음 단원으로
본 단원은 진단. 처방의 자세한 설계 — lesson/hrn-context-engineering-deep (다음) 와 3 부 — 자율형 에이전트 하네스 엔지니어링 (Chapter 7~9) 으로.
출처
60_service/book-vbc-no-design-no-code/12_chapter_02_context-rotting.md (29 KB 풀버전 흡수).