단원 — 컨텍스트 부패 풀버전 (윈도우의 한계가 만드는 망각, 4 단계 메커니즘)
Lesson (강의 단원)lectureverified2026-05-08

단원 — 컨텍스트 부패 풀버전 (윈도우의 한계가 만드는 망각, 4 단계 메커니즘)

별칭: context rotting 풀버전 · context rot deep · 4 단계 부패 메커니즘 · book-vbc ch02

#context-rot#context-engineering#hardware-limit#kv-cache#hbm#lost-in-the-middle#4-stage-decay#lecture-core

한 줄 명제

컨텍스트 부패는 오염 이 아니라 부패 다 — 처음엔 멀쩡하다가 시간이 지나며 망가진다. AI 가 망각하는 게 잘못이 아니라, 우리가 영구 지시어를 박지 않은 게 잘못이다.

본 단원은 4 요소 공간 의 풀버전 — book-vbc ch02 (29 KB) 의 깊이 흡수.


강의 흐름 (15 분)

① 어제까지 멀쩡하던 코드가 오늘 무너지는 이유 (2 분)

Chapter 1 의 4 슬롯 (역할/맥락/형식/루프) 은 한 번의 호출 안에서만 작동. 연속 대화 가 시작되면 새 적이 등장 — 컨텍스트 부패(Context Rotting).

어제 PostgreSQL 14 무중단 마이그레이션으로 합의했던 결정이, 오늘 MySQL 잠금 패턴으로 답변되어 돌아온다.

"부패" 라는 말이 정확하다. 오염 이라면 처음부터 더럽다는 뜻. 부패처음엔 멀쩡, 시간 지나며 망가짐.

② 핵심 개념 — Stateless · 윈도우 · Lost in the Middle (3 분)

개념
Stateless 모델모든 LLM 은 무상태. 매 호출마다 처음 만난 사람처럼 입력 받음. 대화 연속성클라이언트가 매번 다시 보내는 기법.
컨텍스트 윈도우모델의 단기 기억 용량. GPT-3.5 4K~8K → GPT-4 128K → Claude Opus 4.7 1M. 외형 250 배 확장.
Lost in the Middle입력 길어질수록 문맥의 중간 에 기록된 결정을 모델이 체계적으로 잊음. attention 의 시작·끝 편향.
합쳐지면Stateless 누적 + Lost in the Middle = 이전 결정 망각 + 충돌 코드 생성. AI 잘못이 아니라 모델 아키텍처의 구조적 한계.

상세: concept/context-rot · term/context-window · term/lost-in-the-middle

③ 더 깊은 원인 — 메모리 하드웨어 한계 (3 분)

컨텍스트 윈도우가 본질적으로 제한되는가 → 물리 메모리. 트랜스포머 attention 은 모든 토큰 쌍 의 관계를 메모리에 올림. 토큰 수 N → attention 행렬 . 1M 토큰 → 1 조 셀.

KV 캐시·FlashAttention·sparse attention 이 제곱 폭발 을 완화하지만 완전히 없애지 못함. 결국 한계는 GPU HBM (High Bandwidth Memory) 용량.

AI 모델·컨텍스트 수요는 매년 10 배 성장. HBM 생산은 연 30~50%. 비대칭이 메모리 수요 폭발의 정체.

→ Samsung·SK Hynix·Micron HBM 팹 양산 18~24 개월 / GPT·Claude 모델 세대는 그 사이 두 번 바뀜. NVIDIA H100·H200·B200 한 장 HBM 80GB → 141GB → 192GB. 본 사실이 synthesis/4-elements-masterHBM 수요 폭증 핵심 근거.

→ 본 강의의 61_article/01_prompt_token-and-hbm.md 칼럼 1 편 핵심 인용원.

④ 부패의 4 단계 메커니즘 (3 분)

단계
1. 대화 시작깨끗한 컨텍스트. 4 슬롯 정확히 채워짐. 첫 시간은 마법.
2. 시간 누적30 분~1 시간 → 윈도우 한계 접근. 이전 결정 디테일 부분 망각. 유창함 속에 숨은 신호.
3. 충돌 생성망각된 결정에 어긋나는 새 코드. 학술 명칭 = 요구사항 표류 (Requirements Drift).
4. 재작성 강제누적 부패 임계치 → 전체 재작성 외 답 ❌. = 3 개월의 벽. Anthropic RCT 디버깅 능력 17% 하락 — 인간 멘탈 모델 잃음.

⑤ 라운드오프 에러의 교훈 (2 분)

누적이 시스템을 무너뜨림 은 컴퓨팅 역사상 처음이 아님. 1960~70 년대 부동소수점 연산의 라운드오프 에러 누적이 천체역학·기상 모델 을 무의미하게 만들었음.

1960 년대 처방2026 년 컨텍스트 부패 처방
Kahan summation (보상 항)영구 지시어 (CLAUDE.md)
Lagrange 보간 (수학적 정확 함수 재구성)마이크로 태스크 분해 (한 함수 새 세션)
Symplectic Integrator (불변량 유지)Git Worktree 격리 (실패 세션 분리)

물리·수학적 한계는 인정하되, 그 한계 위에서 보정 장치를 설계. 패턴이 같으니 처방의 형태도 닮음.

⑥ 부패 4 처방 (2 분)

처방
영구 지시어CLAUDE.md / .cursorrules / AGENTS.md — 매 세션 자동 재읽음. 윈도우 맨 앞항상 같은 결정.
마이크로 태스크 분해한 세션 = 짧게 자름. 한 함수만 짜고 새 세션 → 항상 깨끗 시작.
Git Worktree 격리실패 세션을 별도 worktree 분리. 부패가 main 침투 ❌.
서브에이전트 격리큰 에이전트 → 작은 에이전트 격리 컨텍스트 위임. 부패 전파 ❌.

모두 도구 자체가 아니라 우리가 도구를 쓰는 자세. AI-native 의 정의 = AI 가 일하는 환경을 설계하는 사람.


4 엔지니어링 통합 기록

  • 컨텍스트 엔지니어링: 본 단원의 주 무대. 영구 지시어 / 정적 7 + 동적 13 / Compaction 5 층
  • 하네스 엔지니어링: Worktree 격리 / Subagent = 모델 바깥 인프라
  • 에이전틱 엔지니어링: Subagent 격리 = 에이전트 위임 결정 흐름
  • 프롬프트 엔지니어링: 영구 지시어 = 응축된 프롬프트. 4 슬롯의 시간 확장

→ 4 분야 모두 본 단원에서 기록됨.


다음 단원으로

본 단원은 진단. 처방의 자세한 설계 — lesson/hrn-context-engineering-deep (다음) 와 3 부 — 자율형 에이전트 하네스 엔지니어링 (Chapter 7~9) 으로.


출처

60_service/book-vbc-no-design-no-code/12_chapter_02_context-rotting.md (29 KB 풀버전 흡수).