Karpathy LLM Wiki — 지식 컴파일 패턴

1. 요약

LLM Wiki 는 2025년 4월 Andrej Karpathy 가 GitHub Gist 에 공개한 LLM 기반 개인 지식 베이스 패턴 이다. "RAG 가 retrieval (반복) 이라면, LLM Wiki 는 compilation (한 번 박으면 누적)" 이 핵심 통찰. sources/ 불변 + wiki/ 컴파일 + index-first 탐색 의 3 조 구조. 본 강의 LLMWiki 의 직접적 기반.

2. 배경 (이전 도구의 한계)

RAG (Retrieval-Augmented Generation) 는 매 쿼리마다 벡터 DB 를 다시 검색 — 지식이 누적되지 않는다. 질문 1,000번 던지면 1,000번 retrieval. Karpathy 의 비유: 컴파일러가 소스 → 바이너리로 한 번 컴파일 → 매번 실행 시는 빠르게 사용 처럼, 지식도 한 번 위키 카드로 컴파일 → 매번 같은 답이 빠르게 나옴.

3. 핵심 개념·표기법

3 조 구조:

1. sources/ — 불변 원천 자료 (LLM 이 읽기만)
2. wiki/ — LLM 이 컴파일·관리하는 markdown 카드 (사람도 읽음)
3. WIKI_CLAUDE.md — 위키 관리자 스키마 (제약 조건)

5 카드 타입 (Karpathy 원본):

• entity — 사람·기관·도구
• concept — 추상 개념
• case — 사례·일화
• term — 용어
• synthesis — 종합·관점

핵심 규칙:

• Query 는 wiki/index.md 먼저 → drill-down
• 참조는 [[wikilink]] 내부 만
• Compilation ≠ RAG — 한 번 구조화 후 누적

4. 언어·OS 매핑 (★ 강의 핵심)

★ 본 강의 위키는 Karpathy 패턴 의 충실한 적용 — 233개 카드 + 13 엣지 관계 + Stage 0~6 파이프라인.

5. 현대까지의 영향

• OmegaWiki (skyllwt/OmegaWiki) — Karpathy 비전의 풀 구현
• LLM Wiki v2 (rohitg00) — 멀티 에이전트 확장
• 본 강의 LLMWiki — lesson 카드 + 13 엣지 + Stage 파이프라인 확장
• Stage 6 컴파일 — 위키 → 책자·PPT·강의 자동 산출

6. 주요 인물·사건

7. 강의 활용

★★★ 본 강의 자체가 Karpathy LLM Wiki 패턴의 살아있는 사례. 본 위키의 233개 카드, Stage 0~6 파이프라인, 4 트랙 (VCT/VCE/VCG/VCH) 모두 Karpathy 사상 위에 기록된다. 지식이 곧 설계 자산 — Memex (1945) 의 80년 진화가 LLM Wiki 에서 결실. 언어가 설계도구 라는 강의 명제의 집단 지성 차원 확장.

출처

• Andrej Karpathy LLM Wiki Gist (April 2025)
• Beyond RAG: How Karpathy's LLM Wiki Pattern Builds Knowledge — Plaban Nayak
• Karpathy's LLM Wiki: Complete Guide — antigravity.codes
• I Built Karpathy's LLM Wiki for My Day Job — Tom Nguyen

그룹 시리즈

→ synthesis/group-se_g6 (시대 그룹 종합 카드)