개요
LLM Wiki는 Andrej Karpathy (OpenAI 공동창업자, 전 Tesla AI 디렉터)가 제안한 마크다운 기반 지식 베이스 아키텍처 패턴. 단일 앱이 아닌 LLM으로 지식을 축적하는 방법론. RAG가 매번 지식을 재발견하는 것과 달리 지식을 컴파일하는 개념.
- 원본 gist: https://gist.github.com/karpathy/442a6bf555914893e9891c11519de94f
- 제안자: Andrej Karpathy
- 권장 뷰어: Obsidian (Graph View + wikilink 활용)
핵심 개념
“RAG는 매번 지식을 재발견한다. LLM Wiki는 지식을 컴파일한다.”
raw/ ← 원시 소스 (웹 클리핑, PDF, 메모, 영상 등)
└─ article1.pdf
└─ note.md
└─ video_transcript.txt
wiki/ ← LLM이 생성·관리하는 상호 링크 마크다운
└─ 개념A.md
└─ 개념B.md ← [[개념A]] 링크 포함
└─ 개념C.md
작동 방식
1. 원시 소스 수집
웹 클리핑 · PDF · 메모 → raw/ 폴더에 저장
2. LLM이 wiki 생성
raw/ 읽기 → 상호 링크된 wiki/*.md 생성
(기존 RAG처럼 매번 재처리 ❌ → 한 번 컴파일 ✅)
3. 새 소스 추가 시
LLM이 기존 페이지 업데이트
모순 발견 시 명시적으로 기록
새 개념이면 새 페이지 생성
4. 주기적 감사 (audit)
고아 페이지 탐지
모순·오래된 정보 식별
페이지 간 연결 강화
RAG vs LLM Wiki
| 항목 | RAG | LLM Wiki |
|---|---|---|
| 지식 처리 | 매번 청크 검색 | 사전 컴파일 |
| 지식 축적 | 없음 | 점진적 축적 |
| 인프라 | 벡터 DB 필요 | 순수 마크다운 |
| 모순 처리 | 없음 | LLM이 명시적 기록 |
| 가독성 | 기계 중심 | 사람도 읽을 수 있음 |
| 복잡도 | 높음 | 낮음 (파일 시스템) |
Obsidian과의 관계
Karpathy가 Obsidian을 권장 뷰어로 지목:
- Graph View: wiki 페이지 간 연결 시각화
- 로컬 우선: 클라우드 의존 없음
[[wikilink]]: LLM Wiki 문법과 완벽 호환- 검색: 전체 wiki 전문 검색
→ 이 Obsidian vault 자체가 LLM Wiki 패턴의 구현
커뮤니티 구현체
| 프로젝트 | 특징 |
|---|---|
| obsidian-wiki | Karpathy 패턴 기반 Obsidian 에이전트 |
| OmegaWiki | 전주기 AI 연구 플랫폼으로 확장 |
| obsidian-llm-wiki-local | Ollama로 100% 로컬 실행 |
| Graphify | LLM Wiki 아이디어에서 영감, 48시간 만에 개발 |
| second-brain | 개인 지식 베이스 구현 |
실용 구현 예시
# 간단한 LLM Wiki 파이프라인 (개념)
from anthropic import Anthropic
client = Anthropic()
def update_wiki(raw_content, existing_wiki):
"""새 소스를 읽고 wiki 페이지 업데이트"""
response = client.messages.create(
model="claude-opus-4-6",
max_tokens=4096,
messages=[{
"role": "user",
"content": f"""다음 원시 소스를 읽고 wiki를 업데이트하세요.
기존 wiki:
{existing_wiki}
새 소스:
{raw_content}
지시사항:
1. 관련 wiki 페이지를 [[wikilink]]로 연결
2. 모순 발견 시 ⚠️ 표시
3. 새 개념이면 새 페이지 생성
4. 마크다운 형식 유지"""
}]
)
return response.content[0].text