개요
2026년 기준 AI 개발 스택은 Agent Framework → RAG/Data → Workflow → Infra 계층으로 구성됩니다. 20개 이상의 프레임워크가 동시에 발전 중이며, 각 레이어를 조합하여 AI 애플리케이션을 구축합니다.
AI 개발 스택 구조
LLM Applications
│
┌───────────────┼───────────────┐
│ │
Agent Frameworks Data / RAG
│ │
LangChain / CrewAI / AutoGen LlamaIndex / Haystack
│ │
└───────────────┬───────────────┘
│
Workflow
│
n8n / Temporal
│
Infra
│
VectorDB / Observability / Model APIs
Agent Framework
LangChain / LangGraph
- LangChain: 체인(Chain) 기반 LLM 앱
- LangGraph: 상태 그래프 기반 에이전트 워크플로우 (조건 분기, 루프, 병렬)
- LangSmith: 관측성/평가/디버깅 플랫폼
- 추천: RAG, production AI, 복잡한 workflow
CrewAI
researcher = Agent(role="Researcher", goal="최신 AI 트렌드 조사", tools=[search])
writer = Agent(role="Writer", goal="리포트 작성", tools=[file_write])
reviewer = Agent(role="Reviewer", goal="품질 검토", tools=[])
crew = Crew(agents=[researcher, writer, reviewer], tasks=[...])
crew.kickoff()
- 코드 간단, startup 친화적
- 순차/병렬 실행, 에이전트 간 위임
- 추천: 멀티 에이전트 협업, 빠른 프로토타입
AutoGen
Planner → Coder → Executor (대화로 협업)
- GroupChat: 여러 에이전트가 채팅방에서 토론
- Code Execution: 코드 자동 생성/실행/디버깅
- reasoning이 강함
- 추천: 연구, 복잡한 reasoning, 코드 생성
3대 프레임워크 비교
| 특성 | LangChain | CrewAI | AutoGen |
|---|
| 패러다임 | Tool 기반 | Role 기반 | Message 기반 |
| 학습 난이도 | 중간 | 쉬움 | 어려움 |
| 생태계 | 가장 큼 | 중간 | 큼 |
| Agent 협업 | 좋음 | 매우 좋음 | 매우 좋음 |
| Enterprise | 강함 | 중간 | 강함 |
| 최적 용도 | 범용, RAG, 프로덕션 | 역할 기반 팀 에이전트 | 토론형, 연구 |
기타 Agent Framework
| 프레임워크 | 특징 |
|---|
| OpenAI Agents SDK | OpenAI 공식, Handoff/Guardrails/Tracing 내장 |
| Google ADK | Google AI 에이전트 개발 키트 |
| MetaGPT | 소프트웨어 회사 시뮬레이션 (PM, 개발자, QA 역할) |
| AgentScope | Alibaba, 대규모 멀티 에이전트 |
| CAMEL | 에이전트 간 역할극(Role-Playing) 기반 협업 |
| SmolAgents | Hugging Face, 경량 Code Agent |
| Mastra | TypeScript 에이전트 프레임워크 |
RAG Framework
| 프레임워크 | 핵심 | 특징 |
|---|
| LlamaIndex | 데이터 인덱싱 + RAG 특화 | 다양한 데이터 소스 커넥터, LlamaHub, Workflows |
| Haystack | 프로덕션 RAG 파이프라인 | deepset, 파이프라인 DSL, 프로덕션급 |
| DSPy | 프롬프트 자동 최적화 | Stanford, 프롬프트를 프로그래밍으로 다루기 |
| txtai | 경량 임베딩 + RAG | 올인원 (임베딩, RAG, 워크플로우) |
→ 상세: RAG
Lightweight / 경량 프레임워크
| 프레임워크 | 특징 |
|---|
| PydanticAI | Pydantic 생태계, 타입 안전 에이전트, 구조화된 출력 |
| Agno | 경량 Python 에이전트, 빠른 시작 |
| MicroAgent | 최소 코드로 에이전트 구축 |
Workflow / Orchestration
| 도구 | 유형 | 특징 |
|---|
| LangGraph | 에이전트 워크플로우 | 상태 그래프, 조건 분기, 루프, LangChain 생태계 |
| n8n | 자동화 플랫폼 | 노코드/로우코드, 400+ 통합, 셀프호스팅 가능 |
| Temporal | 워크플로우 엔진 | 분산 시스템, 내결함성, 장기 실행 워크플로우 |
| Airflow | 데이터 파이프라인 | Apache, DAG 기반, 배치 처리 표준 |
Observability (관측성)
| 도구 | 특징 |
|---|
| Langfuse | 오픈소스, LLM 트레이싱/평가/프롬프트 관리, 셀프호스팅 |
| LangSmith | LangChain 공식, 디버깅/평가/모니터링 |
| Arize Phoenix | 오픈소스, LLM 트레이싱/평가, 드리프트 감지 |
Infra 레이어
스타트업 AI 아키텍처 (2026 표준)
Frontend (React/Next.js)
│
API Gateway
│
Agent Framework
(LangGraph / CrewAI)
│
RAG Layer
(LlamaIndex)
│
Vector DB
(Qdrant / Weaviate)
│
LLM
(OpenAI / Claude / Local)
추가 요소:
Observability
├ Langfuse (오픈소스)
├ LangSmith (LangChain)
└ Arize Phoenix (오픈소스)
실제 AI SaaS 구조 예: 문서 AI 서비스
User upload PDF
│
OCR (문서 인식)
│
LlamaIndex (document indexing)
│
LangGraph (agent workflow)
│
LLM reasoning
│
JSON output
│
n8n (send result / automation)
현실적인 조합 (2026)
개발자들이 가장 많이 쓰는 조합:
LangGraph → Agent Workflow (에이전트 오케스트레이션)
+
LlamaIndex → Data Retrieval (데이터 검색/인덱싱)
+
n8n → Automation (외부 서비스 연동/자동화)
+
Langfuse → Logging (트레이싱/디버깅/평가)
용도별 추천 조합
| 용도 | 추천 스택 |
|---|
| 범용 AI SaaS | LangGraph + LlamaIndex + Langfuse |
| 멀티 에이전트 팀 | CrewAI + LlamaIndex |
| 문서 AI / RAG | LlamaIndex + LangGraph + Qdrant |
| 자동화 중심 | n8n + LangGraph |
| 빠른 프로토타입 | CrewAI or Dify |
| 연구 / 실험 | AutoGen + DSPy |
| 엔터프라이즈 | LangChain + LangSmith + Semantic Kernel |
| 노코드 | Dify or Flowise |
전체 프레임워크 리스트 (20+)
Agent Framework
| 프레임워크 | 개발사 | 패러다임 |
|---|
| LangChain | LangChain Inc. | Tool 기반 |
| CrewAI | CrewAI Inc. | Role 기반 |
| AutoGen | Microsoft | Message 기반 |
| MetaGPT | DeepWisdom | 소프트웨어 팀 시뮬레이션 |
| OpenAI Agents SDK | OpenAI | Handoff 기반 |
| AgentScope | Alibaba | 대규모 멀티 에이전트 |
| CAMEL | - | Role-Playing |
| SmolAgents | Hugging Face | Code Agent |
| Mastra | - | TypeScript |
| Google ADK | Google | Google AI 생태계 |
RAG Framework
| 프레임워크 | 특화 |
|---|
| LlamaIndex | 데이터 인덱싱 |
| Haystack | 프로덕션 파이프라인 |
| txtai | 경량 올인원 |
| DSPy | 프롬프트 자동 최적화 |
Lightweight
| 프레임워크 | 특화 |
|---|
| PydanticAI | 타입 안전 |
| Agno | 경량 |
| MicroAgent | 최소 코드 |
Workflow / Orchestration
| 도구 | 특화 |
|---|
| LangGraph | 에이전트 워크플로우 |
| n8n | 노코드 자동화 |
| Temporal | 분산 워크플로우 |
2026 트렌드
- MCP 표준화: 에이전트 ↔ 도구 연결이 MCP로 통일되는 추세
- LangGraph 부상: LangChain에서 LangGraph로 무게중심 이동 (상태 관리 에이전트)
- 경량화: PydanticAI, SmolAgents 등 “프레임워크 피로” 대응
- 노코드: Dify, n8n 등으로 비개발자도 AI 앱 구축
- 관측성 필수: Langfuse/LangSmith 없이 프로덕션 불가
- 멀티 에이전트: 단일 에이전트 → 팀 에이전트로 진화
관련 항목