AI 에이전트 프레임워크

개요

AI 에이전트 프레임워크는 Large Language Models (LLMs)이 도구를 사용하고, 계획을 세우고, 자율적으로 작업을 수행할 수 있게 하는 소프트웨어 프레임워크입니다. 단순 Q&A를 넘어 LLM이 코드 실행, API 호출, 파일 조작 등을 수행하는 “에이전트”를 구축합니다.

에이전트 핵심 개념

[사용자 목표] → [계획(Planning)] → [도구 선택(Tool Use)] → [실행(Action)] → [관찰(Observation)] → [반복/완료]

개념	설명
Planning	작업을 하위 단계로 분해
Tool Use	외부 API, 코드 실행, 검색 등 도구 호출
Memory	대화 히스토리, 장기 기억 관리
Reflection	결과를 평가하고 전략 수정
Multi-Agent	여러 에이전트가 협업 (역할 분담)

주요 프레임워크

LangChain / LangGraph

항목	내용
개발	LangChain Inc.
언어	Python, JavaScript/TypeScript
핵심	LLM 앱 개발의 사실상 표준, 가장 큰 생태계
GitHub	https://github.com/langchain-ai/langchain

LangChain: 체인(Chain) 기반 LLM 앱 (프롬프트 → LLM → 파싱)
LangGraph: 상태 그래프 기반 에이전트 (복잡한 워크플로우, 조건 분기, 루프)
LangSmith: 관측성/평가 플랫폼
도구 통합: 500+ 통합 (DB, API, 검색 등)
RAG 파이프라인 구축에 가장 많이 사용

LlamaIndex

항목	내용
개발	LlamaIndex Inc.
핵심	데이터 인덱싱 + RAG 특화
GitHub	https://github.com/run-llama/llama_index

다양한 데이터 소스 커넥터 (PDF, DB, API, Notion 등)
LlamaHub: 데이터 로더 마켓플레이스
Workflows: 이벤트 기반 에이전트 오케스트레이션

CrewAI

항목	내용
개발	CrewAI Inc.
핵심	멀티 에이전트 협업 — 역할/목표/도구 정의 후 팀으로 작업
GitHub	https://github.com/crewAIInc/crewAI

researcher = Agent(role="연구원", goal="최신 AI 트렌드 조사", tools=[search])
writer = Agent(role="작가", goal="리포트 작성", tools=[file_write])
crew = Crew(agents=[researcher, writer], tasks=[research_task, write_task])
crew.kickoff()

역할 기반 에이전트 설계 (직관적)
순차/병렬 실행, 에이전트 간 위임
기업용 CrewAI Enterprise (GUI, 모니터링)

OpenAI Agents SDK

항목	내용
개발	OpenAI
핵심	OpenAI 모델 + 빌트인 도구 (Code Interpreter, File Search, Web Search)
문서	https://platform.openai.com/docs/guides/agents

Swarm 후속 → 프로덕션급
Handoff: 에이전트 간 대화 전환
Guardrails: 입출력 안전 검증
Tracing: 에이전트 실행 추적

Claude Agent SDK (Anthropic)

항목	내용
개발	Anthropic
핵심	Claude 모델 + 도구 사용, 컴퓨터 사용

Claude Code CLI의 기반 SDK
Tool Use: 함수 정의 → Claude가 호출
Computer Use: 스크린샷 기반 GUI 조작

AutoGen (Microsoft)

항목	내용
개발	Microsoft Research
핵심	멀티 에이전트 대화 — 에이전트끼리 대화하며 문제 해결
GitHub	https://github.com/microsoft/autogen

GroupChat: 여러 에이전트가 채팅방에서 토론
Code Execution: 코드 자동 생성/실행/디버깅
AutoGen Studio: 노코드 에이전트 빌더 (웹 UI)

Semantic Kernel (Microsoft)

항목	내용
개발	Microsoft
언어	C#, Python, Java
핵심	엔터프라이즈 AI 통합, .NET 생태계

Azure OpenAI 네이티브 통합
Plugin 시스템 (기존 코드를 AI 도구로 변환)
엔터프라이즈/Microsoft 스택에 최적

Dify

항목	내용
유형	노코드/로우코드 AI 앱 빌더
핵심	드래그앤드롭으로 RAG 앱, 에이전트, 워크플로우 구축
GitHub	https://github.com/langgenius/dify

시각적 워크플로우 편집기
다양한 LLM 지원 (OpenAI, Claude, 오픈소스)
RAG 파이프라인 내장
셀프호스팅 가능

기타

프레임워크	개발사	특징
Haystack	deepset	프로덕션 RAG/에이전트 파이프라인
Smolagents	Hugging Face	경량 에이전트, Code Agent (코드로 추론)
Pydantic AI	Pydantic	타입 안전 에이전트, Pydantic 생태계
OpenClaw	Peter Steinberger	로컬 퍼스트, 자율 행동, WebSocket 기반 (Node.js 22+)
Jido	-	Elixir/BEAM 기반, 순수 함수형 에이전트, 665+ LLM 지원, ReAct/CoT 추론
Mastra	-	TypeScript 에이전트 프레임워크
Phidata	-	Python, 에이전트+도구+메모리 통합
BabyAGI	-	자율 태스크 분해/실행 (실험적)

MCP (Model Context Protocol)

2025~2026년 에이전트 생태계의 핵심 표준. 에이전트가 외부 도구/서비스에 접근하는 공통 프로토콜.

→ 상세: MCP (Model Context Protocol)

비교

프레임워크	언어	멀티에이전트	RAG	난이도	최적 용도
LangChain/LangGraph	Py/JS	O	최강	중간	범용, RAG
LlamaIndex	Py/JS	O	최강	중간	데이터 중심 RAG
CrewAI	Py	최강	O	낮음	멀티에이전트 협업
OpenAI Agents	Py	O	O	낮음	OpenAI 생태계
AutoGen	Py	최강	O	중간	연구, 토론형
Dify	노코드	O	O	최저	빠른 프로토타입
Semantic Kernel	C#/Py	O	O	중간	엔터프라이즈 .NET
OpenClaw	JS/TS	O	O	중간	로컬 퍼스트 자동화

Bigstones

Explorer