🧠 LLM Tools Overview - 2025
생성형 AI 및 LLM 기반 도구들을 용도별로 정리한 종합 가이드
🧠 LLM Tools Overview (2025)
생성형 AI를 활용한 실무 도구를 한눈에 정리합니다. Prompt 도구, IDE 확장, Agent 프레임워크, 평가 도구, API 서버까지.
📋 도구 분류 요약
| 카테고리 | 추천 도구 | 오픈소스 | 난이도 | 용도 | | ----------- | -------------------- | -------- | ------ | ----------------- | | IDE 코딩 | Cursor, Continue | ✅ | 초급 | 코드 작성 지원 | | Prompt 관리 | LangChain, PromptFoo | ✅ | 중급 | 프롬프트 개발 | | Agent | CrewAI, AutoGPT | ✅ | 고급 | 자동화 워크플로우 | | 평가/디버깅 | LangSmith, Promptfoo | 부분 | 중급 | 품질 관리 | | API 서버 | vLLM, Ollama | ✅ | 중급 | 모델 서빙 |
💻 IDE/코딩 도구
AI 코드 에디터
| 도구 | 특징 | 가격 | GitHub | | -------------------------------------------- | ------------------------- | -------- | ----------------------------------------------------------------------- | | Cursor | VS Code 포크, AI 네이티브 | 프리미엄 | 비공개 | | Continue.dev | 오픈소스 AI IDE 확장 | 무료 | continuedev/continue ⭐ 18k+ | | Codeium | 무료 코파일럿 대안 | 무료 | 비공개 | | Windsurf | Codeium의 AI IDE | 프리미엄 | 비공개 | | Zed + AI | Rust 기반 고속 편집기 | 무료 | zed-industries/zed ⭐ 50k+ |
IDE 확장/플러그인
| 도구 | 지원 IDE | 특징 | | ----------------------------------------------------------------- | ----------------------- | -------------------------- | | GitHub Copilot | VS Code, JetBrains, Vim | 가장 인기, GPT-4 기반 | | Tabnine | 대부분 IDE | 프라이버시 중시, 로컬 모델 | | Amazon CodeWhisperer | VS Code, JetBrains | AWS 통합, 보안 스캔 | | Sourcegraph Cody | VS Code, JetBrains | 코드베이스 컨텍스트 우수 |
✨ Prompt 개발 도구
프레임워크
| 도구 | 용도 | GitHub | | ------------------------------------------- | --------------------------- | --------------------------------------------------------------------------- | | LangChain | LLM 애플리케이션 프레임워크 | langchain-ai/langchain ⭐ 95k+ | | LlamaIndex | RAG 전문 프레임워크 | run-llama/llama_index ⭐ 37k+ | | Haystack | 프로덕션급 RAG/QA | deepset-ai/haystack ⭐ 17k+ | | DSPy | 프로그래매틱 프롬프트 | stanfordnlp/dspy ⭐ 18k+ |
Prompt 테스트/관리
| 도구 | 용도 | GitHub | | ------------------------------------------ | -------------------- | -------------------------------------------------------------------- | | Promptfoo | 프롬프트 평가/테스트 | promptfoo/promptfoo ⭐ 5k+ | | Helicone | LLM 모니터링 | Helicone/helicone ⭐ 2k+ | | PromptLayer | 프롬프트 버전 관리 | 클라우드 |
🧠 Agent 프레임워크
범용 Agent
| 도구 | 특징 | GitHub | | --------------------------------------------------- | ---------------------------- | ---------------------------------------------------------------------------------------- | | AutoGPT | 자율 AI 에이전트 선구자 | Significant-Gravitas/AutoGPT ⭐ 167k+ | | CrewAI | 멀티 에이전트 오케스트레이션 | crewAIInc/crewAI ⭐ 20k+ | | AutoGen | Microsoft 멀티 에이전트 | microsoft/autogen ⭐ 33k+ | | MetaGPT | 소프트웨어 회사 시뮬레이션 | geekan/MetaGPT ⭐ 44k+ |
코딩 특화 Agent
| 도구 | 특징 | GitHub | | ------------------------------------------------------- | ------------------------- | --------------------------------------------------------------------------- | | Devin | AI 소프트웨어 엔지니어 | 비공개 | | OpenDevin | Devin 오픈소스 대안 | All-Hands-AI/OpenHands ⭐ 35k+ | | Claude Code | Anthropic CLI 에이전트 | 비공개 | | Aider | 터미널 AI 페어 프로그래머 | paul-gauthier/aider ⭐ 20k+ |
🧪 평가/모니터링 도구
평가 프레임워크
| 도구 | 용도 | GitHub | | --------------------------------------------------- | ------------------------ | ------------------------------------------------------------------------------ | | LangSmith | LangChain 전용 추적/평가 | 클라우드 | | Ragas | RAG 평가 프레임워크 | explodinggradients/ragas ⭐ 7k+ | | DeepEval | LLM 유닛 테스트 | confident-ai/deepeval ⭐ 3k+ | | OpenAI Evals | OpenAI 공식 평가 | openai/evals ⭐ 15k+ |
모니터링/관찰성
| 도구 | 용도 | | ---------------------------------------------- | ------------------- | | LangFuse | 오픈소스 LLM 관찰성 | | Weights & Biases | ML 실험 추적 | | Arize Phoenix | ML 관찰성 플랫폼 |
🖥️ 로컬 LLM 실행
추론 엔진
| 도구 | 특징 | GitHub | | ------------------------------------------------------- | ----------------- | --------------------------------------------------------------------- | | Ollama | 원클릭 로컬 LLM | ollama/ollama ⭐ 100k+ | | vLLM | 고성능 추론 서버 | vllm-project/vllm ⭐ 30k+ | | llama.cpp | CPU 추론 최적화 | ggerganov/llama.cpp ⭐ 68k+ | | LMStudio | GUI 기반 로컬 LLM | 비공개 | | LocalAI | OpenAI API 호환 | mudler/LocalAI ⭐ 25k+ |
모델 허브/형식
| 리소스 | 설명 | | -------------------------------------------------- | ------------------- | | Hugging Face Hub | 최대 모델 저장소 | | GGUF 형식 | llama.cpp 표준 형식 | | TheBloke | 양자화 모델 제공 |
🔗 관련 콘텐츠
도구 추가 요청이나 수정 사항은 Issues에 남겨주세요!