🌟 Awesome LLM
4 min read
awesomellmaimachine-learningnlptransformers
대규모 언어 모델 개발자를 위한 최고의 도구, 프레임워크, 리소스 모음
🌟 Awesome LLM
대규모 언어 모델 개발자를 위한 최고의 도구, 프레임워크, 리소스 모음
2025년 최신 트렌드와 검증된 도구들을 한곳에 모았습니다.
🧩 주요 언어 모델
오픈소스 모델
- LLaMA 3 ⭐ 30k – Meta의 최신 오픈 LLM
- Mistral ⭐ 10k – 고효율 7B 파라미터 모델
- Phi-3 ⭐ 2k – Microsoft의 소형 언어 모델
- Gemma ⭐ 5k – Google의 오픈 모델
한국어 특화 모델
- SOLAR ⭐ 2k – Upstage AI 한국어 LLM
- Polyglot-Ko ⭐ 1k – 한국어 다국어 모델
- KoAlpaca ⭐ 1k – 한국어 Alpaca 모델
- KULLM ⭐ 500 – 고려대 한국어 LLM
코드 생성 모델
- CodeLlama ⭐ 16k – Meta의 코드 특화 LLM
- DeepSeek Coder ⭐ 7k – 코드 생성 모델
- StarCoder ⭐ 8k – 코드 생성 LLM
- WizardCoder ⭐ 10k – 지시 따르기 코드 모델
🚀 프레임워크 & 도구
LLM 프레임워크
- LangChain ⭐ 95k – LLM 애플리케이션 프레임워크
- LlamaIndex ⭐ 36k – 데이터 증강 LLM 프레임워크
- Haystack ⭐ 17k – NLP 파이프라인 프레임워크
- Semantic Kernel ⭐ 22k – AI 오케스트레이션
프롬프트 엔지니어링
- Guidance ⭐ 19k – 언어 모델 제어
- DSPy ⭐ 19k – 프로그래밍 가능한 LM
- Prompt-Engineering-Guide ⭐ 50k – 프롬프트 가이드
- OpenPrompt ⭐ 4k – 프롬프트 학습 프레임워크
파인튜닝 도구
- PEFT ⭐ 17k – 파라미터 효율적 파인튜닝
- LoRA ⭐ 10k – Low-Rank Adaptation
- QLoRA ⭐ 10k – 양자화 LoRA
- Axolotl ⭐ 8k – 간편한 파인튜닝
🔧 추론 & 배포
추론 엔진
- vLLM ⭐ 29k – 고속 LLM 추론
- TensorRT-LLM ⭐ 9k – NVIDIA 최적화 추론
- llama.cpp ⭐ 68k – CPU/GPU 추론
- Ollama ⭐ 98k – 로컬 LLM 실행
모델 서빙
- Text Generation Inference ⭐ 9k – HF 추론 서버
- FastChat ⭐ 37k – 분산 멀티모델 서빙
- Ray Serve ⭐ 34k – 확장 가능한 모델 서빙
- BentoML ⭐ 7k – ML 모델 서빙
경량화 & 최적화
- GGML ⭐ 11k – 텐서 라이브러리
- bitsandbytes ⭐ 6k – 8비트 최적화
- AutoGPTQ ⭐ 5k – 자동 양자화
- AWQ ⭐ 2k – 활성화 인식 양자화
💾 벡터 데이터베이스 & RAG
벡터 데이터베이스
- Chroma ⭐ 15k – AI 네이티브 임베딩 DB
- Weaviate ⭐ 11k – 벡터 검색 엔진
- Qdrant ⭐ 20k – 벡터 유사도 검색
- Pinecone – 관리형 벡터 DB
RAG 프레임워크
- RAGFlow ⭐ 22k – 딥 문서 이해 RAG
- Embedchain ⭐ 2k – RAG 프레임워크
- AutoRAG ⭐ 2k – 자동 RAG 최적화
- LangChain RAG – LangChain RAG 구현
🎯 평가 & 벤치마크
평가 프레임워크
- lm-evaluation-harness ⭐ 7k – LM 평가 프레임워크
- HELM ⭐ 2k – 홀리스틱 평가
- OpenCompass ⭐ 4k – LLM 평가 플랫폼
- Ragas ⭐ 7k – RAG 평가
벤치마크 데이터셋
🛡️ 안전성 & 정렬
안전성 도구
- Guardrails ⭐ 4k – LLM 출력 검증
- NeMo Guardrails ⭐ 4k – 대화형 AI 안전
- Llama Guard ⭐ 3k – 입출력 안전성 검사
- LangKit ⭐ 1k – LLM 모니터링
프라이버시 & 보안
- PrivateGPT ⭐ 54k – 프라이빗 문서 상호작용
- LocalAI ⭐ 25k – 로컬 AI API
- h2oGPT ⭐ 12k – 프라이빗 Q&A
🎨 응용 프로그램
챗봇 & 어시스턴트
- Open Assistant ⭐ 37k – 오픈 어시스턴트
- ChatGPT-Next-Web ⭐ 77k – 웹 UI
- Flowise ⭐ 31k – 드래그앤드롭 LLM 플로우
- Dify ⭐ 52k – AI 애플리케이션 플랫폼
코드 어시스턴트
문서 처리
- Unstructured ⭐ 9k – 문서 파싱
- Marker ⭐ 17k – PDF를 마크다운으로
- DocTR ⭐ 4k – 문서 텍스트 인식
📚 학습 자료
강좌 & 튜토리얼
- LLM University – Cohere LLM 대학
- Hugging Face Course – NLP 코스
- Fast.ai Practical Deep Learning – 실용적 딥러닝
- DeepLearning.AI LLM Courses – Andrew Ng의 LLM 강좌
논문 & 연구
- Papers with Code – NLP 논문
- arXiv CS.CL – 최신 NLP 논문
- The Transformer Family – 트랜스포머 가족
- State of GPT – Andrej Karpathy 강연
커뮤니티
- r/LocalLLaMA – 로컬 LLM 커뮤니티
- Hugging Face Forums – HF 포럼
- LangChain Discord – LangChain 커뮤니티
- 한국 AI 커뮤니티 – 한국 AI 그룹
🆕 2025 Highlights
주요 트렌드
- 멀티모달 LLM: 텍스트, 이미지, 오디오 통합 모델
- 긴 컨텍스트: 100만+ 토큰 컨텍스트 윈도우
- 효율적 추론: 1비트 LLM, 추측 디코딩
- 에이전트 시스템: 자율적 작업 수행 AI 에이전트
2025년 혁신 모델
- Claude 3.5: Anthropic의 최신 모델
- GPT-5 예상: OpenAI 차세대 모델
- Gemini Ultra: Google의 최상위 모델
- Grok-2: xAI의 오픈 대규모 모델
새로운 기술
- Mixture of Experts (MoE): 효율적인 대규모 모델
- Constitutional AI: 안전한 AI 정렬
- Chain of Thought: 추론 능력 향상
- Tool Use: 외부 도구 사용 능력
한국 LLM 생태계
- 네이버 HyperCLOVA X: 한국어 특화 초거대 AI
- 카카오 KoGPT: 한국어 생성 모델
- LG AI Research EXAONE: 멀티모달 AI
- 삼성 가우스: 온디바이스 AI 모델
실무 팁
- 토큰 최적화: 프롬프트 압축, 캐싱 활용
- 하이브리드 접근: 작은 모델 + RAG 조합
- 스트리밍 응답: 사용자 경험 개선
- 비용 관리: 모델 라우팅, 캐싱 전략
콘텐츠 업데이트 요청은 요청 게시판에 써주세요