🌟 Awesome LLM

대규모 언어 모델 개발자를 위한 최고의 도구, 프레임워크, 리소스 모음
2025년 최신 트렌드와 검증된 도구들을 한곳에 모았습니다.

🧩 주요 언어 모델

오픈소스 모델

• LLaMA 3 ⭐ 30k – Meta의 최신 오픈 LLM
• Mistral ⭐ 10k – 고효율 7B 파라미터 모델
• Phi-3 ⭐ 2k – Microsoft의 소형 언어 모델
• Gemma ⭐ 5k – Google의 오픈 모델

한국어 특화 모델

• SOLAR ⭐ 2k – Upstage AI 한국어 LLM
• Polyglot-Ko ⭐ 1k – 한국어 다국어 모델
• KoAlpaca ⭐ 1k – 한국어 Alpaca 모델
• KULLM ⭐ 500 – 고려대 한국어 LLM

코드 생성 모델

• CodeLlama ⭐ 16k – Meta의 코드 특화 LLM
• DeepSeek Coder ⭐ 7k – 코드 생성 모델
• StarCoder ⭐ 8k – 코드 생성 LLM
• WizardCoder ⭐ 10k – 지시 따르기 코드 모델

🚀 프레임워크 & 도구

LLM 프레임워크

• LangChain ⭐ 95k – LLM 애플리케이션 프레임워크
• LlamaIndex ⭐ 36k – 데이터 증강 LLM 프레임워크
• Haystack ⭐ 17k – NLP 파이프라인 프레임워크
• Semantic Kernel ⭐ 22k – AI 오케스트레이션

프롬프트 엔지니어링

• Guidance ⭐ 19k – 언어 모델 제어
• DSPy ⭐ 19k – 프로그래밍 가능한 LM
• Prompt-Engineering-Guide ⭐ 50k – 프롬프트 가이드
• OpenPrompt ⭐ 4k – 프롬프트 학습 프레임워크

파인튜닝 도구

• PEFT ⭐ 17k – 파라미터 효율적 파인튜닝
• LoRA ⭐ 10k – Low-Rank Adaptation
• QLoRA ⭐ 10k – 양자화 LoRA
• Axolotl ⭐ 8k – 간편한 파인튜닝

🔧 추론 & 배포

추론 엔진

• vLLM ⭐ 29k – 고속 LLM 추론
• TensorRT-LLM ⭐ 9k – NVIDIA 최적화 추론
• llama.cpp ⭐ 68k – CPU/GPU 추론
• Ollama ⭐ 98k – 로컬 LLM 실행

모델 서빙

• Text Generation Inference ⭐ 9k – HF 추론 서버
• FastChat ⭐ 37k – 분산 멀티모델 서빙
• Ray Serve ⭐ 34k – 확장 가능한 모델 서빙
• BentoML ⭐ 7k – ML 모델 서빙

경량화 & 최적화

• GGML ⭐ 11k – 텐서 라이브러리
• bitsandbytes ⭐ 6k – 8비트 최적화
• AutoGPTQ ⭐ 5k – 자동 양자화
• AWQ ⭐ 2k – 활성화 인식 양자화

💾 벡터 데이터베이스 & RAG

벡터 데이터베이스

• Chroma ⭐ 15k – AI 네이티브 임베딩 DB
• Weaviate ⭐ 11k – 벡터 검색 엔진
• Qdrant ⭐ 20k – 벡터 유사도 검색
• Pinecone – 관리형 벡터 DB

RAG 프레임워크

• RAGFlow ⭐ 22k – 딥 문서 이해 RAG
• Embedchain ⭐ 2k – RAG 프레임워크
• AutoRAG ⭐ 2k – 자동 RAG 최적화
• LangChain RAG – LangChain RAG 구현

🎯 평가 & 벤치마크

평가 프레임워크

• lm-evaluation-harness ⭐ 7k – LM 평가 프레임워크
• HELM ⭐ 2k – 홀리스틱 평가
• OpenCompass ⭐ 4k – LLM 평가 플랫폼
• Ragas ⭐ 7k – RAG 평가

벤치마크 데이터셋

• MMLU ⭐ 1k – 다중 작업 언어 이해
• HumanEval ⭐ 2k – 코드 생성 평가
• MT-Bench – 멀티턴 대화 평가
• K-MMLU – 한국어 평가 벤치마크

🛡️ 안전성 & 정렬

안전성 도구

• Guardrails ⭐ 4k – LLM 출력 검증
• NeMo Guardrails ⭐ 4k – 대화형 AI 안전
• Llama Guard ⭐ 3k – 입출력 안전성 검사
• LangKit ⭐ 1k – LLM 모니터링

프라이버시 & 보안

• PrivateGPT ⭐ 54k – 프라이빗 문서 상호작용
• LocalAI ⭐ 25k – 로컬 AI API
• h2oGPT ⭐ 12k – 프라이빗 Q&A

🎨 응용 프로그램

챗봇 & 어시스턴트

• Open Assistant ⭐ 37k – 오픈 어시스턴트
• ChatGPT-Next-Web ⭐ 77k – 웹 UI
• Flowise ⭐ 31k – 드래그앤드롭 LLM 플로우
• Dify ⭐ 52k – AI 애플리케이션 플랫폼

코드 어시스턴트

• Continue ⭐ 19k – 오픈소스 코파일럿
• Codeium ⭐ 4k – AI 코드 완성
• Aider ⭐ 22k – AI 페어 프로그래밍
• Cursor – AI 우선 코드 에디터

문서 처리

• Unstructured ⭐ 9k – 문서 파싱
• Marker ⭐ 17k – PDF를 마크다운으로
• DocTR ⭐ 4k – 문서 텍스트 인식

📚 학습 자료

강좌 & 튜토리얼

• LLM University – Cohere LLM 대학
• Hugging Face Course – NLP 코스
• Fast.ai Practical Deep Learning – 실용적 딥러닝
• DeepLearning.AI LLM Courses – Andrew Ng의 LLM 강좌

논문 & 연구

• Papers with Code – NLP 논문
• arXiv CS.CL – 최신 NLP 논문
• The Transformer Family – 트랜스포머 가족
• State of GPT – Andrej Karpathy 강연

커뮤니티

• r/LocalLLaMA – 로컬 LLM 커뮤니티
• Hugging Face Forums – HF 포럼
• LangChain Discord – LangChain 커뮤니티
• 한국 AI 커뮤니티 – 한국 AI 그룹

🆕 2025 Highlights

주요 트렌드

• 멀티모달 LLM: 텍스트, 이미지, 오디오 통합 모델
• 긴 컨텍스트: 100만+ 토큰 컨텍스트 윈도우
• 효율적 추론: 1비트 LLM, 추측 디코딩
• 에이전트 시스템: 자율적 작업 수행 AI 에이전트

2025년 혁신 모델

• Claude 3.5: Anthropic의 최신 모델
• GPT-5 예상: OpenAI 차세대 모델
• Gemini Ultra: Google의 최상위 모델
• Grok-2: xAI의 오픈 대규모 모델

새로운 기술

• Mixture of Experts (MoE): 효율적인 대규모 모델
• Constitutional AI: 안전한 AI 정렬
• Chain of Thought: 추론 능력 향상
• Tool Use: 외부 도구 사용 능력

한국 LLM 생태계

• 네이버 HyperCLOVA X: 한국어 특화 초거대 AI
• 카카오 KoGPT: 한국어 생성 모델
• LG AI Research EXAONE: 멀티모달 AI
• 삼성 가우스: 온디바이스 AI 모델

실무 팁

• 토큰 최적화: 프롬프트 압축, 캐싱 활용
• 하이브리드 접근: 작은 모델 + RAG 조합
• 스트리밍 응답: 사용자 경험 개선
• 비용 관리: 모델 라우팅, 캐싱 전략

콘텐츠 업데이트 요청은 요청 게시판에 써주세요