🤖 LLM 相关技术资源
精选大语言模型相关技术文档、工具和平台链接
Chat 应用
ChatGLM
智谱AI开发的大语言模型对话平台，提供智能对话和多种AI工具服务。
DeepSeek Chat
DeepSeek 官方聊天应用，提供强大的大语言模型对话服务。
文心一言
百度开发的大语言模型对话平台，提供智能对话和知识问答服务。
通义千问
阿里巴巴开发的大语言模型对话平台，提供智能对话和多种AI服务。
Claude
Anthropic 开发的 AI 助手，提供智能对话和文本处理服务。
ChatGPT
OpenAI 开发的 AI 聊天机器人，支持自然语言对话和任务处理。
Gemini
Google 开发的多模态 AI 助手，支持文本、图像等多种输入。
Poe
Quora 开发的 AI 聊天平台，集成了多种 AI 模型。
Perplexity
基于 AI 的搜索引擎，提供实时信息查询和对话服务。
深度学习框架
PyTorch 官方文档
PyTorch 是一个开源的机器学习框架，提供灵活的深度学习开发环境。
TensorFlow
Google 开发的开源机器学习平台，提供端到端的机器学习解决方案。
JAX
Google 开发的高性能数值计算库，支持自动微分和 GPU/TPU 加速。
训练框架
LLaMA Factory
用于微调大语言模型的工具包，支持多种训练策略和模型。
XTuner
InternLM 团队开发的轻量级微调工具包，支持多种模型的高效微调。
DeepSpeed
Microsoft 开发的深度学习优化库，支持大规模模型训练和推理。
Accelerate
Hugging Face 开发的库，简化分布式训练和混合精度训练。
LLaMA Recipes
Meta 提供的 LLaMA 模型训练和微调示例代码集合。
推理引擎
vLLM
高性能的大语言模型推理和服务框架，支持多种模型的高效推理。
LMDeploy
InternLM 团队开发的高效推理工具包，支持模型量化和部署。
llama.cpp
C++ 实现的高性能 LLaMA 模型推理库，支持 CPU 和 GPU 推理。
LLaMA
Meta 开源的大语言模型，提供推理和微调代码。
llama-cpp-python
llama.cpp 的 Python 绑定，提供易用的 Python API。
模型平台
ModelScope
阿里巴巴开源的一站式模型服务平台，提供丰富的预训练模型和工具。
Hugging Face
全球最大的机器学习模型和数据集平台，提供丰富的开源模型。
Ollama Library
Ollama 的模型库，提供各种开源模型的下载和使用。
RAG & Agent 框架
Prompting Guide - RAG
关于检索增强生成（RAG）的详细指南，包含最佳实践和研究进展。
LlamaIndex
用于构建 LLM 应用程序的数据框架，专注于 RAG 和结构化数据。
LangChain
用于开发由语言模型驱动的应用程序的框架。
LangGraph
用于构建有状态的、多参与者的 LLM 应用程序的库。
开发工具
MCP 文档
Model Context Protocol (MCP) 是一个用于构建 AI 应用的协议和工具集。
OpenAI Python SDK
OpenAI 官方 Python 客户端库，用于访问 OpenAI API。
Anthropic Python SDK
Anthropic 官方 Python 客户端库，用于访问 Claude API。
Cohere Python SDK
Cohere 官方 Python 客户端库，用于访问 Cohere API。
提示工程
Prompting Guide
全面的提示工程指南，包含各种技术和最佳实践。
PromptFlow
Microsoft 开发的提示工程工具，用于构建和测试 LLM 应用。
Promptify
用于提示工程的 Python 库，提供各种提示模板和工具。
评估工具
OpenAI Evals
OpenAI 开源的 LLM 评估框架，用于评估模型性能。
DeepSpeed-MII
Microsoft 的模型推理接口，提供高效的模型服务。
Hugging Face Evaluate
Hugging Face 的评估库，提供各种评估指标和工具。
Ragas
专门用于评估大语言模型应用的库，提供RAG评估、Agent评估等多种评估工具。
