LLM（基座模型）

什么是 LLM？

LLM（Large Language Model，大语言模型）是 AI Agent、聊天助手、代码助手和各类生成式 AI 应用的基础能力来源。

可以把它理解为“负责理解与生成的模型引擎”。Agent 工具负责组织上下文、调用工具、读写文件和执行流程；LLM 负责根据上下文进行推理、生成文本、编写代码、总结信息或规划步骤。

LLM 和 Agent 工具的关系

LLM 不等于 Agent 工具。

LLM -> 负责理解、推理和生成
Agent 工具 -> 负责上下文管理、工具调用、文件操作和任务流程
MCP / 插件 -> 负责连接外部工具、数据源和服务

同一个 Agent 工具通常可以接入不同模型；同一个模型也可能被多个 Agent 工具使用。实际效果不只取决于模型本身，还取决于上下文质量、工具能力、权限设置、Prompt 写法和任务拆解方式。

选择模型时看什么？

选择模型时不只看排行榜，更要看任务类型和使用成本。

• 推理能力：复杂分析、数学、架构设计、长链路排查更依赖推理能力。
• 编码能力：代码生成、补全、重构、测试修复需要关注真实代码任务表现。
• 上下文长度：长文档、长日志、跨文件分析需要更大的上下文窗口。
• 工具调用能力：Agent 场景中，模型能否稳定选择工具、理解工具结果很关键。
• 中文能力：中文资料阅读、中文写作、中文注释和本地化文档需要单独关注。
• 速度与延迟：频繁问答、编辑器内补全、快速迭代更看重响应速度。
• 价格与限额：高频使用时，订阅限制、API 价格和缓存策略都会影响体验。
• 稳定性：同一 Prompt 多次执行是否稳定，是否容易遗漏约束或编造信息。

常见使用场景

日常问答

适合使用响应快、成本低、中文表达自然的模型。重点是清晰、稳定，不一定需要最强推理模型。

编码与重构

重点关注代码理解、跨文件上下文、测试修复和工具调用稳定性。复杂任务通常需要更强的推理模型和更明确的 Prompt。

文档与总结

重点关注长上下文、结构化输出和中文表达质量。对于个人知识库，模型需要能把资料整理成稳定、可复习的笔记。

调研与方案

重点关注推理、信息筛选和不确定性表达。需要区分事实、推断和建议，避免把猜测写成结论。

使用原则

• 简单任务优先使用速度快、成本低的模型。
• 复杂任务再切换到推理能力更强的模型。
• 不把模型排行榜当作唯一依据，应结合真实任务测试。
• 同一个任务可以先让模型分析，再决定是否修改或执行。
• 对高风险任务，Prompt 中应明确权限边界和验收标准。
• 对长上下文任务，优先提供相关文件、日志和背景，不要让模型盲目搜索。