主题
LLM(基座模型)
LLM(Large Language Model,大语言模型)根据上下文进行推理、生成文本、编写代码、总结信息或规划步骤。聊天助手、代码助手和 Agent 的生成能力来自它。
分工
md
LLM -> 理解、推理和生成
Agent 工具 -> 上下文、工具调用、文件操作和任务流程
MCP / 插件 -> 连接外部工具、数据源和服务LLM 与 Agent 工具是两层。同一工具可以更换模型,同一模型也可以被多个工具使用。效果同时取决于上下文、工具能力、权限、Prompt 和任务拆解。
选择依据
按任务和成本选择。排行榜只作参考,用真实任务验证。
- 推理:复杂分析、数学、架构设计、长链路排查。
- 编码:生成、补全、重构、测试修复中的实际表现。
- 上下文长度:长文档、长日志、跨文件分析。
- 工具调用:能否稳定选择工具并理解工具结果。
- 中文:阅读、写作、注释和文档。
- 速度:频繁问答、编辑器补全、快速迭代。
- 价格与限额:订阅限制、API 价格、缓存策略。
- 稳定性:同一 Prompt 多次执行是否稳定,是否遗漏约束或编造信息。
| 场景 | 侧重点 |
|---|---|
| 日常问答 | 响应快、成本低、中文自然;要求清晰、稳定 |
| 编码与重构 | 代码理解、跨文件上下文、测试修复、工具调用稳定;复杂任务用更强推理 |
| 文档与总结 | 长上下文、结构化输出、中文表达 |
| 调研与方案 | 推理和信息筛选;区分事实、推断和建议 |
规则
- 简单任务用速度快、成本低的模型;复杂任务再换推理更强的模型。
- 可以先分析,再决定是否修改或执行。
- 高风险任务在 Prompt 中写明权限边界和验收标准。
- 长上下文任务先提供相关文件、日志和背景。
