Skip to content

LLM(基座模型) ​

LLM(Large Language Model,大语言模型)根据上下文进行推理、生成文本、编写代码、总结信息或规划步骤。聊天助手、代码助手和 Agent 的生成能力来自它。

分工 ​

md
LLM -> 理解、推理和生成
Agent 工具 -> 上下文、工具调用、文件操作和任务流程
MCP / 插件 -> 连接外部工具、数据源和服务

LLM 与 Agent 工具是两层。同一工具可以更换模型,同一模型也可以被多个工具使用。效果同时取决于上下文、工具能力、权限、Prompt 和任务拆解。

选择依据 ​

按任务和成本选择。排行榜只作参考,用真实任务验证。

  • 推理:复杂分析、数学、架构设计、长链路排查。
  • 编码:生成、补全、重构、测试修复中的实际表现。
  • 上下文长度:长文档、长日志、跨文件分析。
  • 工具调用:能否稳定选择工具并理解工具结果。
  • 中文:阅读、写作、注释和文档。
  • 速度:频繁问答、编辑器补全、快速迭代。
  • 价格与限额:订阅限制、API 价格、缓存策略。
  • 稳定性:同一 Prompt 多次执行是否稳定,是否遗漏约束或编造信息。
场景侧重点
日常问答响应快、成本低、中文自然;要求清晰、稳定
编码与重构代码理解、跨文件上下文、测试修复、工具调用稳定;复杂任务用更强推理
文档与总结长上下文、结构化输出、中文表达
调研与方案推理和信息筛选;区分事实、推断和建议

规则 ​

  • 简单任务用速度快、成本低的模型;复杂任务再换推理更强的模型。
  • 可以先分析,再决定是否修改或执行。
  • 高风险任务在 Prompt 中写明权限边界和验收标准。
  • 长上下文任务先提供相关文件、日志和背景。

基于 MIT 许可发布