核心原则
能用 Prompt 解决的不上 RAG,能用 RAG 解决的不微调。越简单的东西,维护成本越低,出问题越快能修。
四种方案一张图
你的需求是什么?
├── 只想让 AI 在某个任务上输出得更好 → Prompt 工程(零成本)
├── 让 AI 回答基于公司文档 → RAG(先查资料再回答)
├── 让 AI 执行多步操作(查+判断+执行) → Agent(AI+工具+自主决策)
└── 让 AI 学会行业专有术语和风格 → 微调(最后的选择)
分别的代价
| 方案 | 实施难度 | 成本 | 见效 | 维护 |
|---|---|---|---|---|
| Prompt | ⭐ | 零 | 即时 | 零 |
| RAG | ⭐⭐ | 数万元 | 1-2 周 | 中 |
| Agent | ⭐⭐⭐ | 数万-数十万 | 2-4 周 | 高 |
| 微调 | ⭐⭐⭐⭐ | 数万-数十万 | 2-8 周 | 很高 |
四个快速判断
什么时候用 RAG(80% 的场景) - 你需要 AI 基于公司私有文档回答 - 你需要回答能追溯到原文出处 - 你需要最新的信息(文档更新 = AI 立刻更新)
什么时候用 Agent - 不只是「回答问题」,还要「执行操作」(查订单、退款、发邮件) - 场景是封闭的、可验证的(代码生成、数据查询) - 错误成本可以接受(关键操作有人工审核)
什么时候用微调 - Prompt 工程试过了,效果不理想 - 你有至少几百条高质量标注数据 - 行业术语特别特殊(医学、法律、金融合规) - 需要非常固定的输出格式
什么时候只用 Prompt - 90% 的场景——先试,大概率就够了
真实案例
某零售企业想做智能客服——一开始以为需要微调。我们分析后发现: - 用 RAG(产品手册当知识库)→ 就解决了 90% 的问题 - 用 Prompt(定义客服角色的语气和边界)→ 解决了剩下的 10% - 成本:几万元、两周上线 - 如果一开始选微调:几十万、两个月。拿到的是几乎一样的效果
这个案例的核心教训:别一开始就选最复杂的方案。从最简单的开始——发现问题再逐步升级。