← 业务场景

核心原则

能用 Prompt 解决的不上 RAG,能用 RAG 解决的不微调。越简单的东西,维护成本越低,出问题越快能修。

四种方案一张图

你的需求是什么?
├── 只想让 AI 在某个任务上输出得更好 → Prompt 工程(零成本)
├── 让 AI 回答基于公司文档 → RAG(先查资料再回答)
├── 让 AI 执行多步操作(查+判断+执行) → Agent(AI+工具+自主决策)
└── 让 AI 学会行业专有术语和风格 → 微调(最后的选择)

分别的代价

方案 实施难度 成本 见效 维护
Prompt 即时
RAG ⭐⭐ 数万元 1-2 周
Agent ⭐⭐⭐ 数万-数十万 2-4 周
微调 ⭐⭐⭐⭐ 数万-数十万 2-8 周 很高

四个快速判断

什么时候用 RAG(80% 的场景) - 你需要 AI 基于公司私有文档回答 - 你需要回答能追溯到原文出处 - 你需要最新的信息(文档更新 = AI 立刻更新)

什么时候用 Agent - 不只是「回答问题」,还要「执行操作」(查订单、退款、发邮件) - 场景是封闭的、可验证的(代码生成、数据查询) - 错误成本可以接受(关键操作有人工审核)

什么时候用微调 - Prompt 工程试过了,效果不理想 - 你有至少几百条高质量标注数据 - 行业术语特别特殊(医学、法律、金融合规) - 需要非常固定的输出格式

什么时候只用 Prompt - 90% 的场景——先试,大概率就够了

真实案例

某零售企业想做智能客服——一开始以为需要微调。我们分析后发现: - 用 RAG(产品手册当知识库)→ 就解决了 90% 的问题 - 用 Prompt(定义客服角色的语气和边界)→ 解决了剩下的 10% - 成本:几万元、两周上线 - 如果一开始选微调:几十万、两个月。拿到的是几乎一样的效果

这个案例的核心教训:别一开始就选最复杂的方案。从最简单的开始——发现问题再逐步升级。

🤔 遇到不懂的术语?在这里查