AI应用实战:从Prompt到Agent
前两篇文章我们搞懂了大模型是什么、怎么选。但大模型就像一台发动机——光有发动机跑不起来,你需要把它装到车上、配上方向盘、挂上挡。
这篇文章我们就来看看:怎么把大模型变成真正能用的工具?
Prompt:跟AI对话的技巧
你每次在ChatGPT里输入的文字,就叫做Prompt(提示词)。
Prompt看起来很简单——不就是打字聊天吗?但实际上,你怎么提问,直接决定了AI回答的质量。这就是Prompt Engineering(提示词工程)——一门专门研究"怎么跟AI高效对话"的学问。
好的Prompt通常包含三个要素:背景 + 任务 + 要求。
对比一下:
- 差的Prompt:“帮我写个邮件”
- 好的Prompt:“你是市场部经理,请给客户写一封关于下周产品发布的邀请邮件,语气正式,控制在300字以内”
差别很明显:后者告诉了AI你是谁、要干什么、有什么限制。AI拿到的信息越充分,给出的回答就越靠谱。
还有一个你可能不知道的概念:System Prompt(系统提示词)。这是产品在后台给AI设定的"隐藏指令"——你看不到,但它决定了AI的"人设"和行为规则。比如ChatGPT的System Prompt可能包含"你是一个有用的AI助手,不要生成有害内容"这样的指令。这就是为什么不同的AI产品即使用的是同一个模型,表现也会不一样。
Skill、Plugin 和 MCP:给AI装装备
除了直接打字对话,现代AI产品还提供了更多能力扩展方式。
Skill(技能)/ Custom Instructions(自定义指令) 是把好的Prompt封装成可复用的模板。比如你经常让AI帮你做代码审查,你可以把这个任务"保存"成一个Skill,以后一键调用,不用每次重新输入一大段指令。Claude Code里的各种技能(如自动提交代码、生成PR)就是典型的Skill。
Plugin(插件) 则是给AI产品加装的功能模块。比如ChatGPT的联网搜索插件、代码解释器插件——它们让AI不再只能靠自己的训练数据回答问题,而是能获取实时信息、运行代码。
MCP(Model Context Protocol,模型上下文协议) 是一个更新的概念。你可以把它理解成一个"万能插座"——它定义了一套标准接口,让任何AI模型都能即插即用地连接各种外部工具和数据源。以前每接一个工具都要单独开发适配,有了MCP,工具的开发者只要做一次适配,所有支持MCP的AI模型就都能用了。
简单来说:Skill封装的是"怎么用",Plugin加的是"新能力",MCP统一的是"连接方式"。
多模态:AI不只能读懂文字
早期的AI模型只能处理文字,但现在的先进模型已经具备了多模态能力——能同时理解和处理文字、图片、语音、视频。
GPT-4o就是一个多模态模型:你可以发一张图片给它说"解释这张图表的含义",或者直接语音对话。Google的Gemini也是多模态的,还能处理视频内容。
多模态的意义在于:你不再需要用文字描述一切,可以直接给AI"看"和"听",交互方式更自然。
RAG:让AI"开卷考试"
大模型有一个明显的短板:它的知识有截止日期,也不知道你公司的内部资料。GPT-4的训练数据截止到某个时间点,你问它昨天发生的事它不知道;你问它你们公司的报销流程,它更不知道。
RAG(Retrieval-Augmented Generation,检索增强生成) 就是为了解决这个问题。
打个比方:纯LLM回答问题就像闭卷考试——只能靠脑子里记住的东西。RAG则像开卷考试——先去资料库里翻一翻,找到相关内容,再基于找到的资料来回答。

具体流程是这样的:
- 用户提问:“我们公司的年假政策是什么?”
- 系统先从知识库(公司规章制度文档)中搜索与"年假"相关的内容
- 把搜索到的相关片段和用户的问题一起打包(还记得文章2讲过的上下文窗口吗?检索到的资料就要塞进这个窗口里)
- 发给LLM,让它基于这些资料生成回答
这样AI就能准确回答关于你公司内部信息的问题了。知识库问答就是RAG最典型的应用场景——很多企业用它来做内部客服、文档搜索、HR政策咨询等。
Agent:能自主行动的AI
如果说Prompt是"你问一句AI答一句",RAG是"AI能查资料再回答",那**Agent(智能体)**就是"AI能自己规划并执行一整套任务"。
Agent的核心能力是自主性:你只需要给它一个目标,它会自己拆解任务、选择合适的工具、逐步执行、检查结果,遇到问题还会自己调整方案。

举个例子:你跟Claude Code说"帮我实现一个用户登录功能"。
作为Agent,它不会直接生成一段代码就完事,而是会这样工作:
- 理解任务:需要实现登录功能
- 规划步骤:先看现有代码结构 → 设计接口 → 写后端代码 → 写前端页面 → 写测试
- 选择工具:需要读文件、写代码、运行测试
- 逐步执行:按照规划一步步操作
- 检查结果:运行测试,如果有bug就自动修复
- 汇报完成:告诉你做了什么
Workflow(工作流) 和Agent密切相关——它把多个步骤串成一条自动化流水线。比如Dify这样的低代码平台,就让你用拖拽的方式搭建AI工作流:用户提问 → 意图识别 → 分流到不同处理分支 → 调用知识库 → 生成回答。整个过程自动执行,不需要人介入。
护栏与评估
当AI被用到实际业务中,两个问题变得很重要:安全和质量。
护栏(Guardrails) 是给AI设定的安全边界。就像公司给员工的行为规范手册一样,护栏限制了AI能输出什么内容——比如不能输出敏感信息、不能生成有害建议、不能越权操作。在企业应用中,护栏是必不可少的。
衡量AI回答质量,有两个常用指标:
- 准确率(Precision):AI回答的内容中,有多少是正确的。类比:考试做对的题占做过的题的比例。
- 召回率(Recall):所有相关的内容中,AI找出了多少。类比:考试覆盖了多少个考点。
这两个指标经常需要平衡——回答得太"保守"可能准确率高但召回率低(很多正确答案没给出来),回答得太"大胆"可能召回率高但准确率低(给了一堆不相关的东西)。
其他概念速览
几个你可能会听到的术语,这里简单提及:
- Fine-tuning(微调):用特定领域的数据对模型做"专业培训",让它在某个领域更专业。类比:普通医生进修成了专科医生。
- Function Calling / Tool Use(工具调用):让AI能主动调用外部工具——搜索引擎、计算器、数据库等。类比:给助手配了个计算器,遇到算数它就会自己用。
- Multi-Agent(多智能体):多个AI Agent协作完成复杂任务,各司其职。类比:一个项目组里不同角色分工合作。
小结:怎么选?
| 你的需求 | 用什么 | 典型场景 |
|---|---|---|
| 日常问答、写作辅助 | Prompt | 直接用ChatGPT/Kimi聊天 |
| 需要基于私有资料回答 | RAG | 企业知识库问答、内部文档搜索 |
| 需要AI自动完成复杂任务 | Agent | AI编程、自动化工作流、研究助理 |
| 需要处理图片/语音/视频 | 多模态模型 | 图表分析、语音交互 |
没有银弹——简单场景用Prompt就够了,复杂场景才需要RAG或Agent。不要为了用技术而用技术。
下一步
现在你已经了解了AI从模型到应用的全链路。但AI并不完美——它会"胡说八道"、会有偏见、会泄露隐私。下一篇我们会聊聊AI的局限,以及如何跟AI安全共事。
延伸阅读:文章2:大模型是什么 | 文章4:AI的局限——如何与AI共事
更多推荐
所有评论(0)