DeepSeek-R1这样的推理模型有着强大的深度思考能力,但也有着一些不同于通用模型的特点与用法,比如不支持函数调用,不支持结构化输出,o1甚至不支持系统提示(System Prompt)等。尽管这和它们的使用场景有关,但有时也会带来不便。今天我们就来说说结构化输出这个常见的问题。

  • 理解结构化输出

  • 借助辅助模型实现DeepSeek结构化输出

  • 借助Agent实现DeepSeek结构化输出

  • 其他问题

01 理解结构化输出

【什么是结构化输出】

结构化输出就是大模型在生成响应时,以一种有结构的规范化形式呈现,而不是自由文本。这种结构化的输出通常包括预定义的字段、标签、列表、表格、或者其他形式的组织化数据,而最常见也是最灵活的一种表达形式就是JSON。比如输出一个结构化的用户信息可能如下:

【为什么需要结构化输出】

结构化输出的最大意义在于:提供一种更易于程序处理的标准化数据交换格式,极大地方便应用的后续解析与处理。这些后续处理比如

  • 将提取的信息导入关系型数据库

  • 自动化的填写web表格/表单

  • 对接外部或者企业的API

这种能力对于企业级的应用,特别是在多步骤任务的Agent中,可以极大方便后续步骤的处理,并减少LLM带来的不确定性。举一个例子:

在一个自主学术研究的Agent中,希望借助DeepSeek-R1的深度思考能力,首先生成完善的研究大纲,后续再根据大纲对每一个子主题借助搜索引擎、RAG等获取参考资料,并做进一步研究。

在这个例子中,我们希望DeepSeek输出的大纲如下:

很显然,这样的输出会更方便后续程序的理解与处理。

【结构化输出的常见方式】

对于目前的很多通用模型来说,结构化输出已经不再是一个障碍,你可以通过模型提供的API参数进行强制。比如gpt-4o目前支持几种主要的结构化输出方式:

除了Function Calling(这必然会产生结构化输出)外:

  • JSON mode: 需要使用提示词进行限定,并在API参数中指定响应格式为json_object,这种方式可以确保输出有效的JSON格式,但具体格式需要借助提示(目前一些模型还只支持这种方式,比如阿里的qwen)。

  • JSON Schema :使用更加便捷,通过API传入定义的JSON Schema或者Pydantic模型即可,无需借助提示词。这种方式可以直接输出指定的对象,无需自解析。比如对于上面的例子,你可以要求模型直接输出以下的Outline对象:

# 数据模型定义  
class Subsection(BaseModel):  
    """子章节"""  
    subsection_title: str = Field(..., description="子章节的标题")  
    description: str = Field(..., description="子章节的详细内容描述")  
  
class Section(BaseModel):  
    """主要章节及其包含的子章节"""  
    section_title: str = Field(..., description="章节标题")  
    description: str = Field(..., description="章节内容概述")  
    subsections: Optional[List[Subsection]] = Field(  
        default=None,  
        description="本章节中的子章节",  
    )  
  
class Outline(BaseModel):  
    """完整大纲"""  
    page_title: str = Field(..., description="报告标题")  
    sections: List[Section] = Field(  
        default_factory=list,  
        description="文章的主要章节",  
    )

当你指定这里的Outline为输出格式时,API将会直接返回你Outline类型的对象,极大的方便了后续处理。

注意这里的结构化输出是在API层的支持,并非简单的通过Prompt进行输出格式的限定。当然,你也可以通过提示词要求deepseek生成json格式的字符串,但存在较大的不确定性(比如内容多了个```json```,或者"这是你要求的json字符串"),从而导致后续解析失败。

那么现在我们需要deepseek来帮助完成Agent的某个步骤,同时希望获得稳定的结构化输出,应该如何处理呢?接下来介绍两种方式。

02 借助辅助模型处理

这种方法融合DeepSeek-R1的深度思考能力与通用模型的结构化输出能力(如GPT-4o):**将R1的推理结果借助一个“辅助”模型进行“格式化”后输出,**概念流程如下:

具体到LangChain框架中,实现这种顺序流的方式又有两种,这里依次介绍。

【Chain链】

Chain是LangChain中最核心的概念。它将多个步骤或组件连接在一起,实现复杂的处理任务。借助LCEL(Langchain表达式语言)可以快速构建这个Chain:

......  
  
# deepseek提示  
system_prompt_deepseek = ChatPromptTemplate.from_template("""  
针对用户提供的主题, 撰写一篇研究报告的大纲。要求全面且具体。我的主题:{topic}  
""")  
  
# 内容格式化提示  
system_prompt_format = ChatPromptTemplate.from_template("""  
你是一个内容格式化专家, 只负责将输入内容转化为结构化输出, 不要做额外思考。我的内容:{draft}  
""")  
  
# deepseek模型  
llm_ollama_deepseek = ChatOllama(model='deepseek-r1:1.5b')  
  
# openai模型:使用with_structured_output强制结构化输出  
llm_openai = ChatOpenAI(model='gpt-4o-mini').with_structured_output(Outline)  
  
# 创建 LangChain 的 chain  
chain = system_prompt_deepseek | llm_ollama_deepseek | system_prompt_format | llm_openai

我们对这个Chain进行测试:

......  
  
    response = await chain.ainvoke({"topic":"deepseek-r1的技术原理与创新分析"})  
    print("\n生成的大纲:")  
    print(response.as_str)

输出如下,我们可以得到一个非常干净的结构化输出的大纲(这里输出的response实际是一个上面定义的Outline对象,这里通过一个简单的as_str进行转化打印):

【LangGraph工作流】

既然是一个流式任务,当然也可以通过LangGraph来实现,构建这样一个简单的Graph即可:

这里核心的state与node定义如下:

...  
class State(TypedDict):  
    """图的状态类型"""  
    topic: str  
    draft: str | None  
    output: Outline | None  
  
def deepseek_node(state: State) -> State:  
      
    """使用deepseek模型处理输入任务"""  
    ollama = ChatOllama(model="deepseek-r1:1.5b")  
    messages = [SystemMessage(content='针对用户提供的主题,撰写一篇研究报告的大纲。要求全面且具体'),  
    HumanMessage(content=state["topic"])]  
    response = ollama.invoke(messages)  
    state["draft"] = response.content  
    return state  
  
def formatter_node(state: State) -> State:  
  
    """使用GPT-4o处理并格式化输出"""  
    llm = ChatOpenAI(model="gpt-4o-mini").with_structured_output(Outline)  
    messages = [SystemMessage(content='你是一个内容格式化专家,只负责将输入内容转化为结构化输出,不要做额外思考'),  
    HumanMessage(content=f'我的内容: {state["draft"]}')]  
    response = llm.invoke(messages)  
    state["output"] = response  
    return state

剩下的工作就是创建Graph并测试,交给读者们自行完成。

以上的两种方法(Chain或者Graph)都可以达到相同的目的,Chain实现相对简洁,适合在普通的应用中使用;而如果你本身就是一个需要使用LangGraph来实现的复杂Agent应用,那么可以参考第二种:增加一个专门的formatter节点即可。

03 借助ReActAgent实现

这种方法的思想是借助Agent的思想,让deepseek的深度思考作为一个Agent可以使用的工具,在这个工具(使用deepseek模型)获得思考结果后,再通过结构化输出的模型进行格式化(使用gpt-4o模型)。概念如下图:

由于这是一个React类型的Agent,因此其更适合在多Agent应用环境中使用,让其与其他Agent通过协作完成更复杂的任务。

【构建Tool】

首先创建一个使用deepseek-r1进行思考的工具,输入是研究主题,输出则是思考结果(自由文本表达的研究大纲)。

@tool  
def deepseek_research(prompt: str) -> str:  
    """  
        对输入的研究任务进行思考,并生成研究大纲的草稿  
        args:  
            prompt(str): 输入的研究任务描述  
        return:  
            result(str): 思考结果  
    """  
    print('start think...')  
    messages = [HumanMessage(content=f'针对用户提供的主题,撰写一篇研究报告的大纲。要求全面且具体。我的主题:{prompt}')]  
    result = llm_ollama_deepseek.invoke(messages)  
    print(result.content)  
    return result.content

【创建ReAct Agent】

借助LangChain的prebuilt函数快速的构建一个ReAct Agent来使用这个Tool。为了让这个Agent必须使用这个Tool,可能需要在提示词上适当调优。参考如下代码:

...  
llm = ChatOpenAI(model='gpt-4o-mini')  
agent = create_react_agent(llm, response_format=Outline, tools=[deepseek_research])  
response = agent.invoke({"messages":[  
    SystemMessage(content="请首先使用工具(deepseek_research)来生成研究大纲草稿,然后对草稿进行格式化输出。请注意把输入主题直接交给工具,不要做思考与加工。以下是我的研究主题。"),  
    HumanMessage(content="deepseek-r1技术原理与创新分析")]})  
last_message = response["structured_response"]  
print(last_message.as_str)

注意这里与上面两种方法的不同之处在于:不直接调用llm的with_structured_output方法,而是在create_react_agent方法中指定response_format参数(本质上一样)。

04 其他问题

以上展示了两种方法来给DeepSeek-R1这样的推理模型“嫁接”上稳定的结构化输出的能力,以帮助在复杂的企业级应用中对接其他流程或任务。

这里还有最后一个问题:如果我的辅助模型不是gpt-4o这样具备便捷的结构化输出接口的模型怎么办(即不支持使用JSON Schema或者Pydantic模型定义输出格式)?方法就是借助JSON mode,以qwen模型为例,通常包括几个步骤:

1. 在API调用时指定JSON mode,比如qwen系列模型中:

response_format={"type": "json_object"}

2. 在提示词中明确要求进行JSON结构化输出,并指定格式。

3. 由于这种方式的API不会直接输出对象,因此你需要对结果字符串做解析:

json_object = json.loads(result)

OK,借助以上介绍的几种方法,现在你可以把DeepSeek更加如鱼得水接入到你的应用中,感受其强大的威力。

零基础如何学习AI大模型

领取方式在文末

为什么要学习大模型?

学习大模型课程的重要性在于它能够极大地促进个人在人工智能领域的专业发展。大模型技术,如自然语言处理和图像识别,正在推动着人工智能的新发展阶段。通过学习大模型课程,可以掌握设计和实现基于大模型的应用系统所需的基本原理和技术,从而提升自己在数据处理、分析和决策制定方面的能力。此外,大模型技术在多个行业中的应用日益增加,掌握这一技术将有助于提高就业竞争力,并为未来的创新创业提供坚实的基础。

大模型典型应用场景

AI+教育:智能教学助手和自动评分系统使个性化教育成为可能。通过AI分析学生的学习数据,提供量身定制的学习方案,提高学习效果。
AI+医疗:智能诊断系统和个性化医疗方案让医疗服务更加精准高效。AI可以分析医学影像,辅助医生进行早期诊断,同时根据患者数据制定个性化治疗方案。
AI+金融:智能投顾和风险管理系统帮助投资者做出更明智的决策,并实时监控金融市场,识别潜在风险。
AI+制造:智能制造和自动化工厂提高了生产效率和质量。通过AI技术,工厂可以实现设备预测性维护,减少停机时间。

这些案例表明,学习大模型课程不仅能够提升个人技能,还能为企业带来实际效益,推动行业创新发展。

学习资料领取

如果你对大模型感兴趣,可以看看我整合并且整理成了一份AI大模型资料包,需要的小伙伴文末免费领取哦,无偿分享!!!
vx扫描下方二维码即可
加上后会一个个给大家发

在这里插入图片描述

部分资料展示

一、 AI大模型学习路线图

整个学习分为7个阶段
在这里插入图片描述
请添加图片描述

二、AI大模型实战案例

涵盖AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,皆可用。
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

三、视频和书籍PDF合集

从入门到进阶这里都有,跟着老师学习事半功倍。
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

四、LLM面试题

在这里插入图片描述
在这里插入图片描述

五、AI产品经理面试题

在这里插入图片描述

六、deepseek部署包+技巧大全

在这里插入图片描述

😝朋友们如果有需要的话,可以V扫描下方二维码联系领取~
在这里插入图片描述

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐