手把手教你搭建个人桌面AI助手(满血版671B-DeepSeek)

近期DeepSeek很火爆,推理效果不错。自己又刚好在做大模型相关的开发工作,写一个简便的搭建教程,供大家参考。

一、搭建效果

  • 1、多模型组合。可先与DeepSeek V3对话,再基于历史聊天记录与DeepSeekR1对话。

  • 2、支持智能体功能(LLM - Agent)。支持使用联网搜索、链接访问器、计算器等工具。

  • 3、可跑满血版本671B的R1模型。

  • 4、无需本地显卡配置,有网络即可。

  • 5、支持本地文件搭建知识库。

  • 效果1(多模型组合,DeepSeek R1+DeepSeek V3)img

  • 效果2(智能体,联网搜索,基于最新知识回答问题)img

  • 效果3(智能体,使用链接访问器工具,读取总结网页链接内容)img

二、搭建对话大模型

  • 2.1、创建并复制模型接入点

    • 打开字节的火山引擎链接:linkimg - 2img

    • 3img

  • 2.2、复制Keyimg

  • 2.3、在Cherry Studio填写凭证Key、模型接入点、API地址。

    • API地址填:https://ark.cn-beijing.volces.com/api/v3/chat/completions#

    • 三者填完后,点检查,连接成功后可使用。imgimg

三、搭建对话智能体(进阶)

  • 注:智能体要基于第二步的模型创建,因为智能体是模型的能力扩展,智能体支持调用各种小工具。

  • 3.1、创建模型接入点,要求模型具备function call功能。以Doubao-pro-32k为例,如图所示。imgimg

  • 3.2、创建应用-零代码-单聊imgimg

  • 3.3、在Cherry Studio填写凭证Key、模型接入点、API地址。

    • API地址:https://ark.cn-beijing.volces.com/api/v3/bots/chat/completions#

    • 模型接入点img

    • 凭证Keyimg

四、选型备注及平替

  • 4.1模型提供商:字节跳动的火山引擎 // 平替:华为云的ModelArts、硅基流动

    • 注:模型提供商价格对比
      • 对于DeepSeekR1模型,火山引擎百万token输入输出百万tokens共10元,硅基流动百万tokens是20元。imgimg
  • 4.2对话盒子软件:Cherry Studio // 平替:ChatBox

  • 4.3AI模型:DeepSeek R1、DeepSeek V3、智能体Doubao-pro-32k-functioncall

五、踩坑

  • key和连接点正确,但提示连接失败:换代理。img

  • 智能体的联网功能和链接访问器工具只能选1个,当开启联网搜索工具,链接访问器会失效。

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐