手把手教你搭建个人桌面AI助手(满血版671B-DeepSeek)
DeepSeek满血版本搭建教程
手把手教你搭建个人桌面AI助手(满血版671B-DeepSeek)
近期DeepSeek很火爆,推理效果不错。自己又刚好在做大模型相关的开发工作,写一个简便的搭建教程,供大家参考。
一、搭建效果
-
1、多模型组合。可先与DeepSeek V3对话,再基于历史聊天记录与DeepSeekR1对话。
-
2、支持智能体功能(LLM - Agent)。支持使用联网搜索、链接访问器、计算器等工具。
-
3、可跑满血版本671B的R1模型。
-
4、无需本地显卡配置,有网络即可。
-
5、支持本地文件搭建知识库。
-
效果1(多模型组合,DeepSeek R1+DeepSeek V3)
-
效果2(智能体,联网搜索,基于最新知识回答问题)
-
效果3(智能体,使用链接访问器工具,读取总结网页链接内容)
二、搭建对话大模型
-
2.1、创建并复制模型接入点
-
打开字节的火山引擎链接:link
- 2
-
3
-
-
2.2、复制Key
-
2.3、在Cherry Studio填写凭证Key、模型接入点、API地址。
-
API地址填:https://ark.cn-beijing.volces.com/api/v3/chat/completions#
-
三者填完后,点检查,连接成功后可使用。
-
三、搭建对话智能体(进阶)
-
注:智能体要基于第二步的模型创建,因为智能体是模型的能力扩展,智能体支持调用各种小工具。
-
3.1、创建模型接入点,要求模型具备function call功能。以Doubao-pro-32k为例,如图所示。
-
3.2、创建应用-零代码-单聊
-
3.3、在Cherry Studio填写凭证Key、模型接入点、API地址。
-
API地址:https://ark.cn-beijing.volces.com/api/v3/bots/chat/completions#
-
模型接入点
-
凭证Key
-
四、选型备注及平替
-
4.1模型提供商:字节跳动的火山引擎 // 平替:华为云的ModelArts、硅基流动
- 注:模型提供商价格对比
- 对于DeepSeekR1模型,火山引擎百万token输入输出百万tokens共10元,硅基流动百万tokens是20元。
- 对于DeepSeekR1模型,火山引擎百万token输入输出百万tokens共10元,硅基流动百万tokens是20元。
- 注:模型提供商价格对比
-
4.2对话盒子软件:Cherry Studio // 平替:ChatBox
-
4.3AI模型:DeepSeek R1、DeepSeek V3、智能体Doubao-pro-32k-functioncall
五、踩坑
-
key和连接点正确,但提示连接失败:换代理。
-
智能体的联网功能和链接访问器工具只能选1个,当开启联网搜索工具,链接访问器会失效。
更多推荐
所有评论(0)