小白就能上手的DeepSeek本地部署大全——Ollama+Chatbox构建私人本地知识库

一、初识DeepSeek

上图是我让DeepSeek自己做的自我介绍,听起来很酷吧!简单总结一下:DeepSeek是一个可以拟人推理思维的AI大模型,它不仅可以媲美ChatGPT-3.5模型,而且免费,还附带解题思路。

DeepSeek模型介绍

DeepSeek是一个强大的开源AI模型系列,由深度求索(DeepSeek)开发。它提供了多个版本的模型:

  • DeepSeek-Coder:专注于代码开发的AI助手,精通多种编程语言。
  • DeepSeek-Chat:通用对话模型,支持中英双语,可处理多领域问题。
  • DeepSeek-MoE:基于专家混合的大规模语言模型。

特点是开源、性能强大,在代码理解和生成方面表现出色。

所谓的解题思路,就是它内置的提示词库:https://api-docs.deepseek.com/zh-cn/prompt-library/

二、为什么要本地部署

说到本地部署,我觉得主要有以下原因:

  • DeepSeek目前对服务器访问频次做了限制,经常访问都会提示"服务器繁忙,请稍后再试。"
  • 有些企业有数据安全的要求,本地化部署可以有效防止数据外泄。
  • 还有部分同学认为别人有的我必须有,那我也得"装一装"。

本地部署的好处

  • 可以断网使用:不需要考虑网络带来的限制,可以自由使用。
  • 私密数据不会泄露:模型部署在本地或者企业服务集群,可以有效防止数据泄露。

适合人群:

  • 有需求的程序员:有些程序员开发的项目比较保密,本地部署可以防止数据泄露。
  • 企业:企业可以蒸馏自己的大模型,用于自身的智能体训练。
  • 大学生:大学生通过本地部署练手,可以丰富自己的简历。
  • 近期在找工作的人:可以丰富自己的简历,说不定一忽悠,面试就通过了。

三、本地部署实操指南

详细安装步骤已经在飞书文档帮大家整理好了

https://swgjwfxm4q.feishu.cn/docx/YbgVdytqsoOLNSx7BGhc1L00nkh?from=from_copylink

或者在文章顶部直接下载资源

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐