deepseek 私有化本地部署(Win) --零基础小白
·
deepseek 网址: DeepSeek
优势,运行不依赖外部服务器,稳定更好,本地部署的数据掌控在自己手里,不用担心云端泄露,可进行模型微调和私有化训练。
局限:性能取决于本地设备的硬件资源
安装条件:
①电脑具备 Ollama
②安装盘中保持足够的内存空间(14b 需要 9G 内存)
一、DeepSeek本地部署【Windows】
1、安装 Ollama
浏览器右上角查看下载进度,下载完毕之后直接双击 OllamaSettup.exe 文件运行,直接安装,尽量不要去修改安装地址,C盘请保持足够的空间。
下载完毕之后,按 window 键( 在计算机键盘左下角Ctrl和Alt键之间的按键) 即可查看到 Ollama。
2、配置环境变量
点击此电脑右键进入属性→进入高级系统设置→选择高级→选择环境变量→新建变量
在用户变量中添加以下变量即可
|
OLLAMA_HOST
|
0.0.0.0
|
|
OLLAMA_ORIGINS
|
*
|
3、下载AI模型
进入 deepseek-r1模型
选择合适的,AI模型(推荐选择)14B 需要内存9G 命令:ollama run deepseek-r1:14b
模型版本介绍( 主要区别在于 模型参数量、计算需求、性能表现和应用场景):
1.5B-7B:
8B-32B:
70B-671B:
建议
- 资源有限/实时性要求高 → 1.5B-7B
- 平衡性能与成本 → 14B-32B
- 追求极致性能/复杂任务 → 70B-671B
window + r 输入 cmd 进入终端,输入复制命令 ollama run deepseek-r1:14b ( 已14b为介绍 ) 即可开始下载。
如果下载出现问题,请使用管理员模式进入 cmd 终端
部署完成就会出现 success 命令行会提示 >> send a message (/?for help) 就进入了对话场景
二、使用示例
下文中的 ollama run deepseek-r1:14b 运行命令是以 14b 版本为例,请将14b 更换成自己下载的版本
ollama run deepseek-r1:版本号
①、直接访问(以14b 为例)
方式一:通过 window+ R 输入cmd 进入终端 输入 ollama run deepseek-r1:14b 即可进入DeepSeek 对话


方式二:通过 window+ R 输入 powershell 进入终端 输入 ollama run deepseek-r1:14b 即可进入DeepSeek 对话


退出对话输入: /bye
停止当前对话内容:Ctrl + c
②、通过Chatbox 访问网页版
若不习惯于 终端可通过Chatbox 来访问 本地部署的DeepSeek。
Chatbox: Chatbox
页面设置中文:
选择模型:
设置完成之后即可开始对话:
最后若你部署的AI模型运行之后,对话的速度很慢,建议降低模型版本,你的硬件资源似乎压力很大。
更多推荐


所有评论(0)