
3分钟在本地快速部署deepseek大模型
在正式文章前,你也许会有疑问,为什么官方已经有了,还需要自己部署干嘛,直接用不好吗?原因有几点:一是有些公司或者个人可能会咨询一些涉及商业机密的东西,部署在本地;二是可以自定义开发内容,例如我想开发一个机器人,我就可以通过部署到服务器,自己训练调用接口了(官方当然也是有api的,但是需要一定的费用,而且爹有娘有不如自己有;三是自己部署的话,自定义私有程度比较高……)
在正式文章前,你也许会有疑问,为什么官方已经有了,还需要自己部署干嘛,直接用不好吗?原因有几点:一是有些公司或者个人可能会咨询一些涉及商业机密的东西,部署在本地;二是可以自定义开发内容,例如我想开发一个机器人,我就可以通过部署到服务器,自己训练调用接口了(官方当然也是有api的,但是需要一定的费用,而且爹有娘有不如自己有;三是自己部署的话,自定义私有程度比较高……)
部署方式一:
通过ollama来部署
官网: https://ollama.com/
下载好ollama安装包,双击安装包开始安装;
然后点击install就可以自动安装了
验证ollama是否安装成功:
在电脑打开cmd,输入:ollama
会出现下方一堆的文字输出,就说明已经安装好了。如果是其他的,则没有安装成功(例如ollama不是内部或外部命令,也不是可运行的程序)
继续在ollama官方,搜索关键词: deepseek-r1
①是模型的名称 | 微智启软件工作室原创。
②写有部署模型需要的空间,一般容量越大,训练的效果越好,但是所需的电脑显存也就越大,学习推荐大家下载1.5b的尝鲜即可。
③选择好对应的模型后,会给出对应的运行指令,把指令复制到cmd窗口运行
运行好指令后,初次会下载对应的模型,例如我的是:ollama run deepseek-r1:1.5b
下载完毕,会出现success字样。并且可以在>>>处直接输入你的问题,并回车执行,它就会回复了。
如上图,就成功部署啦……
更多内容,年后再更新啦,持续更新中……
删除指定的模型:
1、查看已经部署的模型:
2、删除指定的模型:ollama rm deepseek-r1:14b
注意上方红色字体需要替换成你自己实际的模型名称
部署方式二:
通过Page Assist浏览器插件来部署(这个过几天再更新了,过年不加班啦……更多后续更新内容,可以先点个关注哈)
常见报错解决方案:
Error: llama runner process has terminated: error loading model: unable to allocate CUDA_Host buffer
解决方案:这个是因为电脑的显存不够,换个小一点的模型;或者部署的时候,指定用CPU来运行,不过速度会比较慢:ollama run deepseek-r1:7b --cpu
👉👉【DeepSeek本地部署文档】
https://pan.quark.cn/s/7e0fa45596e4
最近,我的DeepSeek本地部署视频在B站播放量意外小爆,评论区被两类留言淹没:一类是技术爱好者追问“如何用消费级显卡跑通大模型”,另一类是职场人焦虑“我的工作会被AI取代吗?”这两个问题的背后,折射出一个残酷的真相:大模型技术正在重构所有行业的生存法则,而掌握这项技术的人将获得通往未来的船票。
DeepSeek的火爆对普通人意味着什么?
DeepSeek的火爆并非偶然。它代表了一种技术趋势:大模型技术正在从实验室走向大众。过去,大模型技术似乎只属于科技巨头和学术机构,普通人很难接触到。而现在,随着开源社区的活跃和技术的普及,像DeepSeek这样的工具已经可以让普通用户在自己的设备上部署和使用大模型。
对于普通人来说,DeepSeek的火爆意味着:
- 技术门槛降低:大模型技术不再遥不可及。通过本地部署,普通人也可以体验到强大的AI能力,无论是文本生成、对话系统还是其他AI应用。
- 个性化需求得到满足:大模型可以根据用户的需求进行定制化调整,满足个性化的应用场景。比如,你可以训练一个专门用于写作、编程或翻译的模型。
- 未来职业机会:大模型技术的普及将催生大量新的职业机会。无论是AI工程师、数据科学家,还是AI产品经理,掌握大模型技术将成为未来职场的重要竞争力。
DeepSeek的底层逻辑:大模型技术的核心
DeepSeek的底层逻辑正是基于大模型技术。大模型,顾名思义,是指参数量巨大、训练数据丰富的深度学习模型。这类模型通过海量数据的训练,能够捕捉到复杂的语言模式和知识结构,从而在各种任务中表现出色。
一、大模型岗位薪资揭密:应届生年薪40万起,跨界人才溢价300%
根据智联招聘《2024人工智能人才发展报告》,大模型相关岗位薪资较传统IT岗位平均高出67%,且呈现三大特征:
1.应届生起薪碾压传统行业
大模型算法工程师:本科28-40万/年,硕士40-60万/年
AI产品经理(无经验):25-35万/年
(数据来源:猎聘2024校招季统计)
2.跨界人才溢价惊人
医疗+大模型复合人才:薪资较纯医疗背景提升200-300%
金融风控+大模型工程师:年薪可达80-150万
(案例:某三甲医院影像科医生转型AI医疗,薪资从25万跃升至75万)
3.中小企业重金抢人
二线城市AI初创公司开出“北上广深同薪”政策
某成都电商企业为AI推荐算法工程师开出百万年薪
二、行业大地震:这些岗位正在消失,这些岗位正在爆发
▍消失中的岗位(3年内高危职业)
- 基础数据标注员(已被AutoML取代90%工作量)
- 初级代码工程师(GPT-4可完成60%基础代码)
▍爆发中的黄金岗位
1.大模型训练师
- 某直播公司开出82万年薪招聘“带货大模型调教师”
- 核心技能:Prompt工程+垂直领域知识(如美妆/3C)
2.AI业务流程重构师
- 制造业龙头企业50万年薪招聘“生产流程AI化专家”
- 典型案例:富士康通过大模型优化生产线,减少30%人力成本
3.AI伦理合规官
- 金融机构新增岗位“大模型风控总监”,年薪超百万
- 职责:防止AI在信贷审核、投资建议中出现歧视性输出
三、普通人破局指南:无需代码基础,三步抢占AI红利
我整理了全网稀缺的**《大模型落地应用实战资料包》**,包含:
1.LLM大模型学习大纲+路线图
2.152个大模型各行业结合的落地案例集
3.大模型必读书籍PDF电子版
4.大模型全套系统学习视频
5.真实大厂岗位面试题库
6.640套AI大模型行业白皮书
👉👉获取方式:
结语:你正在经历人类史上最大规模的生产力革命
当东莞工厂用大模型替代500个质检员,当律所AI助理处理80%合同审查,当小红书博主用AI生成90%的图文内容——这场变革不再关乎“是否会发生”,而是“你站在哪一边”。
记住两个数字:
- 2023年全球大模型应用市场规模:270亿美元
- 2027年预测市场规模:4070亿美元
这中间3700亿美元的增量市场,就是普通人改写命运的机会。4年后你会感谢今天的决定。
更多推荐
所有评论(0)