服务器崩了?手把手教你搭建DeepSeek本地替代版
最近 DeepSeek 甚至限制了非 +86 手机号的注册,有网友戏称「让他们也试试买号是啥体验」。甚至把 OpenAI 的奥特曼都惊得不得不坐起来卷了。DeepSeek 的 R1 是一个令人印象深刻的模型,尤其是在性价比方面。显然,我们会推出更好的模型,而且有一个新的竞争对手确实令人振奋!我们会加快发布进度。这一次,国人的 AI 时刻可能真的来了。读者福利:如果大家对大模型感兴趣,这套大模型学习
DeepSeek 被挤爆了。
晚上想用来回答下某乎的热榜问题,直接无线循环显示「不好意思,聊天的人过多」。
前排提示,文末有大模型AGI-CSDN独家资料包哦!
看来这泼天的流量给的压力有点太大了。中美 App Store 都给干成 Top 1 了,这你受得了吗?
看到有些人无脑喷的,请你自己去试用一下,不就知道到底行不行了?这总不能跑美区去刷榜吧。
不过现在好了,直接都无法服务了,只能再找找其他方式了。
本地部署
下载 Ollama
本地部署是要用到 Ollama,它能支持很多大模型。
官方网站:https://ollama.com/
点击 Download 即可,支持 macOS,Linux 和 Windows。
我下载的是 mac 版本,解压安装后,即可在电脑中找到对应应用。
下载 DeepSeek-R1
再在网页上点击 Models,即可看到 deepseek-r1 模型,热度可见一斑。如果没有的话,在搜索框输入对应关键词即可。
选择对应的模型来下载即可。
不明白怎么选可以问下 AI,DeepSeek 不堪重负,只能先用 Kimi 的 k1.5 Loong Thinking 先顶一下了。
根据描述,如果 mac 只有16G 左右的内存,保守点就是选择 7B 左右的模型,毕竟开启其他的应用还得需要一定的空间。最小的 1.5B 模型,也得有 4GB 的显存。
选择好模型后,在应用列表页面,找到「控制台」,输入对应指令ollama run deepseek-r1:7b
,便会进入下载。
等待一段时间后,就会显示success
,即可输入信息与本地大模型进行对话。
测试
前面得到的模型信息里,提到 7B 适合中等规模的文章处理情况。直接测试下应景的写对联。
WebUI
可是这命令行窗口始终差点意思,操作起来也不方便。没事,咱们也有办法弄一个有格调的界面。
在终端或命令行工具中运行以下命令,安装 Open-WebUI:pip install open-webui
如果 pip 版本较低,可以更新下python -m pip install --upgrade pip
完成后,输入open-webui serve
即可看到下面的界面。
再打开http://localhost:8080/
(注意端口不要被其他占用了),看到下面的 UI 界面,注册 Admin 信息。
进入到正式界面,即可看到我们提前下载好的模型deepseek-r1:7b
。
这下本地就有一个可以随时可以聊天的大模型了,还有用户友好的界面,无惧各种问题,随时随地可用。
来设计一个网页试试,但这 7B 模型代码能力着实一般,审美有待提高,但还有预览功能。
如果能有个性能强大一点的主机,部署更大的模型,那真真是唾手可得了。
总结
最近 DeepSeek 甚至限制了非 +86 手机号的注册,有网友戏称「让他们也试试买号是啥体验」。
甚至把 OpenAI 的奥特曼都惊得不得不坐起来卷了。
DeepSeek 的 R1 是一个令人印象深刻的模型,尤其是在性价比方面。
显然,我们会推出更好的模型,而且有一个新的竞争对手确实令人振奋!我们会加快发布进度。
这一次,国人的 AI 时刻可能真的来了。
读者福利:如果大家对大模型感兴趣,这套大模型学习资料一定对你有用
对于0基础小白入门:
如果你是零基础小白,想快速入门大模型是可以考虑的。
一方面是学习时间相对较短,学习内容更全面更集中。
二方面是可以根据这些资料规划好学习计划和方向。
包括:大模型学习线路汇总、学习阶段,大模型实战案例,大模型学习视频,人工智能、机器学习、大模型书籍PDF。带你从零基础系统性的学好大模型!
😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费
】🆓
👉AI大模型学习路线汇总👈
大模型学习路线图,整体分为7个大的阶段:(全套教程文末领取哈)
第一阶段: 从大模型系统设计入手,讲解大模型的主要方法;
第二阶段: 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;
第三阶段: 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;
第四阶段: 大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;
第五阶段: 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;
第六阶段: 以SD多模态大模型为主,搭建了文生图小程序案例;
第七阶段: 以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。
👉大模型实战案例👈
光学理论是没用的,要学会跟着一起做,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。
👉大模型视频和PDF合集👈
观看零基础学习书籍和视频,看书籍和视频学习是最快捷也是最有效果的方式,跟着视频中老师的思路,从基础到深入,还是很容易入门的。
👉学会后的收获:👈
• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;
• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;
• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;
• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。
👉获取方式:
😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费
】🆓
更多推荐
所有评论(0)