
VS Code高效智能编程,使用LM Studio本地部署DeepSeek-R1
LM Studio 部署 DeepSeek-R1,助力 VS Code 智能编程。
LM Studio 部署 DeepSeek-R1,助力 VS Code 智能编程。
微信搜索关注《AI科技论谈》
国内初创公司 DeepSeek 研发的 DeepSeek-R1 模型,因其超强推理能力强势出圈。各种高难度任务,DeepSeek-R1 处理起来得心应手。性能上,DeepSeek-R1 与 OpenAI 的 o1 等头部模型不相上下,却走出了开源的差异化路线,开发成本更是低至同类模型的零头。
可以预见,随着 DeepSeek-R1 持续的优化升级与应用拓展,DeepSeek-R1 将在AI领域激起千层浪,为整个行业的蓬勃发展注入全新活力。
不少开发者都对 DeepSeek-R1 跃跃欲试。本文就教大家如何借助LM Studio部署该模型,在VS Code中畅享高效智能编程的乐趣。
1 DeepSeek-R1主要特点
-
强化学习方法:DeepSeek-R1采用大规模强化学习进行训练,无需监督微调。这种方法使模型能够自然地发展出先进的推理行为。
-
开源可用性:该模型在MIT许可下完全开源,研究人员和开发人员可以访问其架构并在此基础上进行开发。
-
经济高效的开发:DeepSeek仅用了类似模型约3%的成本就实现了该模型的功能,这打破了尖端人工智能需要大量资金投入的固有观念。
2 在LM Studio中下载 DeepSeek-R1 模型
-
下载安装LM Studio:从LM Studio - Discover, download, and run local LLMs根据系统下载安装,运行模型至少需16GB内存。
-
查找选择模型:打开LM Studio,点左侧“发现”,搜“deepseek r1 14”,选“DeepSeek-R1-Distill-Qwen-14B-4bit”。
-
下载并开启使用:点击右下角下载(若已下完会显示“在新聊天中使用”)。下载好后点它,打开聊天窗口就能提问。收到回复,说明模型正常。窗口右下角可查看资源占用。
-
调整上下文长度:点齿轮图标进设置,能调“上下文长度”(默认4096),数值越大占内存越多,按需调整。
3 设置服务器
在LM Studio中完成模型设置后,我们启动服务器,以便通过API调用访问模型。
-
点击左侧的“开发者”选项卡,然后点击“启动服务器”。
-
服务器启动后,会显示可通过http://127.0.0.1:1234访问。
-
你可以点击设置,对服务器端口、详细日志等进行设置。
4 设置VS Code
-
打开VS Code,进入“扩展”选项卡。
-
搜索“Continue”扩展,“Continue”是一款适用于VS Code的开源人工智能代码助手。
-
安装该扩展,安装完成后,它会显示在左侧的扩展栏中。
-
点击“自动检测”旁边的小下拉箭头,选择“添加聊天模型”。
-
在“提供方”部分选择“LM Studio”,然后点击“连接”。
它会通过向服务器发出调用,自动检测LM Studio中正在运行的模型。你可以在LM Studio的“开发者日志”部分查看API调用情况。
回到VS Code,确保已选择“deepseek-r1-distill-qwen-14b”模型。现在,你就可以在编码环境中与模型进行交互了。为测试流程,输入问题并等待模型回复。
5 在代码库中使用
-
在VS Code中打开你的项目。
-
右键点击任意文件,选择“选择文件作为上下文”。
这会将该文件设置为模型的上下文。
之后,你就能针对这个文件,向 DeepSeek R1 提问了,比如代码哪里有问题、怎么优化等。而且,整个过程不用联网,在 VS Code 里就能离线操作,安全又高效。
有了这个方法,开发时遇到难题,直接找 DeepSeek R1 帮忙就行。赶紧动手试试,提升你的开发效率!
推荐书单
《大模型应用开发极简入门:基于GPT-4和ChatGPT》
本书为大模型应用开发极简入门手册,为初学者提供了一份清晰、全面的“可用知识”,带领大家快速了解GPT-4和ChatGPT的工作原理及优势,并在此基础上使用流行的Python编程语言构建大模型应用。通过本书,你不仅可以学会如何构建文本生成、问答和内容摘要等初阶大模型应用,还能了解到提示工程、模型微调、插件、LangChain等高阶实践技术。书中提供了简单易学的示例,帮你理解并应用在自己的项目中。此外,书后还提供了一份术语表,方便你随时参考。
准备好了吗?只需了解Python,你即可将本书作为进入大模型时代的启动手册,开发出自己的大模型应用。
购买链接:https://item.jd.com/14377544.html
精彩回顾
从推理到编程,详细比较DeepSeek 32B、70B、R1实践性能
更多推荐
所有评论(0)