LM Studio 部署 DeepSeek-R1,助力 VS Code 智能编程。

微信搜索关注《AI科技论谈》

国内初创公司 DeepSeek 研发的 DeepSeek-R1 模型,因其超强推理能力强势出圈。各种高难度任务,DeepSeek-R1 处理起来得心应手。性能上,DeepSeek-R1 与 OpenAI 的 o1 等头部模型不相上下,却走出了开源的差异化路线,开发成本更是低至同类模型的零头。

可以预见,随着 DeepSeek-R1 持续的优化升级与应用拓展,DeepSeek-R1 将在AI领域激起千层浪,为整个行业的蓬勃发展注入全新活力。

不少开发者都对 DeepSeek-R1 跃跃欲试。本文就教大家如何借助LM Studio部署该模型,在VS Code中畅享高效智能编程的乐趣。

1 DeepSeek-R1主要特点

  • 强化学习方法:DeepSeek-R1采用大规模强化学习进行训练,无需监督微调。这种方法使模型能够自然地发展出先进的推理行为。

  • 开源可用性:该模型在MIT许可下完全开源,研究人员和开发人员可以访问其架构并在此基础上进行开发。

  • 经济高效的开发:DeepSeek仅用了类似模型约3%的成本就实现了该模型的功能,这打破了尖端人工智能需要大量资金投入的固有观念。

2 在LM Studio中下载 DeepSeek-R1 模型

  • 查找选择模型:打开LM Studio,点左侧“发现”,搜“deepseek r1 14”,选“DeepSeek-R1-Distill-Qwen-14B-4bit”。

  • 下载并开启使用:点击右下角下载(若已下完会显示“在新聊天中使用”)。下载好后点它,打开聊天窗口就能提问。收到回复,说明模型正常。窗口右下角可查看资源占用。

  • 调整上下文长度:点齿轮图标进设置,能调“上下文长度”(默认4096),数值越大占内存越多,按需调整。

3 设置服务器

在LM Studio中完成模型设置后,我们启动服务器,以便通过API调用访问模型。

  • 点击左侧的“开发者”选项卡,然后点击“启动服务器”。

  • 服务器启动后,会显示可通过http://127.0.0.1:1234访问。

  • 你可以点击设置,对服务器端口、详细日志等进行设置。

4 设置VS Code

  • 打开VS Code,进入“扩展”选项卡。

  • 搜索“Continue”扩展,“Continue”是一款适用于VS Code的开源人工智能代码助手。

  • 安装该扩展,安装完成后,它会显示在左侧的扩展栏中。

  • 点击“自动检测”旁边的小下拉箭头,选择“添加聊天模型”。

  • 在“提供方”部分选择“LM Studio”,然后点击“连接”。

它会通过向服务器发出调用,自动检测LM Studio中正在运行的模型。你可以在LM Studio的“开发者日志”部分查看API调用情况。

回到VS Code,确保已选择“deepseek-r1-distill-qwen-14b”模型。现在,你就可以在编码环境中与模型进行交互了。为测试流程,输入问题并等待模型回复。

5 在代码库中使用

  • 在VS Code中打开你的项目。

  • 右键点击任意文件,选择“选择文件作为上下文”。

这会将该文件设置为模型的上下文。

之后,你就能针对这个文件,向 DeepSeek R1 提问了,比如代码哪里有问题、怎么优化等。而且,整个过程不用联网,在 VS Code 里就能离线操作,安全又高效。

有了这个方法,开发时遇到难题,直接找 DeepSeek R1 帮忙就行。赶紧动手试试,提升你的开发效率!

推荐书单

《大模型应用开发极简入门:基于GPT-4和ChatGPT》

本书为大模型应用开发极简入门手册,为初学者提供了一份清晰、全面的“可用知识”,带领大家快速了解GPT-4和ChatGPT的工作原理及优势,并在此基础上使用流行的Python编程语言构建大模型应用。通过本书,你不仅可以学会如何构建文本生成、问答和内容摘要等初阶大模型应用,还能了解到提示工程、模型微调、插件、LangChain等高阶实践技术。书中提供了简单易学的示例,帮你理解并应用在自己的项目中。此外,书后还提供了一份术语表,方便你随时参考。

准备好了吗?只需了解Python,你即可将本书作为进入大模型时代的启动手册,开发出自己的大模型应用。

购买链接:https://item.jd.com/14377544.html

精彩回顾

从推理到编程,详细比较DeepSeek 32B、70B、R1实践性能

百度App携手DeepSeek满血版,体验飙升!

DeepSeek R1与Qwen大模型,构建Agentic RAG全攻略

利用本地DeepSeek R1和n8n框架,创建AI智能体

本地部署Deepseek R1,并利用本地知识库创建RAG

满足个性化需求,手把手教你微调DeepSeek大模型

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐