【三步!手把手教你快速搭建本地deepseek应用】deepseek-r1-1.5b+ollama+anythingllm
【手把手教你快速搭建本地deepseek应用】deepseek-r1-1.5b+ollama+anythingllmDeepSeek-R1-1.5B 是一个高性能的自然语言处理模型,适用于文本生成、对话系统、文本分类等多种任务。本文将详细介绍如何在本地快速搭建和运行 DeepSeek-R1-1.5B 模型。
【手把手教你快速搭建本地deepseek应用】deepseek-r1-1.5b+ollama+anythingllm中文版
一、背景介绍
DeepSeek-R1-1.5B 是一个高性能的自然语言处理模型,适用于文本生成、对话系统、文本分类等多种任务。本文将详细介绍如何在本地快速搭建和运行 DeepSeek-R1-1.5B 模型。
二、快速搭建
(一)下载和安装ollama
第一步,下载ollama,进入ollama官网https://ollama.com,下载对应操作系统版本的ollama客户端,博主下载的是Window(x64)版本的。第二步,安装ollama客户端,一般全部点默认下一步即可。
(二)下载deepseek模型
【第三步】,win+r打开cmd命令行
【第四步】,输入ollama run deepseek-r1:1.5b,下载并安装运行deepseek-r1:1.5b模型。
(三)下载和安装anythingllm
【第五步】前往anythingllm官网https://anythingllm.com/desktop,下载对应版本的客户端,博主下载的是Window(x64)版本的。
安装过程各种下一步即可。
三、简单配置
(四)配置anythingllm
【第六步】安装完成后,需要配置anythingllm,方便后续使用。
点击Get started
这里选择ollama。
这里直接点击下一步。
这里选择跳过。
输入工作区名字,名字可以按工作实际起,博主这里起的名字是“我的第一个工作区”。
点击“我的工作区”,然后点击左下角“扳手”图标进入设置面板。
首先,把软件的语言设置为“中文”。
然后依次点击左边面板列表的“人工智能提供商”,“LLM首选项”,可选择调用的模型(Ollama Model)和模型的运行模式(Performance Mode),运行模式的选择会影响模型输出的质量,还有其他参数可以在熟练使用后再进行设置。
四、简单应用
(六)开始使用
经过以上一系列的安装配置后就可以直接开始和模型聊天了,后续可以根据硬件条件、使用需求,调整下载模型的大小和模型运行模式,最终部署满足自己需求的AI应用。
更多推荐
所有评论(0)