视频链接:DGX Spark安装Ollama及本地部署Qwen3.5 122b_哔哩哔哩_bilibili

安装ollama,直接支持arm64(DGX Spark)

curl -fsSL https://ollama.com/install.sh | sh

3.5 目前有122b参数量的模型,可以下载试试,3.6 目前也就35b和27b,先不说性能和使用问题,先测试下Spark的上限,下载指令

ollama pull qwen3.5:122b

查看已经下载的模型

ollama list

运行起来,可以看到占了接近90G的内存

ollama pull qwen3.5:122b

使用过程中,温度能到70度左右

首字是比较慢的,当然这是未量化的版本,已经没有任何优化加上去,原始的感觉可能让大部分人感觉太差(你的感觉没错。。。实际确实拉跨,但毕竟是122b参数量和可怜的内存带宽)

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐