DGX Spark安装Ollama及本地部署Qwen3.5 122b
·

视频链接:DGX Spark安装Ollama及本地部署Qwen3.5 122b_哔哩哔哩_bilibili
安装ollama,直接支持arm64(DGX Spark)
curl -fsSL https://ollama.com/install.sh | sh

3.5 目前有122b参数量的模型,可以下载试试,3.6 目前也就35b和27b,先不说性能和使用问题,先测试下Spark的上限,下载指令
ollama pull qwen3.5:122b
查看已经下载的模型
ollama list

运行起来,可以看到占了接近90G的内存
ollama pull qwen3.5:122b

使用过程中,温度能到70度左右

首字是比较慢的,当然这是未量化的版本,已经没有任何优化加上去,原始的感觉可能让大部分人感觉太差(你的感觉没错。。。实际确实拉跨,但毕竟是122b参数量和可怜的内存带宽)
更多推荐


所有评论(0)