Deepseek-671B: Error: timed out waiting for llama runner to start - progress 0.00 on
ollama加载deepseek-r1:671b模型报错处理
·
ollama运行deepseek-r1:671b报错
需要设置环境变量：
[Service]
Environment="OLLAMA_LOAD_TIMEOUT=90m"
Environment="GGML_CUDA_ENABLE_UNIFIED_MEMORY=1"
Environment="OLLAMA_GPU_OVERHEAD=536870912"
Environment="OLLAMA_FLASH_ATTENTION=1"
欢迎加入DeepSeek 技术社区。在这里，你可以找到志同道合的朋友，共同探索AI技术的奥秘。
更多推荐
1
0- 0
已为社区贡献1条内容
所有评论(0)