执行命令

llama-server.exe -m "G:\\LLM\qwen600b.gguf" --port   8080

启动过程

 

 三、启动完成

四、测试

 

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐