我本地配置的千问大模型,不记得哪个版本,先在终端:

Ollama list

查询到本地配置的所有大模型,然后选择其中某个运行:

Ollama run qwen3.5:0.8B

问个你好,回复就代表本地部署没问题。

打开ollama官网,找到文档,docs

根据官方提示,在apifox里填写:

content内容返回为空,整个过程思考了112s,要做一些修改。

stream: true,就是流式输出,字是一个个弹出来的,合并输出。

第二次问话,要拼接上次回答内容,否则没有上下文

总结一下,url一定要填对:

http://localhost:11434/api/chat

model:qwen3.5:0.8B ,一定要输对,你本地安装什么,就在安装过的里面选

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐