使用python和simple-one-api接入Ollama本地部署的deepseek

这里再介绍一种使用simple-one-api调用的方法。部署好ollama后，ollama默认端口是11434。在simple-one-api的config文件中加入。本文将不阐述使用ollama部署的过程。即可使用openai的统一接口调用。

FLYINGPIG

398人浏览 · 2025-03-31 18:26:18

FLYINGPIG · 2025-03-31 18:26:18 发布

本文将不阐述使用ollama部署的过程

部署好ollama后，ollama默认端口是11434

client = OpenAI(
        base_url=f"http://localhost:11434/v1",
        api_key="none"  # Ollama不需要验证
    )
response = client.chat.completions.create(
    model=MODEL_NAME,
    messages=[{"role": "user", "content": "你好，你是什么模型"}],
   
)
result = response.choices[0].message.content

无需密匙即可调用

这里再介绍一种使用simple-one-api调用的方法

在simple-one-api的config文件中加入

{
        "models": ["deepseek-r1:14b"],
        "enabled": true,
        "credentials": {
          "api_key": "none"
        },
        "server_url":"http://localhost:11434/v1"
      },

即可使用openai的统一接口调用

 client = OpenAI(base_url=BASE_URL, api_key="sk-123456")  # 密钥未来可以改变
        
        response = client.chat.completions.create(
            model=MODEL_MAPPING[current_api],
            messages=[{"role": "user", "content": text}],
            temperature=temperature
            
        )
        return response.choices[0].message.content