一、英伟达账号注册、API Key获取。

  • 第一步:注册英伟达开发者账号
  1. 访问 build.nvidia.com
  2. 点击右上角 Login,输入您的邮箱地址
  3. 设置密码,点击 Create Account
  4. 查收邮箱中的 6 位验证码并输入
  5. 设置账户名,创建 NVIDIA Cloud Account
  6. 关键步骤:点击右上角的 Verify,使用手机号完成验证(国内手机号可用)
  • 第二步:获取您的 API Key
  1. 登录后点击右上角头像,选择 API Keys
  2. 点击 Generate API Key
  3. 为 Key 命名,过期时间建议设置为 100 年(永不过期)
  4. 点击 Generate Key
  5. 复制并妥善保存生成的 Key,格式:nvapi-xxx_xxx

二、安装CLI Proxy API

  • github项目地址:https://github.com/router-for-me/CLIProxyAPI
  • 背景:我尝试使用过newapi,放在远程服务器上部署的,访问延迟较大,时不时出现中断,体验不好。当然也可以本地部署,本着轻量的考虑,最后选择了CLI Proxy API。实测效果还可以,没有出现中断的情况,延迟可以接受具体要看模型。
  • 安装方式:详见官方文档
  • 以Mac安装为例:
# 安装命令
brew install cliproxyapi
# 启动命令
brew services start cliproxyapi
  • 修改配置文件
mdfind "cliproxyapi.conf" 
# 我的是在/usr/local/etc/目录下,根据自己的目录修改
# 将allow-remote: true支持浏览器访问
allow-remote: true
# 设置ui界面访问的密码
secret-key: "myrouter"
# 设置模型api访问的key
api-keys:
  - nvidia-common123456
# 设置nvidia配置信息
openai-compatibility:
  - name: nvidia
    base-url: https://integrate.api.nvidia.com/v1
    api-key-entries:
      - api-key: nvapi-xxxxxxx
    models:
      - name: minimaxai/minimax-m2
        alias: ""
      - name: minimaxai/minimax-m2.1
        alias: ""
      - name: moonshotai/kimi-k2-thinking
        alias: ""
      - name: z-ai/glm4.7
        alias: ""
payload:
  override:
    - models:
        - name: "z-ai/glm4.7" # 精确匹配你的模型名
          protocol: "openai"
        - name: "minimaxai/minimax-m2.1" # 精确匹配你的模型名
          protocol: "openai"
        - name: "moonshotai/kimi-k2-thinking" # 精确匹配你的模型名
          protocol: "openai"
        - name: "minimaxai/minimax-m2" # 精确匹配你的模型名
          protocol: "openai"
      params:
        "reasoning_effort": "high"
  • UI界面地址
    http://localhost:8317/management.html#/login
    在这里插入图片描述
    在这里插入图片描述

三、配置到cc switch中

{
  "env": {
    "ANTHROPIC_AUTH_TOKEN": "nvidia-common123456",
    "ANTHROPIC_BASE_URL": "http://localhost:8317",
    "ANTHROPIC_DEFAULT_HAIKU_MODEL": "z-ai/glm4.7",
    "ANTHROPIC_DEFAULT_OPUS_MODEL": "z-ai/glm4.7",
    "ANTHROPIC_DEFAULT_SONNET_MODEL": "z-ai/glm4.7",
    "ANTHROPIC_MODEL": "z-ai/glm4.7",
    "ANTHROPIC_REASONING_MODEL": "z-ai/glm4.7"
  }
}
  • 访问测试
    在这里插入图片描述
    参考:
    https://blog.csdn.net/m0_66917422/article/details/156653664
Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐