千问3.5-2B Python入门实战：零基础快速部署与第一个AI应用

本文介绍了如何在星图GPU平台上自动化部署千问3.5-2B镜像，快速搭建AI开发环境。通过简单的Python API调用，用户可轻松实现智能对话功能，适用于构建客服机器人、教育辅助工具等应用场景，是入门AI开发的理想选择。

温铁军

305人浏览 · 2026-04-06 05:34:22

温铁军 · 2026-04-06 05:34:22 发布

千问3.5-2B Python入门实战：零基础快速部署与第一个AI应用

1. 开篇：为什么选择千问3.5-2B入门AI开发

如果你刚接触Python和AI开发，可能会被各种复杂的模型和框架吓到。千问3.5-2B是个很好的起点——它足够强大能完成实际任务，又足够轻量让新手也能轻松上手。这个2B参数的开源模型在问答、对话等场景表现优秀，而且部署起来比想象中简单得多。

今天我们就从零开始，带你完成三个目标：在星图平台一键部署模型、用Python调用API接口、开发一个简单的对话应用。不用担心基础问题，我会用最直白的语言解释每个步骤，就像朋友手把手教你一样。

2. 环境准备：10分钟搞定Python和模型部署

2.1 注册星图GPU平台

首先访问星图官网完成注册（过程就像注册普通网站一样简单）。新用户会获得免费GPU时长，足够我们完成这个教程。登录后进入控制台，找到"AI镜像"专区，搜索"千问3.5-2B"。

2.2 一键部署模型

看到千问3.5-2B的镜像后，点击"立即部署"。这里要选择GPU实例类型——对新手来说，选最基础的"GPU.T4.1C4G"就够用了，性价比最高。点击确认后，系统会自动完成所有部署工作，通常3-5分钟就能准备好。

部署完成后，你会看到一个公网访问地址（格式类似http://你的实例IP:8000）和API密钥。把这些信息记下来，稍后我们调用API时会用到。

2.3 配置本地Python环境

打开你的电脑，按下面步骤准备开发环境：

安装Python 3.8+（官网下载安装包，记得勾选"Add to PATH"）
打开命令行，运行pip install requests安装必要库
准备个代码编辑器（VS Code或PyCharm都行）

验证安装是否成功：在命令行输入python --version能看到版本号，输入python能进入交互界面就说明没问题。

3. 第一个API调用：让模型开口说话

3.1 理解API基本结构

千问3.5-2B的API非常简单，主要参数就三个：

prompt: 你输入的问题或指令
max_length: 生成文本的最大长度
temperature: 控制创造力的参数（0.1-1.0）

我们用Python的requests库就能轻松调用。下面是最基础的代码框架：

import requests

url = "http://你的实例IP:8000/v1/completions"
headers = {
    "Authorization": "Bearer 你的API密钥",
    "Content-Type": "application/json"
}

data = {
    "prompt": "你好，请介绍一下你自己",
    "max_length": 100,
    "temperature": 0.7
}

response = requests.post(url, headers=headers, json=data)
print(response.json()["choices"][0]["text"])

3.2 运行你的第一个AI交互

把上面的代码保存为first_api.py，替换其中的IP和密钥后运行。如果一切正常，你会看到模型返回的自我介绍，类似：

"你好！我是千问3.5-2B，一个开源的中英文对话模型。我能回答各类问题、协助创作文本、提供建议等。虽然参数规模不大，但在很多场景下表现不错..."

3.3 试试不同提问方式

修改prompt内容，体验模型的不同能力：

知识问答："Python是什么？用简单语言解释"
创意写作："写一首关于春天的五言诗"
实用建议："如何快速学习Python？给出3个具体方法"

观察不同temperature值(0.3/0.7/1.0)对生成结果的影响——数值越小回答越保守，越大越有创意。

4. 开发简单对话应用

4.1 基础对话循环

让我们升级代码，实现持续对话功能。新建chat_app.py文件，写入以下代码：

import requests

url = "http://你的实例IP:8000/v1/completions"
headers = {
    "Authorization": "Bearer 你的API密钥", 
    "Content-Type": "application/json"
}

print("千问3.5-2B对话助手 (输入'退出'结束)")
history = []

while True:
    user_input = input("你：")
    if user_input.lower() == "退出":
        break
        
    history.append(f"用户：{user_input}")
    context = "\n".join(history[-3:])  # 保留最近3轮对话
    
    data = {
        "prompt": context + "\n助手：",
        "max_length": 150,
        "temperature": 0.6
    }
    
    response = requests.post(url, headers=headers, json=data)
    ai_response = response.json()["choices"][0]["text"]
    print("助手：" + ai_response)
    history.append(f"助手：{ai_response}")