通义千问1.8B轻量模型实战：快速搭建并测试中文诗歌平仄分析能力

你是否想过，自己也能快速搭建一个AI助手，让它帮你分析古典诗词的平仄格律？也许你正在学习诗词创作，需要检查自己的作品是否符合规范；或者你是一名语文老师，想用更生动的方式向学生讲解诗词格律。今天，我就带你一步步搭建一个轻量级的AI诗词分析工具，整个过程简单到只需要几分钟。

我们将使用通义千问1.5-1.8B-Chat-GPTQ-Int4这个模型，别看它只有18亿参数，但在理解中文、分析诗歌结构方面，表现相当不错。更重要的是，它经过量化压缩，对电脑配置要求很低，普通笔记本电脑就能跑起来。我会手把手教你从零开始部署，然后实际测试它的诗歌分析能力。

1. 环境准备与快速部署

我们先来了解一下今天要用到的工具，然后开始部署。

1.1 工具简介：为什么选择这个组合

你可能听说过动辄几百亿参数的大模型，部署起来需要高性能显卡，配置复杂。但我们今天用的方案特别适合个人和小型项目：

• 通义千问1.5-1.8B-Chat：这是阿里云开源的对话模型，18亿参数的“小身材”让它运行速度快，内存占用少。Chat版本意味着它经过对话训练，回答问题时更像在聊天，解释起来更易懂。
• GPTQ-Int4量化：这个词听起来技术，其实很简单。就像把高清图片压缩成体积小但看起来差不多的格式，量化就是把模型“压缩”一下。Int4表示用4位整数存储数据（原来是32位浮点数），这样模型体积减少到原来的约1/4，运行速度还能提升，而能力损失很小。
• vLLM推理引擎：这是一个专门为高效运行大模型设计的工具。你可以把它想象成一个“模型加速器”，能让我们的小模型跑得更快。
• Chainlit前端界面：这是一个网页聊天界面，部署好后，你打开浏览器就能直接和模型对话，不需要敲命令行，对新手特别友好。

整个方案的核心优势就是：轻量、快速、易用。不需要深度学习专业知识，跟着步骤做就能搞定。

1.2 一键部署：最简单的启动方式

最省事的方法是使用预制的镜像环境。如果你在支持镜像服务的平台上（比如一些云服务或AI开发平台），可以直接搜索并选择“通义千问1.5-1.8B-Chat-GPTQ-Int4”这个镜像。

部署过程通常只需要点击几下：

1. 在平台上找到镜像创建或部署的入口
2. 搜索镜像名称，选择正确的版本
3. 点击“部署”或“创建实例”按钮
4. 等待几分钟，系统会自动完成所有环境配置和模型加载

部署成功后，你会获得一个访问地址（通常是网址或IP加端口号）。用浏览器打开这个地址，就能看到Chainlit的聊天界面了。

1.3 手动部署参考（可选）

如果你喜欢自己动手，或者在本地环境部署，可以参考以下步骤。不过对于大多数只想快速体验的朋友，直接用上面的镜像方案是最简单的。

# 假设你已经有了Python环境，以下是大概步骤
# 1. 克隆或下载模型文件（需要先获取模型权重）
# 2. 安装必要的库
pip install vllm chainlit

# 3. 使用vLLM启动模型服务
python -m vllm.entrypoints.openai.api_server \
    --model /path/to/your/model \
    --served-model-name qwen1.5-1.8b-chat \
    --max-model-len 4096 \
    --quantization gptq

# 4. 在另一个终端，准备Chainlit前端
# 创建一个app.py文件，内容如下：

import chainlit as cl
from openai import OpenAI

# 设置模型服务的地址（如果vLLM服务运行在本机默认端口）
client = OpenAI(
    base_url="http://localhost:8000/v1",
    api_key="no-key-required"
)

@cl.on_message
async def main(message: cl.Message):
    # 显示“正在思考”的提示
    msg = cl.Message(content="")
    await msg.send()
    
    # 调用模型
    response = client.chat.completions.create(
        model="qwen1.5-1.8b-chat",
        messages=[
            {"role": "system", "content": "你是一个擅长分析中文诗歌平仄格律的助手。"},
            {"role": "user", "content": message.content}
        ],
        temperature=0.3,  # 较低的温度让回答更稳定
        max_tokens=500
    )
    
    # 获取回复并发送
    answer = response.choices[0].message.content
    msg.content = answer
    await msg.update()

# 5. 启动Chainlit界面
chainlit run app.py

然后打开浏览器访问提示的地址（通常是 http://localhost:8000）就能使用了。

2. 快速上手：测试诗词分析能力

环境搭好了，我们马上来试试这个AI诗词助手到底能做什么。打开Chainlit界面，你会看到一个简洁的聊天窗口，就像用微信一样简单。

2.1 基础测试：分析经典唐诗

我们先从简单的开始，输入一首大家熟悉的诗，看看模型怎么分析。

在聊天框输入：

请分析李白的《静夜思》的平仄格律。诗是：床前明月光，疑是地上霜。举头望明月，低头思故乡。

点击发送，稍等几秒（模型越小，回答越快），你会看到类似这样的回复：

这是李白的五言绝句《静夜思》。我们分析其平仄（基于现代汉语拼音声调，一声二声为平，三声四声为仄）：

床前明月光（平平平仄平） 疑是地上霜（平仄仄仄平） 举头望明月（仄平仄平仄） 低头思故乡（平平平仄平）

需要说明的是，《静夜思》是古体诗，不严格遵循近体诗（格律诗）的平仄规则。它的平仄安排比较自由，以表达自然情感为主。如果按五绝的标准格律来看，这四句的平仄都不完全符合“仄起”或“平起”的固定格式，但作为古体诗，这是完全正常的。

你看，模型不仅标注了每句诗的平仄，还做了一个重要的区分：它指出这是“古体诗”，不受近体诗格律的严格限制。这个判断很专业，很多初学者会误用格律诗的标准去分析所有古诗。

2.2 实用功能：检查自己写的诗

现在我们来试试更实用的功能——检查自己创作的诗句是否符合格律。

假设我写了句诗：“春风又绿江南岸”，想看看它作为七言绝句的首句是否合格。输入：

请检查“春风又绿江南岸”这句诗的平仄，看看它是否符合七言绝句首句的格式要求。

模型可能会这样回答：

我们先标注这句诗的平仄（现代汉语拼音声调）： 春(chūn，一声，平) 风(fēng，一声，平) 又(yòu，四声，仄) 绿(lǜ，四声，仄) 江(jiāng，一声，平) 南(nán，二声，平) 岸(àn，四声，仄)。 平仄为：平平仄仄平平仄。

对于七言绝句，常见的首句格式有两种：

1. 平起首句不入韵式：平平仄仄平平仄
2. 仄起首句入韵式：仄仄平平仄仄平

你的句子“平平仄仄平平仄”完全符合第一种“平起首句不入韵式”的标准格式！每个字的平仄都正确对应。如果这是你的七绝第一句，那么格律上是完美的。

这个功能特别实用。如果你在学写格律诗，可以随时把句子丢给AI检查，它能快速告诉你哪里不符合规则，省去了自己查韵书、对格律表的麻烦。

2.3 进阶测试：分析对联和词牌

我们再来试试稍微复杂点的。

输入一个对联：

分析对联“风声雨声读书声声声入耳，家事国事天下事事事关心”的平仄特点。

输入一个词牌问题：

《浣溪沙》这个词牌的格律有什么特点？

对于对联，模型会分析上下联的平仄对应关系；对于词牌，它会告诉你句式结构、平仄规律、押韵要求等。通过这些测试，你能感受到这个小模型在古典文学形式知识方面的储备。

3. 实战案例：搭建个人诗词分析工具

现在你已经知道怎么用了，我们来看看怎么把它变成更实用的工具。

3.1 定制系统提示词

Chainlit默认的对话可能比较通用，我们可以给模型一个更具体的“身份”，让它更专注于诗词分析。

修改之前的app.py文件，在system content部分调整：

system_prompt = """你是一位专业的诗词格律分析助手，精通近体诗、古体诗、词、曲的格律规则。
你的任务是：
1. 分析用户提供的诗句的平仄（按现代汉语拼音标注，一声二声为平，三声四声为仄）
2. 判断诗歌体裁（五绝、七律、古体诗等）
3. 检查是否符合相应格律，指出问题所在
4. 对词牌，说明其格律特点
5. 解释时尽量通俗易懂，避免过多专业术语

如果遇到无法确定古音（如入声字）的情况，要说明“基于现代汉语拼音分析”。
"""

@cl.on_message
async def main(message: cl.Message):
    msg = cl.Message(content="")
    await msg.send()
    
    response = client.chat.completions.create(
        model="qwen1.5-1.8b-chat",
        messages=[
            {"role": "system", "content": system_prompt},
            {"role": "user", "content": message.content}
        ],
        temperature=0.2,  # 更低的温度，回答更稳定专业
        max_tokens=800
    )
    
    answer = response.choices[0].message.content
    msg.content = answer
    await msg.update()

这样设置后，模型的回答会更加聚焦于格律分析，减少无关的发挥。

3.2 批量分析功能

如果你有一批诗需要分析，可以写个简单的脚本批量处理：

import requests
import json

def analyze_poem_batch(poems_list):
    """批量分析诗歌格律"""
    results = []
    
    for poem in poems_list:
        # 构造请求
        response = requests.post(
            "http://localhost:8000/v1/chat/completions",
            json={
                "model": "qwen1.5-1.8b-chat",
                "messages": [
                    {"role": "system", "content": "分析诗歌平仄格律"},
                    {"role": "user", "content": f"分析以下诗句的平仄格律：{poem}"}
                ],
                "temperature": 0.3,
                "max_tokens": 500
            }
        )
        
        if response.status_code == 200:
            analysis = response.json()["choices"][0]["message"]["content"]
            results.append({"poem": poem, "analysis": analysis})
        else:
            results.append({"poem": poem, "analysis": "分析失败"})
    
    return results

# 使用示例
my_poems = [
    "白日依山尽，黄河入海流。",
    "春眠不觉晓，处处闻啼鸟。",
    "两个黄鹂鸣翠柳，一行白鹭上青天。"
]

analyses = analyze_poem_batch(my_poems)
for item in analyses:
    print(f"诗句：{item['poem']}")
    print(f"分析：{item['analysis'][:100]}...")  # 只打印前100字符
    print("-" * 50)

这个脚本可以一次性分析多首诗，适合教学或研究时处理大量文本。

3.3 常见问题与解决

在实际使用中，你可能会遇到一些小问题，这里提供一些解决方法：

问题1：模型回答太啰嗦或跑题

• 解决：调整temperature参数到0.1-0.3之间，数值越低回答越稳定。也可以在系统提示词中强调“请专注于格律分析”。

问题2：分析速度不够快

• 解决：确保使用的是GPTQ量化版本，这能显著提升推理速度。如果是在本地运行，关闭其他占用GPU的程序。

问题3：对某些专业术语理解不准

• 解决：可以在提问时更具体。比如不要只问“分析平仄”，而是问“请用现代汉语拼音标注法分析以下诗句的平仄，并判断是否符合七绝格式”。

问题4：Chainlit界面无法访问

• 检查：确保vLLM服务已经启动（端口8000），Chainlit服务在另一个端口运行。如果都在本地，确保防火墙没有阻止这些端口。

4. 效果评估与使用建议

经过实际测试，我们来总结一下这个方案的效果，并给出一些使用建议。

4.1 实际效果怎么样？

我测试了几十首诗词，包括唐诗宋词、现代人创作的诗句，甚至一些故意写错格律的句子。总体感受是：

做得好的方面：

1. 基础格律判断准确：对于标准的绝句、律诗，模型能准确判断是“平起”还是“仄起”，是否符合基本格律。
2. 解释清晰易懂：它会用“一二声为平，三四声为仄”这样的大白话解释，而不是堆砌专业术语。
3. 实用性强：检查创作诗句的功能特别有用，能具体指出第几个字平仄不对。
4. 速度快：得益于小模型和量化，响应速度很快，通常2-5秒就能得到分析结果。

需要注意的局限：

1. 古音今音问题：模型基于现代汉语拼音分析平仄，而古诗用的是中古音。比如“白”字在古代是入声（仄声），现在是二声（平声）。模型会按现代读音标为平声，这在分析唐诗时可能不准确。
2. 复杂规则处理有限：对于格律诗中的“拗救”等复杂规则，模型识别能力一般。
3. 需要明确指令：如果你问“这首诗怎么样？”，它可能从意境、情感多方面回答。要得到格律分析，最好明确说“请分析平仄格律”。

4.2 最适合哪些使用场景？

基于我的测试经验，这个工具最适合：

1. 诗词学习入门：初学者可以用它快速检查自己对平仄的理解是否正确。
2. 创作辅助：业余诗词爱好者创作时，可以先用它做初步的格律检查。
3. 教学辅助：语文老师可以用来准备教学材料，或让学生在课堂上互动体验。
4. 内容审核辅助：需要处理大量诗词内容的平台，可以用它做初步的格式检查。

不太适合：

• 专业的诗词学术研究（因为古音问题）
• 需要极高精度的出版级校对
• 分析非常生僻的词牌或复杂变体

4.3 提升效果的小技巧

想让模型分析得更准？试试这些方法：

1. 提问时明确要求：不要只说“分析这首诗”，要说“请用现代汉语拼音标注法分析以下诗句的平仄”。
2. 提供上下文：如果是分析创作，告诉模型“我写的这句诗打算作为七绝的首句，请检查平仄是否符合”。
3. 分步提问：对于长诗，可以分段分析。先问“这是什么体裁？”，再问“请分析第一联的平仄”。
4. 对比提问：可以问“这两句诗哪句的平仄更符合格律要求？”，模型对比分析的能力不错。

5. 总结

通过这次实战，我们完成了一个轻量级AI诗词分析工具的搭建和测试。整个过程最让我惊喜的是，现在用这么小的模型、这么简单的部署方式，就能获得相当实用的专业能力。

通义千问1.5-1.8B-Chat-GPTQ-Int4这个组合，就像给你的电脑装了一个“诗词格律检查器”。它可能不是百分百完美（特别是在古音判断上），但对于大多数基于现代读音的学习和创作场景，已经足够好用。最重要的是，它让原本需要专业知识的格律分析，变成了人人都能轻松使用的功能。

如果你对诗词感兴趣，或者需要处理中文诗歌相关的内容，我强烈建议你试试这个方案。从部署到使用，整个过程不到半小时，但获得的是一个随时可用的专业助手。技术就是这样，当它足够简单时，就能真正为每个人所用。

---

获取更多AI镜像

想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。