原创不易,请关注公众号:【爬虫与大模型开发】,大模型的应用开发之路,整理了大模型在现在的企业级应用的实操及大家需要注意的一些AI开发的知识点!持续输出爬虫与大模型的相关文章。

Qwen3简介

Qwen3 正式发布,它是 Qwen 大型语言模型系列的最新成员。拥有旗舰模型 Qwen3-235B-A22B 在编码、数学、通用能力等基准测试中,与 DeepSeek-R1、o1、o3-mini、Grok-3 和 Gemini-2.5-Pro 等其他顶级模型相比,取得了极具竞争力的成绩。此外,小型 MoE 模型 Qwen3-30B-A3B 的激活参数量是 QwQ-32B 的 10 倍,即使是像 Qwen3-4B 这样的微型模型,其性能也能与 Qwen2.5-72B-Instruct 相媲美。

模型已经在Hugging Face 、 ModelScope 和 Kaggle 等平台上线。用户可以轻松地将 Qwen3 集成到他们的工作流程中,无论是在研究、开发还是生产环境中。

官方测评的数据结果

一个显著的特点就是:模型开源而且可以ollama、SGLang 、vllm、LMStudio 、 MLX 、 llama.cpp 和 KTransformers等本地部署,模型的参数量不仅降低了,模型的多方面的能力也大大增强了,这对本地部署的企业来说是一个福音;(哈哈!五一前发布,大家不用加班升级了!)

最新的架构功能

Qwen3 模型引入了一种混合方法来解决问题。它们支持两种模式:

  • 思考模式:在此模式下,模型需要逐步推理,最终给出答案。这对于需要深入思考的复杂问题非常理想。

  • 非思考模式:在此模式中,模型提供快速、近乎即时的响应,适用于速度比深度更重要的简单问题

这是我最需要的升级能力,我着重提一下

  • 支持 100 多种语言和方言, 具有强大的多语言指令跟踪和翻译能力。
  • 卓越的人类偏好一致性 ,擅长创意写作、角色扮演、多轮对话和指令遵循,提供更自然、更具吸引力和身临其境的对话体验。

ollama模型的部署及使用

如果你的ollama不是最新的版本,可以能出现不支持qwen3部分模型的部署,需要升级下!

官网下载更新:https://ollama.com/download

本地部署

支持本地部署的模型系列

客户端配置

cherry stuido配置->模型服务->ollama->管理->添加安装的qwen3模型

在线测试和本地测试

官网地址:https://chat.qwen.ai/

  • 模型的多语种生成能力

按照关键词98-98-6英文名称 2-Picolinic acid,编写一个化学领域的简介,字数在300字;分别使用中文,德语、西班牙语、法语、阿拉伯语、日语、意大利语、荷兰语、葡萄牙语写产品简介

本地部署的qwen3:32b测试效果也非常的好

分析:相较于之前的一些本地部署的模型qwen3:32b的多语种效果也是不错的,按照我的要求输出了多语种的简介;相较于其他的模型暂时没有出现文中参杂中文的情况!模型最低需要显卡16G!

  • 模型的推理能力

分析:这个是qwen3:30b-a3b他的推理有些问题:没有把我想要的语种全部输出,而且还自作聪明输出了一个我没有提到的语种俄语

批量根据上下文生成产品介绍

# 随机获取提示词
prompt = random.choice(prompts_list)
casno = "98-98-6"
name = "2-Picolinic acid"
language = "德语"
client = Client(host="http://192.168.1.143:11434/")
response = client.chat(
    model="qwen3:32b",
    messages=[
        {"role": "user", "content": prompt.format(casno=casno, name=name, language=language)},
    ], stream=False
)
result = response["message"]["content"]
print(result)

Maxkb配置Qwen3:32b

对爬虫和AI大模型感兴趣的可以扫下面的二维码加入群

联系方式

加入星球:
原创不易,点个关注!
不会错过后面的优质文章!
觉着写的不错的可以帮忙点点赞
关注公众号:【爬虫与大模型开发】
需要以上源代码的下面关注并私信!

活跃在一线的Python工程师分享自己学习之路
我创建了【爬虫与大模型开发】的知识星球
适合爱好爬虫及从事爬虫的同学
需要代码提示词加我星球!

需要完整代码扫码星球自提!

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐