Arm推出Arm AI Portal,加速Arm平台AI应用优化与开发
新闻重点
· Arm AI Portal 将超过 2,200 万开发者及其智能体连接至 Arm 计算平台上的优化 AI 软件,覆盖云、边缘和物理 AI。
· 开发者既可采用预优化模型加速开发进程,也可导入并优化自有模型,从而在 Arm 平台上实现最佳性能表现。
· 随着开发工作日益向智能体驱动演进,AI Portal 让模型、性能数据和工作流能够被机器自动发现,直接融入开发者和智能体现有的开发环境,并帮助其更便捷地获取 Arm 最新 AI 技术。
智能体 AI(Agentic AI)正从云 AI 向边缘 AI 与物理 AI 延伸,开发者需要跨模型、运行时与硬件目标进行开发,复杂度持续攀升。Arm 计算平台覆盖这一 AI 计算连续体,并依托超过 2,200 万开发者构成的广泛生态,为开发者提供优化的 AI 软件支持。
开发 AI 应用,无需以数周的模型搜索、基准测试与优化工作为起点。开发者需要快速定位适合的模型并了解其性能表现,智能体同样需要清晰的信号指引,以发现对应的模型、工具及技术资源。
今日,Arm 正式推出 Arm AI Portal,为开发者与智能体提供统一入口,从而在 Arm 计算平台范围内完成 AI 软件的发现、优化及部署。开发者可查找面向特定任务的预优化模型,获取性能与准确率数据,对比延迟、内存占用和模型规模,并访问代码示例及部署工作流。
后续,Arm AI Portal 还将提供相关工具,支持开发者导入包括专有模型在内的自有模型,并在 Arm 平台上开展性能分析与优化。目前,面向智能体 AI 的资源已开放预先体验,正式版本将于后续推出。
依托 Arm 技术优化 AI,加速开发进程
Arm AI Portal 面向基于 Arm 架构的计算平台,支持语言、语音、视觉及神经图形等多类 AI 工作负载。首批预优化模型包括阿里巴巴通义千问、Google Gemma 及 Ultralytics YOLO,支持的runtimes涵盖 ExecuTorch、LiteRT 及 ONNX-RT。生态合作伙伴包括阿里巴巴、树莓派(Raspberry Pi)及 Ultralytics。
Arm AI Portal 适配开发者与智能体的现有开发环境,经 Arm 优化的模型可通过 Hugging Face 获取,Portal 相关资源则可通过模型上下文协议(MCP)供编程智能体访问。
经 Arm 优化的模型已实现显著性能提升:
· 采用单线程执行与混合量化配置,搭载 Q8_0 talker 与 code predictor 组合方案,Qwen3-TTS 在 vivo X300 上通过第二代 Arm 可伸缩矩阵扩展(SME2)的加速,实现了超过 4 倍的速度提升。
· Ultralytics YOLO26 在 vivo X300 上依托SME2 技术,单线程 FP16 相较 FP32 实现超 40% 性能提升;在树莓派 5 平台依托 NEON 技术,采用 FP16 与 INT8 混合量化方案,相比 FP32 同样实现超 40% 的性能提升。
在 Arm 计算平台全面释放 AI 潜能
Arm AI Portal 覆盖云 AI、边缘 AI 和物理 AI 领域的 Arm 计算平台,帮助开发者快速定位适配目标场景的优化模型。无论是机器人视觉模型、智能手机端的生成式人工智能(GenAI),还是运行于云 CPU 的任务专属大语言模型(LLM),开发者均可通过该平台获取。
Arm AI Portal 将SVE、SME 及神经网络加速能力等 Arm 技术与优化软件生态连接起来。以第二代移动终端计算子系统(Arm CSS for Mobile 2)为例,其模型可借助 SME2 和集成神经加速器的 GPU 实现加速,并可通过 AI Portal 获得支持。
数十年来,Arm 始终致力于软件生态系统的构建。如今,AI Portal 将这一投入延伸至 AI 时代,帮助超过 2,200 万开发者及其智能体发现并使用针对目标硬件优化的软件。
更多推荐



所有评论(0)