AMCT

【免费下载链接】amct AMCT是CANN提供的昇腾AI处理器亲和的模型压缩工具仓。 【免费下载链接】amct 项目地址: https://gitcode.com/cann/amct

🔥Latest News

  • [2025/4/24] 支持将deepseekv4模型量化为int8。
  • [2025/4/17] 支持HiFloat8分位量化（quantile）算法。
  • [2025/3/2] 支持HiFloat8数据直转（cast）算法。
  • [2025/2/2] 支持HiFloat8/FP8/FP4数据量化。
  • [2025/12/22] AMCT项目首次上线。

🚀概述

AMCT（Ascend Model Compression Toolkit，简称AMCT）是一款昇腾AI处理器亲和的深度学习模型压缩工具包，提供多种模型量化压缩特性。压缩后模型体积变小，部署到昇腾AI处理器可使能低比特运算，提高计算效率，达到性能提升的目标。AMCT部署架构图如下：

架构图

🔍目录结构

├── docs                           # AMCT工具文档介绍
├── README.md
├── build.sh                       # 工程编译脚本
├── requirements.txt               # 环境搭建需要的第三方依赖包
├── amct_pytorch                   # 源码
├── npu_ops                        # 算法对应的算子代码
├── examples                       # 端到端样例开发和调用示例
└── tests                          # 测试工程目录

⚡️快速开始

若您希望快速体验该工具的使用和样例执行，请访问如下文档获取简易教程：

  • 构建验证：介绍工具的完整构建、测试样例运行流程。
  • 样例执行：介绍如何端到端执行样例代码。

📖学习教程

若您希望深入了解AMCT工具的使用方法，请参见介绍：

📝相关信息

【免费下载链接】amct AMCT是CANN提供的昇腾AI处理器亲和的模型压缩工具仓。 【免费下载链接】amct 项目地址: https://gitcode.com/cann/amct

Logo
DeepSeek技术社区

欢迎加入DeepSeek 技术社区。在这里，你可以找到志同道合的朋友，共同探索AI技术的奥秘。

更多推荐

2026年07月07日全球AI前沿动态

AI技术密集爆发与产业融合（2026年7月关键进展） 技术突破：通用大模型领域，腾讯混元Hy3（MoE架构）、Claude系列（J-space神经发现）、GPT-5.6（多层级版本）等竞相迭代，性能与成本优势显著；垂直模型如OpenScience科研工具、MMAT数学智能体等加速专业化；3D生成、机器人操作、算法优化（如SeKV显存优化）等技术取得实质进展。 产业落地：国内政策规范与商业化并行，腾

avatar DeepSeek技术社区

Gemini 2.5 Flash Lite 新手极速上手指南

在开发智能应用时，很多开发者常常面临一个两难选择：是追求模型的强大理解能力，还是担心高昂的算力成本和复杂的部署流程？特别是在处理长文档分析、图片内容识别或需要实时交互的场景下，传统方案往往显得力不从心。要么响应速度慢得让人失去耐心，要么在处理复杂上下文时出现“遗忘”现象，导致回答断章取义。其实，随着新一代大模型 API 的成熟，这些问题已经有了更优雅的解法。不需要自己搭建庞大的服务器集群，也不必深

avatar DeepSeek技术社区

从提示词工程到上下文工程：ChatGPT 和 Codex 真正改变的是软件系统的组织方式

上下文工程，可以理解为：如何为 AI 提供正确、完整、可执行、可验证的任务背景。它不是简单地把更多文字塞给模型，而是把任务相关的信息组织成一种结构。Context├── Goal 任务目标├── State 当前状态├── Constraints 约束条件├── Resources 可用资源└── Verification 验证标准├── user_intent 用户意图├── repo_stru

avatar DeepSeek技术社区