DeepSeek V4官宣发布，昇腾量化模型社区同步上线

2026年4月24日，国产AI圈迎来重磅消息，DeepSeek V4-Pro和DeepSeek V4-Flash正式发布并开源，模型上下文处理长度由原有的128K显著扩展至1M，实现近10倍的容量提升，首次增加了KV Cache滑窗和压缩算法，大幅减少Attention计算和访存开销，并通过模型架构创新更好地支持了Agent和Coding场景。同时，我们正式宣布——昇腾量化模型社区在昇腾社区（Ascend）、魔搭社区（ModelScope）和魔乐社区（Modelers）三大社区同步上线！这不仅是一个技术平台的发布，更是昇腾携手广大开发者，共同探索AI极致效能的全新起点。

为什么需要昇腾量化模型社区？

当前，大模型参数量以千亿、万亿计，对算力提出前所未有的挑战。量化技术通过将模型参数从高精度压缩至低比特（如INT8），能够在几乎不损失精度的情况下，将模型体积压缩数倍。例如原本需要16卡部署的模型，8卡即可部署，服务能力倍增。

开发者长期面临“模型易得，量化难行”的困境：开发者从开源仓下载原始FP16模型后，往往需要自己完成量化适配、精度调优、性能验证，重复造轮、经验难共享。

昇腾量化模型社区的诞生，正是为了填补这一空白。我们将打造一个面向昇腾NPU、开放共享的量化模型聚集地，让每一位开发者都能“开箱即用”地获取经过充分验证的高质量量化模型，专注于业务创新本身。

社区上线伊始，互联网、金融行业客户贡献了覆盖主流大模型家族的70余个量化模型，形成业界领先的昇腾量化模型矩阵。这些模型均经过严格的精度验证和性能测试，并提供完整的自验证报告。开发者可以在社区直接下载多种量化精度的模型，在昇腾硬件上“一键部署”。

DeepSeek V4的“量化时刻”：社区首个高光

当DeepSeek V4正式发布，开发者最关心的问题将是：“我能用得起吗？我能跑得动吗？”为了让更多的开发者用上DeepSeek V4，正是昇腾量化模型社区的价值所在。社区已在第一时间上线DeepSeek V4的量化版本——让开发者“想用V4，就有量化版”。

社区技术力量：创新驱动，极致优化

昇腾量化模型社区的底气，源于昇腾在量化技术领域的持续深耕与突破。作为昇腾量化模型社区的核心技术引擎——msmodelslim量化框架，已演进为面向大模型的分层解耦V1架构。它将量化模式库、算法库与模型适配层分离，支持开发者灵活组合多种量化算法。

msmodelslim全面覆盖三大算法类别：

离群值抑制：QuaRot、SmoothQuant、AWQ等，旨在平滑激活值的分布，减少量化带来的精度损失；

线性层量化：GPTQ、AutoRound、LAOS（W4A4）等，实现高精度低比特；

注意力层量化：FA3 Quant、KVCache Quant等，优化长序列推理。

通过Agent+skills自动调优与精度缓存机制，显著缩短量化调优周期，降低人工试错成本，真正实现“一键量化，开箱即用”。

诚邀共建：下一个量化版，由你来创造

一个好的社区因共建共创而繁荣长久。昇腾量化模型社区将始终坚持“开源、开放、共建”的原则：

对贡献者：欢迎加入昇腾量化模型社区，成为社区贡献者。您可以使用msmodelslim工具对主流模型进行量化适配，按规范格式提交模型，并提供自验证报告。您的成果将署名收录于社区模型库，持续更新的模型将获得社区推荐与展示。

对使用者：社区内所有模型均免费下载、自由使用。无论是学术研究还是商业应用，都能在这里找到适配昇腾、开箱即用的量化版本。目前社区已上线70余个量化模型，覆盖Qwen、GLM、DeepSeek等主流系列。

立即加入昇腾量化模型社区：

昇腾社区组织主页：

https://gitcode.com/Eco-Tech

魔搭社区组织主页：

https://www.modelscope.cn/organization/Eco-Tech

魔乐社区组织主页：

https://modelers.cn/user/Eco-Tech

让我们携手，以量化之名，共赴AI落地之约！

昇腾计算产业，致力于构建全场景AI计算基础设施，让智能无所不及。