寒武纪已适配 DeepSeek-V3.2-Exp,同步开源推理引擎 vLLM-MLU
2025-09-30 09:30:11
【导语】9月30日,DeepSeek发布实验性版本DeepSeek-V3.2-Exp模型,寒武纪随即宣布完成适配并开源相关推理引擎源代码,凭借技术积累快速实现新模型架构的day 0适配优化,达成业界领先计算效率,双方合作将降低长序列场景训推成本。

9 月 30 日消息,DeepSeek 正式发布了 DeepSeek-V3.2-Exp 模型,这是一个实验性(Experimental)的版本。寒武纪也宣布,已同步实现对深度求索公司最新模型 DeepSeek-V3.2-Exp 的适配,并开源大模型推理引擎 vLLM-MLU 源代码。
寒武纪称,一直高度重视大模型软件生态建设,支持以 DeepSeek 为代表的所有主流开源大模型。借助于长期活跃的生态建设和技术积累,寒武纪得以快速实现对 DeepSeek-V3.2-Exp 这一全新实验性模型架构的 day 0 适配和优化。
针对本次的 DeepSeek-V3.2-Exp 新模型架构,寒武纪通过 Triton 算子开发实现了快速适配,利用 BangC 融合算子开发实现了极致性能优化,并基于计算与通信的并行策略,再次达成了业界领先的计算效率水平。依托 DeepSeek-V3.2-Exp 带来的全新 DeepSeek Sparse Attention 机制,叠加寒武纪的极致计算效率,可大幅降低长序列场景下的训推成本,共同为客户提供极具竞争力的软硬件解决方案。
热门新闻
- 1物联网卡办理:从技术架构到场景落地的深度解析
- 2接力守护华东物种基因库
- 3在乡土记忆中书写小人物不屈的精神
- 4擎科生物闯关科创板背后
- 5“香薰鸭”变“岁岁鸭”的潮流转译(文物里的潮生活)
- 6一住户将杂物堆满消防通道
- 7把森林“ 种”进博物馆
- 8黄浦 黄浦区互联网优质内容创作集聚区迈入2.0新阶段
- 9华夏物联网ETF联接C净值上涨6.24%
- 10天弘中证沪港深物联网主题ETF发起联接A净值上涨5.00%
- 11物联网ETF工银净值上涨6.45%
- 12南方中证物联网主题ETF净值上涨6.63%
- 13天弘中证沪港深物联网主题ETF净值上涨5.35%
- 14物联网的本质:从感知到决策的分布式智能网络
- 15生物经纬:“不散场”的产业聚会
