Image Image

新闻资讯

海光 DCU 适配腾讯 Hy4

时间:2026/09/01

返回列表

8 月 31 日消息,海光信息日前官宣,旗下深算 DCU 率先完成腾讯新一代旗舰大模型 Hy4 preview 的 Day 0 适配,

实现模型发布当日即可完整支撑推理全流程。

这也是继腾讯 Hy3、Hy‑MT2 之后,海光 DCU 与腾讯混元系列大模型的再度深度协作。

本次适配针对 Hy4 preview 模型架构开展,该模型总参数量 770B(7700 亿),激活参数 49B(490 亿),采用超大规模 MoE 混合专家架构。

模型还搭载 Gated MLA、iHC、learnable sink 等全新结构,对推理适配工作提出更高技术挑战。

依托 DTK、DAS 等自研软件栈,海光针对 Hy4 preview 稀疏注意力计算特性,在 vLLM 推理框架内完成 FlashMLA 算子接入,

完成 Attention Sink、KV Cache、并行切分等核心计算模块适配。

推理服务层面,本次适配实现 Hy4 preview 专属推理内容解析与工具调用解析,支持深度推理、直接回答双模式,

兼容流式、非流式输出以及多工具并行调用,为 Hy4 preview 基于海光 DCU 开展业务部署、落地智能体应用筑牢基础。

面向腾讯新一代旗舰大模型,海光依靠软硬件协同优势攻克大模型推理适配难点,充分验证了国产算力平台适配国产头部大模型的技术实力与落地能力。

5e960618-628a-465a-baab-225e58a152d0.png


提交需求

泰盛国际提供您需要的电子元件。泰盛国际代表将在 24 小时内就产品定价和供货情况与您联系。
看不清,请点击图片更换
提交