异构算力,智算新生
IDC 中国算力研究中心高级分析师针对行业趋势作出研判:依靠堆砌 GPU 野蛮建设 AI 基建的阶段已然结束。
现代化成熟智算中心,普遍落地「性能核承载重型算力负载、能效核承接高吞吐推理业务」的混合部署架构。
至强 6746E 凭借极致能效表现与超高核心密度,补齐了推理集群、边缘算力长期能耗偏高、算力密度不足的行业短板。
一方面适配国内数据中心碳中和建设与 PUE 管控相关政策,另一方面助力云厂商持续下调 AI 推理服务定价,推动 AI 技术更快普及。
该分析师预判,未来两年,能效型服务器在推理机房中的部署占比将会突破 65%。
现代化成熟智算中心,普遍落地「性能核承载重型算力负载、能效核承接高吞吐推理业务」的混合部署架构。
至强 6746E 凭借极致能效表现与超高核心密度,补齐了推理集群、边缘算力长期能耗偏高、算力密度不足的行业短板。
一方面适配国内数据中心碳中和建设与 PUE 管控相关政策,另一方面助力云厂商持续下调 AI 推理服务定价,推动 AI 技术更快普及。
该分析师预判,未来两年,能效型服务器在推理机房中的部署占比将会突破 65%。
英特尔数据中心能效产品线负责人在专访中明确了这款处理器的定位:至强 6746E 在研发阶段便放弃布局高端大模型训练市场,
核心目标是搭建支撑海量并发业务的吞吐型算力底座。大模型训练侧重单核高频、大容量缓存,而推理场景更看重多核心规模、
低功耗与高密度部署,两类业务对硬件的需求截然不同。采用性能核搭配能效核的异构组合方案,能够让不同架构处理器匹配专属业务场景,
从根源避免算力闲置浪费。英特尔后续还会迭代全新能效架构、强化 AMX 推理加速能力,
并携手整机品牌推出液冷高密度多节点服务器机型,持续拔高单机架算力上限。
核心目标是搭建支撑海量并发业务的吞吐型算力底座。大模型训练侧重单核高频、大容量缓存,而推理场景更看重多核心规模、
低功耗与高密度部署,两类业务对硬件的需求截然不同。采用性能核搭配能效核的异构组合方案,能够让不同架构处理器匹配专属业务场景,
从根源避免算力闲置浪费。英特尔后续还会迭代全新能效架构、强化 AMX 推理加速能力,
并携手整机品牌推出液冷高密度多节点服务器机型,持续拔高单机架算力上限。
