Image Image

新闻资讯

大核密算,智驱推理

时间:2026/08/19

返回列表

AI 私有化部署与大数据业务快速普及,大模型并发推理、向量检索、文档解析、海量数据预处理等任务,

对服务器核心数量、并行处理能力提出更高要求。传统性能核 CPU 侧重单核时延,在大规模并发吞吐场景容易出现资源瓶颈,

而 GPU 集群成本居高不下,很多企业亟需一套高性价比的高密度 CPU 算力平台。基于 Sierra Forest 架构的英特尔至强 6746E 全能效核处理器,

凭借大核数、可控功耗、内置硬件加速引擎,成为 AI 推理与大数据业务的重要算力选择。

至强 6746E 采用 Intel 3 工艺,112 核 112 线程纯能效核设计,无超线程干扰,任务调度更加稳定确定。基础主频 2.0GHz,

全核睿频 2.7GHz,配备 96MB 共享三级缓存,TDP 250W,适配 FCLGA4710 双路平台,支持 8 通道 DDR5‑5600 ECC 内存与 88 条 PCIe5.0 通道,

集成 AMX、QAT、DSA、IAA 全套硬件卸载单元。250W 功耗可适配标准风冷散热,现有机房无需改造水冷即可直接部署落地。

在 CPU 大模型推理场景下,AMX 矩阵加速单元释放矩阵运算能力,可承载 7B‑13B 模型并发推理、向量数据库检索、智能客服、

内容审核等业务。双路整机能够同时运行大量推理实例,既可独立搭建私有化推理服务,也可以和 GPU 组成异构集群,由 GPU 负责重型训练,

6746E 承接预处理、token 处理、批量推理分流,有效降低 GPU 占用,压低整体集群 TCO。

面对大数据业务,IAA 数据分析加速、DSA 数据搬运引擎,将过滤、解压、数据迁移等繁重工作硬件化,解放 CPU 核心专注业务运算。

日志清洗、离线计算、批量 ETL、非结构化文档处理等并行任务,能够获得显著效率提升。大容量缓存优化海量碎片化数据访问,

减少内存等待时延,大批量作业排队现象得到有效缓解。

安全层面,处理器支持 TDX 机密计算、TME 内存加密,推理业务数据实现硬件层面隔离保护,满足政企私有化 AI 项目的数据安全与等保合规要求。

完整 RAS 可靠性特性,支持故障预警、硬件容错,保障 7×24 小时不间断运行,适配数据中心无人值守运维模式。

当前主流服务器整机、主流推理框架、大数据组件均完成适配验证。在算力分层建设的趋势之下,至强 6746E 填补高密度 CPU 推理算力缺口,

为企业私有化 AI、大数据平台建设,提供兼顾密度、功耗与成本的硬件方案。

00693.jpg


提交需求

泰盛国际提供您需要的电子元件。泰盛国际代表将在 24 小时内就产品定价和供货情况与您联系。
看不清,请点击图片更换
提交