1月29日消息，伴随代理式AI应用的快速普及，AI系统对内存的需求迎来结构性变革，AMD、高通正评估在下一代AI产品及机架

架构中引入SOCAMM内存模块。SOCAMM最初被视作NVIDIA专属内存标准，与传统板载LPDDR不同，该模块采用模块化设计，支持更换与升级，

能在容量、功耗和系统弹性间实现平衡。而代理式AI架构下，模型需长期维持上下文、状态及任务记忆，推动系统对短期大容量内存的需求大幅攀升。 相较于单纯依赖HBM，业界愈发意识到需增设一层兼顾成本、功耗与容量的内存，SOCAMM也因此备受关注。相关人士表示，SOCAMM可让单颗CPU

或加速器平台实现TB级内存配置，支撑AI agent同时维持数百万个token的活跃状态；其带宽和吞吐量虽不及HBM，但在功耗效率、系统扩展性上具备优势，

是适配HBM的理想内存搭配方案。值得注意的是，AMD、高通在SOCAMM模块设计上，或与NVIDIA采取不同技术路线——二者正评估

采用方形模块布局DRAM，并将PMIC（电源管理IC）直接集成在模块上，实现模块端的电源调节。 产品进度方面，NVIDIA已计划在新一代产品Vera Rubin中搭载SOCAMM 2，业内预计，随着出货规模扩大，SOCAMM将成为AI系统的核心内存配置之一。

此前消息显示，NVIDIA已向DRAM厂商下达SOCAMM年度需求规划，其中三星为核心供应商，SK海力士、美光紧随其后。