2025年10月，全球存储技术领军企业美光科技（Micron Technology）宣布正式出样全新一代192GB SOCAMM2内存模组，标志着数据中心内存技术迈入全新阶段。该产品在初代SOCAMM基础上实现重大突破，容量提升50%，DRAM裸片级能效提升超过20%，专为应对人工智能（AI）和高性能计算（HPC）日益增长的算力需求而设计，将成为下一代数据中心服务器的关键基石。随着AI和HPC应用的普及，美光此次技术革新不仅解决了现有算力需求的瓶颈，更预示着其在未来数据中心市场中的领导地位。

SOCAMM2（Scalable On-Card Accelerated Memory Module 2）是美光专为AI设计的内存解决方案，它采用了前沿的封装和架构设计，支持高达9600MT/s的传输速率，大大增强了数据处理能力。与传统内存模组相比，SOCAMM2通过改进的信号传输和电源管理技术，显著降低了处理每单位数据的能耗，这符合数据中心对“绿色计算”和可持续发展的严格要求。

在实际应用场景中，192GB SOCAMM2展现出卓越性能。测试数据显示，在搭载Vera Rubin NVL144机架系统的数据中心环境中，单颗CPU配备6根SOCAMM2模组，可提供超过40TB的CPU内存容量（每系统36颗CPU），极大缓解大模型训练中的内存瓶颈。更重要的是，该配置可将AI推理任务中的TTFT（首Token延迟）缩短80%以上，显著提升用户体验与系统响应效率，对大语言模型、实时推荐系统等低延迟应用具有革命性意义。

美光高级副总裁兼云存储业务部门总经理Raj Narasimhan表示：“随着人工智能工作负载日益复杂且要求更高，数据中心服务器必须提升能效，以每瓦功率处理更多数据。美光在低功耗DRAM领域的领先地位已得到充分验证，确保我们的SOCAMM2内存模块能够提供数据吞吐量、能效、容量及数据中心级品质，这些特性对于驱动新一代人工智能数据中心服务器至关重要。”