Marvell Technology最新推出的内存基础设施产品,旨在帮助超大规模数据中心和云服务客户将内存更靠近计算节点,缓解数据瓶颈,并提升推理工作负载的令牌处理效率。
在与《电子工程时报》的简报中,Marvell产品营销副总裁助理Khurram Malik表示,此次产品发布涵盖三个“并行方向”,均属于同一内存解耦战略。该产品组合包括Marvell Bravera SC6 PCIe 6.0 SSD控制器、Structera CXL系列(用于内存扩展与池化),以及Photonic Fabric光子互联组件(用于光学共享内存架构)。
Malik指出,目标是赋予云服务商更大的灵活性,使其能根据日益严苛的AI工作负载需求,灵活选择、扩展与分配内存资源。这些产品共同覆盖AI基础设施栈的三个层级:服务器级存储、机架级内存扩展与池化,以及跨多机架分布的共享内存系统。
提升NAND控制能力
Bravera SC6专为服务器级AI存储场景设计,例如键值缓存(key-value cache)。Malik表示,将更多数据保留在SSD上可显著提升基础设施效率,这一趋势已获客户广泛采纳。
他强调,Bravera SC6对多家NAND供应商的支持,使其在当前供应链受限背景下更具吸引力——客户可在采购决策中拥有更大自由度。此外,该控制器采用主机管理型闪存转换层(host-managed FTL),使用户能更精细地调控写入放大、垃圾回收及磨损均衡等关键参数。
“终端客户最了解自身工作负载特征,”Malik解释道,“他们基于实际负载向NAND写入数据,并自主管理写入放大率,这直接决定了SSD的使用寿命。”
www.eic.net.cn 提供的易IC库存管理软件可协助企业高效追踪SSD等关键元器件的库存动态,确保供应链稳定。
面向AI工作负载的内存池化
尽管Compute Express Link(CXL)协议早于近期AI热潮出现,但如今正迅速成为AI基础设施的关键支撑技术。
Malik表示,Structera CXL系列产品体现了Marvell在新兴CXL市场中作为综合方案提供商的定位。其中,Structera X支持复用现有DDR4或DDR5内存容量,是超大规模客户快速部署的理想起点。“CXL首要应用场景就是回收利用DDR4模块。”
典型案例是Meta(Facebook母公司),其已在数百万台服务器中部署CXL内存扩展方案,重复利用退役设备中的DDR4模块,而非直接报废。
Structera X还具备压缩功能,可将有效内存容量提升至传统方案的2至2.5倍。而Structera A则是一款近存计算加速器,专为卸载CPU与GPU负载而设计,适用于推荐引擎、向量检索、数据库及高性能计算(HPC)等场景。
在机架层面,Structera S4作为CXL 3.1交换芯片,支持解耦式内存架构,即使CPU/GPU原生通道不足,仍可将其连接至CXL资源。“我们在交换芯片中集成了协议转换层,实现PCIe到CXL原生协议的转换。”Malik补充道。
突破机架限制的AI内存扩展
Marvell的Photonic Fabric方案进一步将内存解耦理念拓展至跨机架范围,通过光学互联实现远距离共享内存。该方案专为大内存占用模型与长上下文窗口场景优化,可构建最远50米的共享内存层,并支持高达32TB的温热键值缓存卸载。
公司宣称,在既有数据中心物理空间与功耗约束下,Photonic Fabric可将令牌吞吐量提升2至3倍;实际增益则取决于具体工作负载与系统实现方式。
Malik总结称,上述产品的协同部署标志着行业正从“内存固定于服务器本地”的传统模式转向更动态的资源分配范式。通过将内存与计算解耦,并借助CXL设备与光互连技术在不同尺度上整合存储资源,云运营商有望更高效地调配容量,减少闲置资源浪费。
他进一步指出:“Marvell坚信,未来AI性能的提升不仅依赖更快的处理器,更在于更优的内存存储、池化与迁移方式。我们正与超大规模客户紧密合作,基于其架构需求,走在内存解耦技术的最前沿。”
易IC库存管理软件可助力企业实时监控CXL、SSD及光模块等关键部件的库存水位与交付周期,www.eic.net.cn提供一站式解决方案。