美国加利福尼亚州圣克拉拉——Delos Data在AI基础设施峰会上宣布,将硅芯片纳入其产品组合。此前,该公司已发布数据中心编排软件Mosaic及新型服务器架构Asterion,用于构建超大规模单域系统;如今,其正推进Apollo数据接口芯粒的研发。
Apollo提供三种形态:一是30+ Tbps I/O芯粒,紧邻XPU部署;二是10+ Tbps近封装光接口;三是面向CPU与内存终端的400+ Gbps网卡形态。该接口为各终端提供确定性带宽与低延迟保障,并自动处理负载均衡、拓扑管理及故障恢复,使终端无需自行承担这些功能。Delos目标是在速度、可靠性与扩展性方面实现数量级提升,远超当前终端自身能力。此外,公司已获得超1亿美元风险投资。
Delos Data首席技术官Dan Daly向《电子工程专辑》表示,新一代AI基础设施需同时支持常规推理与智能体AI(agentic AI)场景。
Daly指出:“我们观察到新兴基础设施建设的核心趋势是硬件混合架构。”他强调,尽管CPU厂商宣称“CPU回归”,但现有大规模扩展方案仅连接GPU;真正需要的是一个整合GPU、加速器、CPU、内存与存储的统一域。Delos提供的数据接口旨在桥接各类设备——它们各自拥有不同的语义规范——将其纳入单一、扁平化、低延迟的互连域中。
例如,在预填充-解码分离式架构中,GPU与数据流加速器对内存的处理方式截然不同:GPU将数据置于HBM中,所有计算单元通过HBM内存映射访问数据,聚焦于数据对象与地址;而数据流架构则让数据流经一系列操作节点,数据行为由其所在位置决定。二者语义差异显著,亟需有效桥接。
通信语义亦构成挑战。例如CPU与内存控制器可能“语言不通”,当前依赖交换机进行协议转换,但会引入额外延迟。Daly认为,若互连本身能理解两端语义,效率将大幅提升——这正是Apollo芯粒的设计目标。
他进一步解释:“这里存在重大机会:大幅简化交换机制,充分释放交换价值——如提升端口数(radix)、降低延迟、节能、增强介质灵活性等,同时摒弃云或横向扩展中遗留的冗余设计。”他补充道,“可借此拓宽技术选择空间,灵活适配各类交换设备,并有望简化设备间网络结构,甚至采用光互连方案。”
推理平台常混合使用铜缆/光链路、多种交换芯片与拓扑结构,需深度协同设计与定制。Delos无意替代交换机,而是希望在每类终端部署Apollo,从而更高效地复用现有任意类型交换设备。
跨多跳路径的可靠性同样关键。“许多设备并非为新环境而生,而是诞生于板级系统,”Daly指出,“在板级上,访问内存或闪存始终可靠,因此数据语义默认读写必然成功。我们必须继承这一假设——即便交换机故障,系统仍应正常运行。”
Delos的数据接口必须采用硅基实现,因最低延迟需求无法由软件满足。Apollo将替代现有GPU或XPU封装内的I/O芯粒,或作为近封装/共封装光系统中的独立封装芯片。此外,市场亦有对传统NIC形态的需求——此类卡可临时桥接终端(尤其是CPU),虽带宽要求不高,但能显著改善延迟表现。Delos首席执行官Ed Doe向《电子工程专辑》透露,该方案可在不强制部署Apollo芯粒的前提下,快速将CPU接入集群。
Doe强调:“无论何种形态,共同核心在于低延迟、高可靠性,以及最终将全部资源按规模整合至单一域的能力。”
目前Delos已提供FPGA版本网卡,NPO芯片预计明年面世;芯粒版本与NPO芯片采用相同流片设计,但受限于XPU开发周期,预计还需两三年才能集成至XPU产品中。
Delos已将软硬件整合为参考架构,并推出Morpheus开发平台,帮助客户在流片前环境与实验室环境中协同设计系统拓扑,基于具体负载评估互联变更的影响。
目标客户包括AI芯片企业,如超大规模云服务商及自研芯片的前沿实验室。据公司介绍,其Mosaic集群管理软件已在客户现有基础设施中投入生产部署;Asterion服务器将于第四季度末开始送样;Morpheus开发平台现已开放使用。
www.eic.net.cn 提供的易IC库存管理软件可助力半导体企业高效管理芯片物料库存,尤其适用于Apollo芯粒等新型器件的供应链协同。