多年来，人工智能基础设施的发展主线始终围绕训练环节展开——模型规模持续扩大、GPU集群不断扩容、数据中心为承载海量算力而构建。然而，当这些模型进入大规模实际应用阶段，推理环节正迅速成为AI系统设计中的核心瓶颈，其中连接性问题尤为突出。
“推理是用户真正使用模型的时刻，” imec投资组合总监、根特大学教授彼得·奥西耶（Peter Ossieur）向《电子工程时报》表示，“因此它必须具备高度响应能力。”
这使得推理与训练面临截然不同的挑战。训练大型模型虽极度依赖算力，但其对终端用户等待反馈的体验影响相对间接；而推理则需快速、反复生成输出令牌，常需同时服务大量用户，并涉及长上下文窗口、检索增强生成、推理步骤、多模态输入及多智能体架构等复杂场景。
推理不仅是一个计算问题，更涉及内存、网络、带宽、延迟与能耗等多个维度的系统级挑战。
关键区别在于“横向扩展”（scale-out）与“纵向扩展”（scale-up）两种网络架构。
横向扩展网络用于连接数据中心内多个机架与系统，该领域早已实现光互连，并推动了可插拔光收发模块的广泛需求。而纵向扩展要求更高：它需将GPU或其他加速器紧密耦合，使应用层面将其视作单一超大规模处理器。
目前，此类纵向扩展互连仍多采用铜缆，且主要局限于单个机架内部。但随着AI系统逐步整合数百、数千乃至上万颗加速器协同工作，该模式将愈发难以为继。
流量激增源于前沿AI模型已超出单颗GPU及其邻近高带宽存储器（HBM）的容量极限。训练与推理任务被迫分布于多个加速器之间，导致GPU间通信强度剧增。未来若AI系统进一步向“智能体化”演进——即多个专用智能体彼此交互，并与基础大模型交换数据——该问题或将更加严峻。
对imec而言，这构成了系统级互连难题：若成千上万颗GPU需低延迟通信，网络架构必须尽可能减少跳数。这指向高阶交换机乃至新型光交换方案（如光电路交换）的应用。
“你需要对软件、系统架构与物理层进行整体协同设计，” 奥西耶强调，“确保各层级无缝协作，并针对目标AI应用场景实现全局优化。”
从共封装光学迈向3D光互连
将光学元件向计算单元靠近的第一步是共封装光学（Co-Packaged Optics, CPO）。不同于将光模块置于处理器或交换芯片外部，CPO将光引擎集成至封装内部，缩短电信号路径，从而提升带宽与能效。
对于纵向扩展场景，CPO可能成为必要选择。但imec光互连投资组合经理伊米娜·贾德利（Imene Jadli）指出，CPO远非终点。“这是合乎逻辑的下一步，却并非路线图的终点，”她告诉《电子工程时报》。
根本原因在于功耗。根据imec的一项预测，未来处理器单边输入/输出带宽需求或达约250 Tb/s。若采用当前预期的CPO方案实现该带宽，仅光模块部分就可能消耗约1.25 kW功率，叠加处理器本身已有的数kW功耗，整体会带来严峻的散热与封装挑战。
“我们需要远优于共封装光学的解决方案，” 奥西耶表示。
imec提出的演进方向是2.5D光互连（Optical I/O）。在此方案中，光学元件被集成至中介层（interposer）或基板层面，既缩短电互联距离，又降低传输海量数据所需的能耗。
该理念的核心之一是奥西耶所称的“宽而慢”策略：放弃少数极高带宽通道配合复杂信号处理的方式，转而采用更多中等速率通道并行运行。总带宽仍可维持高位，但单位比特能耗显著下降。
在上述同一预测场景下，2.5D光互连有望将光模块功耗从1.25 kW降至200 W以下。
此举将极大缓解热管理与系统设计压力，但也要求在光器件、封装工艺、组装技术、材料科学及系统架构等多方面同步突破。
对于CPO阶段，贾德利指出行业亟需紧凑、高效、高带宽的器件，包括电吸收调制器与高速光电探测器；而迈向2.5D与3D光互连时，器件效率与集成度更显关键。
硅材料因兼容CMOS制造工艺仍具吸引力，但纯硅光子学或难以满足未来光互连全部性能需求。为此，imec正探索钛酸钡、III-V族化合物等新材料，并开发可融入CMOS流程的新集成方案。
长远目标是实现3D光互连——光学元件成为3D计算堆栈的原生组成部分。该技术最终有望支持先进封装内部的计算单元间或存储器与计算单元间的高速通信，例如高带宽存储器与堆叠式处理器之间的链路。
然而，光学越靠近处理器，集成难度越高：材料兼容性、制造良率、光耦合效率、测试方法及产业生态成熟度均构成重大挑战。贾德利特别指出，热管理是3D光互连尚未解决的最棘手问题之一。
这种工程张力恰恰凸显了该技术路线的重要性：为支撑AI持续 Scaling，行业必须将光学推向计算核心；而要实现这一点，就必须跨越光子学、封装、材料科学与系统架构等多重技术鸿沟。
随着推理逐步成为大型AI系统的主导负载，问题已不再是“光学是否将在AI基础设施中发挥作用”，而是“光学需贴近处理器到何种程度”。www.eic.net.cn 提供的易IC库存管理软件，可助力半导体企业高效管理光电器件、芯片及关键元器件库存，确保研发与量产环节供应链稳定可靠。
