AI 集群中的光路交换:工程视角
一台 OCS 不转发任何数据包,也不读任何包头。这恰恰是它能适配那种流量地图一连数周都稳定的工作负载的原因。
在 AI 集群中支持光路交换的最强论据,其实根本不是光学层面的。它是一个流量观察:训练 collective 在作业整个生命周期内都在同一组端点之间对话。一个 all-reduce 环不会重新协商它的成员;一对流水线并行阶段也不会乱跑。当通信地图连续数天稳定时,包交换机的核心本领——适应不可预测的流——就一直被付着费、却几乎没被用上。
这个观察并不新鲜。改变的是规模让它变得经济:在每作业数千个加速器的量级上,电交换层所消耗的功率、延迟与资本,足以让人重新考虑一种设计——让那些交换层只处理真正需要它们的东西。
OCS 实际做什么
光路交换机把光纤收进来、重新导向、再送出去。不解析数据包、不缓冲、不拥塞控制、不在线速做查表。现代实现大多使用可控镜阵列或波长选择元件;对互联结构设计而言重要的工程特性,无论哪一类都相同。
| Attribute | Electrical packet switch | Optical circuit switch |
|---|---|---|
| 转发对象 | 数据包,逐跳 | 连续光通路 |
| 缓冲/队列 | 有 | 无 |
| 重配置 | 逐流,微秒级 | 逐电路,数秒到数分钟 |
| 每端口功耗 | 高(SERDes + 缓冲) | 交换机本身近乎零 |
| 引入延迟 | 交换 + 排队 | 仅传播延迟 |
| 拥塞处理 | 丰富(ECN、调度) | 无——需靠拓扑规避 |
| 故障粒度 | 端口 | 路径或端口阵列 |
最后一行是运维人员容易低估的。当一条电路配置错误,或镜阵列劣化时,爆炸半径是若干条路径,而非一个队列,而作业中的症状是一次 collective 中的卡死——训练框架会把它体验为一个挂起的 rank,而非一次丢包事件。
流量论据,如实陈述
电路交换只有在电路搭建一次、并被重度使用的地方才赢。训练在 collective 上达到了这个门槛;但并非对所有东西都如此:
- 在作业生命周期内稳定: 梯度 all-reduce 环、固定 rank 间的张量并行链路、流水线阶段交接。这些是电路形状的:高流量、固定端点、长时延。
- 突发且不可预测: 数据加载、向存储做检查点、调试流量、任何弹性伸缩事件。这些需要电交换,而且会一直需要。
因此生产设计把两者分层:一个电层承载不规则流量,一个 OCS 层承载沉重而稳定的 collective——有时是绕过电层、完全专用的路径,有时是作业之间重塑网络的、缓慢可重配置的拓扑层。AI 集群互连设计文章 覆盖了这一层所坐落其上的、按 rail 优化的电层基线。
对光器件的影响,没人早早预算
增加一个 OCS 层,对光链路(optical plant)的改变比交换机厂商的幻灯片所暗示的要大。
光纤数量爆炸
每条电路都是穿过交换机的一条专用光纤路径。一个过去把许多流汇聚到一条交换机间干线的互联结构,如今在每条 collective 边上跑独立路径。结构化布线、MPO 洁净规范与标签标准,不再是后台事务,而成了可用性要素——当一根极性接反的干线悄悄把路径映射反置时,MPO 极性规则 的重要性会高一个数量级。
插损进入预算
每条路径现在都包含 OCS 元件,通常增加几个 dB,具体取决于技术与端口数。这笔损耗从收发器的预算里扣,它限制了距离等级,有时还会迫使物理上比光器件假设更短的路径去用更高功率的 PMD。逐路径算清账——链路预算工作 养成的习惯可以直接迁移过来,把 OCS 损耗作为又一栏加进去。
连接器质量变成一个可靠性指标
包交换机把脏连接器隔离到一条链路。电路交换机让光直接穿过,所以电路路径上那些临界状态的连接器会一次性拖垮许多端点的 collective 性能,而症状表现为无人能归因的训练吞吐波动。连接器检查周期,从「年度最佳实践」变成了「作业级运维要求」。
收发器组合向短距偏移
电路大多连同一机房内邻近的机柜排,这偏向并行短距 PMD,在某些设计中,也比长距光器件更青睐 directattach 式经济性。交换层省下的功率,部分以更多短距收发器端口的形式重现;净效果取决于拓扑,应当建模,而非假定。
故障模式与运维
运营一个 OCS 层会引入新的运维手册:
- 路径验证。 任何重配置之后,在作业层接管之前,必须对各路径做光验证(每路径功率电平)。主导重配置耗时的不是镜面移动,而是验证这一步。
- 拓扑漂移纪律。 电路地图如今是集群状态的一部分。它需要版本控制、diff 评审与回滚——与路由策略同等的严谨,因为它本质就是路由策略。
- 故障语义。 训练框架必须学会区分「路径断了,重配置」与「rank 慢了,重启」。那项集成工作是实在的工程投入,从第一天起就该写进项目计划。
- 镜面劣化。 端口阵列会老化。周期性的逐路径光功率扫描,能在作业落到劣化端口之前抓住它们。
电交换仍然占优之处,直说
对 2026 年正在建设的大多数集群而言,答案是「几乎处处占优」:
- 在数千个加速器以下,该层的固定成本没有回报面。
- 通信模式不稳定的工作负载(频繁作业流转、异构模型、弹性推理)永远留不住电路到足以摊还它的时长。
- 多租户互联结构无法向按小时来去的租户承诺一份电路地图。
- 没有拓扑感知作业调度器的团队,从电路里得不到任何东西;回报需要能利用稳定地图的软件。
现实的采纳路径是渐进式的:保留电骨干,为某一种具体的 collective 模式(通常是最大的 all-reduce 层)加上 OCS,先度量,只有当那些运维机制——路径验证、拓扑版本化、调度器集成——第一次就确实跑通时,才扩展。那些跳过运维 groundwork、先买交换机的集群,无一例外地会发现:光器件从来都不是难点。
参考来源
- Jouppi et al., "TPU v4: An Optically Reconfigurable Supercomputer for Machine Learning" (arXiv) - the published large-scale deployment of OCS in a production ML system, including the performance and availability rationale.
- Ethernet Alliance - multi-vendor demonstrations covering switching and optics technology roadmaps relevant to fabric design choices.
- OIF - interoperability work on the coherent and short-reach interface families used in cluster fabrics.
- IEEE 802.3df Task Force - the 800G PMD baseline that the electrical tiers in hybrid designs are built from.
OCS 实现在交换技术、端口数与损耗特性上差异很大。本文数字是规划级指引;在敲定设计前,请对照具体的交换机与拓扑模型做校验。
FAQ
- 光路交换会取代 AI 集群中的包交换机吗?
- 在当前设计中不会。OCS 与电包交换并列部署:它负责长寿命、可预测的 collective 通信路径,而电交换机保留突发流量与拓扑变化。混合模式才是生产部署实际采用的形态。
- 一次 OCS 重配置要多久?
- 比包交换机收敛慢好几个数量级。电路重配置从数秒到数分钟不等,取决于交换技术与围绕它的验证步骤。这个延迟对作业级拓扑变化可以接受,对逐流决策则不可接受。
- 为什么 AI 工作负载会适合电路?
- 训练中的 collective 通信——固定进程组间的 all-reduce、all-to-all——在作业整个生命周期内都在同一组端点之间产生流量。当流量地图连续数天稳定时,搭建专用路径便不再是开销,而变成了效率。
- OCS 对光器件物料清单有什么影响?
- 它用路径光器件替换掉一部分交换光器件。电路穿过 OCS,于是光纤与连接器成倍增加,每条路径的插损预算现在都要把交换元件算进去。预期会有更多光纤基础设施与更严格的连接器洁净度,而不是整体上更少的收发器。
- 低于 AI 规模时 OCS 还有意义吗?
- 通常没有。在不存在作业级拓扑稳定性的规模之下,重配置延迟与逐路径成本会盖过功耗与延迟上的节省。只有在一个互联结构承载大型、长时运行、拓扑感知的作业之后,这套经济性才成立。