Conmutadores de circuito óptico en clústeres IA
Un OCS no mueve paquetes ni lee cabeceras. Precisamente por eso encaja en la carga de trabajo cuyo mapa de tráfico permanece estable semanas enteras.
El argumento más fuerte a favor de la conmutación de circuito óptico en clústeres IA no es óptico en absoluto. Es una observación de tráfico: los colectivos de entrenamiento hablan entre los mismos conjuntos de extremos durante toda la vida del trabajo. Un anillo all-reduce no renegocia su membresía; un par de etapas de paralelismo por tuberías no vaga. Cuando el mapa de comunicación es estable durante días, la competencia central del switch de paquetes - adaptarse a flujos impredecibles - se paga y barely se usa.
Esa observación no es nueva. Lo que cambió es la escala que la hace económica: con miles de aceleradores por trabajo, la potencia, la latencia y el capital de un nivel de conmutación eléctrica justifican revisitar un diseño en el que esos niveles solo gestionan lo que de verdad los necesita.
Qué hace realmente un OCS
Un conmutador de circuito óptico toma fibras a la entrada, las redirige y las envía a la salida. Sin análisis de paquetes, sin buffer, sin control de congestión, sin búsquedas de tabla a velocidad de línea. Las implementaciones modernas usan sobre todo matrices de espejos orientables o elementos selectivos por longitud de onda; las propiedades de ingeniería que importan para el diseño de estructura son las mismas en ambas familias.
| Atributo | Switch de paquetes eléctrico | Conmutador de circuito óptico |
|---|---|---|
| Reenvía | Paquetes, por salto | Trayectorias de luz continuas |
| Buffers / colas | Sí | Ninguno |
| Reconfiguración | Por flujo, microsegundos | Por circuito, segundos a minutos |
| Potencia por puerto | Alta (SERDes + buffer) | Casi cero en el propio switch |
| Latencia añadida | Switch + encolado | Solo propagación |
| Gestión de congestión | Rica (ECN, planificación) | Ninguna - la prevención debe venir de la topología |
| Granularidad de fallo | Puerto | Ruta o matriz de puertos |
La última fila es la que los operadores subestiman. Cuando un circuito está mal configurado o una matriz de espejos se degrada, el radio de impacto es un conjunto de rutas, no una cola, y el síntoma en el trabajo es una parada en un colectivo, que el framework de entrenamiento experimenta como un rango colgado en vez de como una pérdida de paquetes.
El argumento de tráfico, dicho sin rodeos
La conmutación de circuito solo gana donde los circuitos se montan una vez y se usan intensamente. El entrenamiento cumple ese umbral para los colectivos; no lo cumple para todo:
- Estable durante la vida del trabajo: anillos all-reduce de gradiente, enlaces de paralelismo de tensores entre rangos fijos, entregas de etapas por tuberías. Estos tienen forma de circuito: volumen alto, extremos fijos, larga duración.
- Ráfaga e impredecible: carga de datos, checkpointing a almacenamiento, tráfico de depuración, cualquier evento de escalado elástico. Estos necesitan conmutación eléctrica y la retendrán.
Los diseños en producción por tanto superponen los dos: un nivel eléctrico para el tráfico irregular, un nivel OCS que transporta los colectivos pesados y estables - a veces como rutas dedicadas que eluden el nivel eléctrico por completo, a veces como una capa de topología reconfigurable lentamente que redibuja la red entre trabajos. El artículo de diseño de interconexión de clústeres IA cubre la base eléctrica optimizada por riel sobre la que se sitúa esta capa.
Las consecuencias para la óptica que nadie presupuesta a tiempo
Añadir un nivel OCS cambia la planta óptica más de lo que sugieren las diapositivas del fabricante del switch.
El número de fibras explota
Cada circuito es una ruta de fibra dedicada a través del switch. Una estructura que antes agregaba muchos flujos en un solo troncal switch-a-switch ahora corre rutas individuales por arista de colectivo. El cableado estructurado, la higiene MPO y los estándares de etiquetado dejan de ser asuntos de back-office y se convierten en factores de disponibilidad - las reglas de polaridad MPO importan un orden de magnitud más cuando un solo troncal mal polarizado invierte en silencio un mapeo de ruta.
La pérdida de inserción entra en el presupuesto
Cada ruta ahora incluye el elemento OCS, añadiendo típicamente unos pocos dB según tecnología y número de puertos. Esa pérdida sale del presupuesto del transceptor, lo que restringe la clase de alcance y a veces obliga a un PMD de mayor potencia para rutas físicamente más cortas de lo que asume la óptica. Haga los números por ruta: el hábito del trabajo de presupuesto de enlace se traslada directamente, con la pérdida OCS como una línea más.
La calidad del conector se vuelve una métrica de fiabilidad
Un switch de paquetes aísla un conector sucio a un solo enlace. Un conmutador de circuito pasa la luz directa, así que los conectores marginales en rutas de circuito degradan el rendimiento colectivo de muchos extremos a la vez, y el síntoma aparece como varianza de rendimiento de entrenamiento que nadie sabe a qué atribuir. Los ciclos de inspección de conectores pasan de «mejor práctica anual» a «requisito operativo a nivel de trabajo».
La mezcla de transceptores se inclina a corto alcance
Los circuitos conectan sobre todo filas cercanas dentro de la misma sala de máquinas, lo que favorece PMD paralelos de corto alcance y, en algunos diseños, economía de estilo direct-attach frente a óptica de largo alcance. La potencia ahorrada en el nivel de conmutación reaparece en parte como más puertos de transceptor de corto alcance; el neto depende de la topología y debe modelarse, no asumirse.
Modos de fallo y operaciones
Operar un nivel OCS introduce nuevos runbooks:
- Verificación de ruta. Tras cualquier reconfiguración, las rutas deben verificarse ópticamente (niveles de potencia por ruta) antes de que la capa de trabajo las asuma. El paso de verificación, no el movimiento del espejo, domina el tiempo de reconfiguración.
- Disciplina de deriva de topología. El mapa de circuito ya es parte del estado del clúster. Necesita control de versiones, revisión de diff y rollback - el mismo rigor que una política de enrutamiento, porque eso es lo que es.
- Semántica de fallo. Los frameworks de entrenamiento deben aprender a distinguir «ruta caída, reconfigura» de «rango lento, reinicia». Ese trabajo de integración es esfuerzo de ingeniería real y debe figurar en el plan del proyecto desde el día uno.
- Degradación de espejos. Las matrices de puertos envejecen. Un barrido periódico de potencia óptica por ruta capta puertos a la deriva antes de que los trabajos caigan sobre ellos.
Dónde lo eléctrico sigue ganando, claramente
Para la mayoría de los clústeres que se construyen en 2026, la respuesta es «casi en todas partes»:
- Por debajo de unos pocos miles de aceleradores, el coste fijo del nivel no tiene superficie de retorno.
- Cargas con patrones de comunicación inestables (cambio de trabajo frecuente, modelos heterogéneos, inferencia elástica) nunca retienen circuitos el tiempo suficiente para amortizarlos.
- Las estructuras multiinquilino no pueden prometer un mapa de circuito a inquilinos que llegan y se van cada hora.
- Los equipos sin planificadores de trabajo conscientes de la topología no obtienen nada de los circuitos; el beneficio requiere software que pueda explotar un mapa estable.
La vía de adopción realista es incremental: mantenga la espina eléctrica, añada OCS para un patrón de colectivo concreto (típicamente el nivel all-reduce más amplio), mida y expanda solo si la maquinaria operativa - verificación de ruta, versionado de topología, integración del planificador - funcionó realmente la primera vez. Los clústeres que omiten el trabajo operativo previo y compran el switch primero descubren de forma fiable que la óptica nunca fue la parte difícil.
Fuentes
- Jouppi et al., "TPU v4: An Optically Reconfigurable Supercomputer for Machine Learning" (arXiv) - el despliegue a gran escala publicado de OCS en un sistema de ML en producción, incluida la justificación de rendimiento y disponibilidad.
- Ethernet Alliance - demostraciones multi-fabricante sobre rutas de tecnología de conmutación y óptica relevantes para decisiones de diseño de estructura.
- OIF - trabajo de interoperabilidad sobre las familias de interfaz coherente y de corto alcance usadas en estructuras de clúster.
- IEEE 802.3df Task Force - la base PMD 800G sobre la que se construyen los niveles eléctricos en diseños híbridos.
Las implementaciones OCS difieren mucho en tecnología de conmutación, número de puertos y características de pérdida. Las cifras aquí son guía a nivel de planificación; valide contra un switch y un modelo de topología específicos antes de comprometer un diseño.
FAQ
- ¿Sustituye la conmutación de circuito óptico a los switches de paquetes en clústeres IA?
- No en los diseños actuales. El OCS se superpone a la conmutación de paquetes eléctrica: gestiona las rutas de comunicación colectiva de larga duración y predecibles, mientras los switches eléctricos retienen el tráfico ráfaga y los cambios de topología. El patrón híbrido es lo que usan realmente los despliegues en producción.
- ¿Cuánto tarda la reconfiguración de un OCS?
- Órdenes de magnitud más lenta que la convergencia de un switch de paquetes. La reconfiguración de circuito va de segundos a minutos según la tecnología del switch y los pasos de verificación que la rodean. Esa latencia es aceptable para cambios de topología a nivel de trabajo y inaceptable para decisiones por flujo.
- ¿Por qué las cargas de IA se prestan a circuitos?
- La comunicación colectiva en entrenamiento - all-reduce, all-to-all entre grupos de proceso fijos - produce tráfico entre los mismos conjuntos de extremos durante toda la vida del trabajo. Cuando el mapa de tráfico es estable durante días, montar rutas dedicadas deja de ser sobrecarga y pasa a ser eficiencia.
- ¿Qué hace el OCS a la lista de materiales ópticos?
- Intercambia parte de la óptica de conmutación por óptica de ruta. Los circuitos atraviesan el OCS, así que las fibras y los conectores se multiplican, y el presupuesto de pérdida de inserción de cada ruta ahora incluye el elemento de conmutación. Espere más infraestructura de fibra y una higiene de conectores más estricta, no menos transceptores en total.
- ¿Es relevante el OCS por debajo de la escala IA?
- Generalmente no. Por debajo de la escala donde existe estabilidad de topología a nivel de trabajo, la latencia de reconfiguración y el coste por ruta superan el ahorro de potencia y latencia. La economía solo funciona cuando una estructura aloja trabajos grandes, de larga duración y conscientes de la topología.