Las interconexiones de cobre no pueden escalar para los centros de datos de IA

Las cargas de trabajo de IA están cambiando las redes de los centros de datos, lo que hace que un mayor ancho de banda y una mayor escalabilidad sean más importantes. A medida que las velocidades siguen aumentando, las interconexiones de cobre están alcanzando sus límites en entornos de IA a gran escala.

Los centros de datos de IA están redefiniendo la infraestructura de red

El cambio del tráfico de datos tradicional a las cargas de trabajo de IA 

El tráfico tradicional de los centros de datos admite principalmente aplicaciones como servicios en la nube, bases de datos y plataformas web. Estas cargas de trabajo suelen implicar una comunicación predecible entre servidores y almacenamiento. Las cargas de trabajo de IA son diferentes. Entrenar modelos grandes de IA requiere que miles de GPUs intercambien enormes cantidades de datos de forma continua, lo que hace que las redes de alta velocidad y baja latencia sean fundamentales para el rendimiento. A medida que los modelos de IA se vuelven más grandes, los centros de datos avanzan hacia conexiones más rápidas, como 800G y 1.6T para reducir los cuellos de botella de comunicación y maximizar la utilización de la GPU.

¿Por qué la arquitectura scale-out lo cambia todo? 

Los centros de datos de IA modernos dependen de arquitecturas de escalamiento horizontal, que conectan miles de GPU y servidores en un único sistema informático. En este modelo, la red desempeña un papel fundamental al permitir una comunicación eficiente entre los recursos informáticos.

Sin embargo, los clústeres de IA más grandes requieren más conexiones y mayor ancho de banda. Las soluciones tradicionales de interconexión de cobre que funcionaban para entornos más pequeños son cada vez más difíciles de escalar. Este cambio está impulsando a los centros de datos a adoptar tecnologías de conectividad avanzadas que puedan admitir una mayor densidad y cargas de trabajo de IA más grandes.

¿Por qué se está reevaluando el cableado de cobre? 

El entrenamiento de modelos de IA ya no está impulsado por una sola GPU. En cambio, miles de GPU deben trabajar juntas como un sistema de computación distribuida, intercambiando constantemente cantidades masivas de datos. Durante el entrenamiento, las GPU necesitan asegurarse de que sus resultados intermedios estén sincronizados. Incluso pequeños retrasos en la comunicación pueden reducir el grado de uso de la GPU y afectar el rendimiento general del entrenamiento. A medida que los modelos de IA se vuelven más potentes, la cantidad de datos que utilizan está alcanzando el nivel de Tbps, lo que ejerce presión sobre los cables de cobre tradicionales. El desafío ya no es solo la potencia de cómputo — sino la eficiencia con la que los datos pueden moverse entre GPU. A medida que los clústeres de IA se expanden de cientos a miles de aceleradores, la conectividad se ha convertido en un factor crítico que limita la escalabilidad.

Limitaciones físicas del cableado de cobre en redes de alta velocidad 

Atenuación de la señal

Las señales eléctricas pierden intensidad gradualmente; cuanto mayor es la distancia de transmisión, más débil se vuelve la señal, lo que dificulta mantener una transmisión de datos fiable.

A medida que las velocidades de red siguen aumentando, la intensidad de la señal se convierte en un desafío mayor. Las velocidades más altas implican frecuencias más altas, que pierden más intensidad de señal con la distancia. Esto hace que sea más difícil usar conexiones de cobre en grandes centros de datos de IA.

Diafonía

La diafonía plantea un desafío oculto para el cableado de cobre. Cuando se agrupan densamente grandes cantidades de cables de cobre, las señales eléctricas interfieren entre sí. A medida que los centros de datos de IA continúan ampliándose y requieren un número cada vez mayor de conexiones de alta velocidad dentro de los racks, el problema de la diafonía se vuelve aún más pronunciado.

Interferencia electromagnética

Los cables de cobre transmiten datos mediante señales eléctricas. Esto los hace vulnerables a la interferencia electromagnética (EMI) de dispositivos electrónicos cercanos, cables de alimentación y otras conexiones de red. En los centros de datos con una gran cantidad de datos de IA, miles de conexiones de alta velocidad funcionan al mismo tiempo. Esto puede aumentar el impacto potencial de la EMI.

Consumo de energía

En la era de la infraestructura de IA, donde las GPU individuales ya pueden consumir más de 1,000 vatios, los operadores de centros de datos están bajo una presión creciente para optimizar cada parte del presupuesto energético. Asignar energía adicional a la transmisión de cobre de alta velocidad resulta cada vez menos atractivo, especialmente a medida que la escala de la red sigue creciendo.

Densidad de cables y desafíos térmicos 

Los cables de cobre de alta velocidad son más gruesos y pesados que los cables de fibra óptica. Esto dificulta su uso en centros de datos de IA a gran escala, donde el espacio y el flujo de aire son fundamentales.

A medida que los clústeres de IA siguen creciendo, el número de conexiones de red dentro de cada rack aumenta considerablemente. El cableado de cobre denso puede dificultar la gestión de los cables, ocupar más espacio en el rack y restringir el flujo de aire, lo que dificulta la gestión del calor.

El papel continuo del cobre en los centros de datos de IA

Cobre en conectividad dentro del rack

A pesar de la creciente adopción de soluciones ópticas, el cobre sigue desempeñando un papel importante en las conexiones de corta distancia de los centros de datos de IA. Dentro de un rack, donde las distancias suelen limitarse a unos pocos metros, los cables de cobre como los DAC pueden proporcionar conectividad de alta velocidad entre servidores, GPU y switches con menor costo y una implementación más sencilla.

Rentabilidad en escenarios de corta distancia  

El cobre sigue siendo la opción más económica para aplicaciones de corto alcance. Los cables de cobre tienen una estructura sencilla y no requieren componentes ópticos, lo que los hace adecuados para aplicaciones que no requieren transmisión de larga distancia en comparación con los módulos ópticos.

Cobre como optimización local en lugar de solución escalable

Pero el cobre no es una opción permanente para enormes redes de IA. Con el aumento de los requisitos de ancho de banda, la pérdida de señal, el consumo de energía y el alcance limitado representan problemas de financiación. Por lo tanto, el cobre seguirá siendo una optimización local de conexión corta y la fibra óptica será la infraestructura escalable de los centros de datos de IA.

Cómo la fibra óptica resuelve las limitaciones de escalabilidad del cobre

La baja pérdida de señal permite conectividad a larga distancia

Una de las mejores cosas de la fibra óptica es que puede transportar señales muy bien a largas distancias. Los cables de cobre se debilitan cuando la señal tiene que viajar cada vez más lejos, pero la fibra puede enviar datos a distancias más largas sin perder gran parte de la señal. Esto la hace perfecta para su uso en redes de centros de datos de IA a gran escala.

Alta escalabilidad de ancho de banda para futuras tasas de datos

La fibra óptica ofrece la enorme escalabilidad de ancho de banda necesaria para satisfacer los niveles de tasas de datos impulsados por las cargas de trabajo de IA de próxima generación. La fibra es una tecnología crítica para escalar la infraestructura de IA en el futuro porque admite conexiones de 400G, 800G y de mayor velocidad.

Inmunidad a las interferencias electromagnéticas

A diferencia de las señales eléctricas, que utilizan electricidad, la fibra óptica transmite datos mediante luz. Por lo tanto, es inmune a EMI. Esto garantiza que la comunicación sea más estable y fiable en lugares donde hay muchos centros de datos de IA y miles de componentes de alto rendimiento funcionando al mismo tiempo.

Escalabilidad superior a nivel de sistema

La fibra óptica es mejor para los sistemas porque puede ampliarse. Su menor tamaño, menor peso y mayor densidad de puertos ayudan a los centros de datos a aprovechar mejor el espacio, el consumo de energía y la eficiencia de refrigeración. A medida que los clústeres de IA siguen creciendo, se necesita fibra para construir redes más grandes, más rápidas y más eficientes.

Arquitectura de red híbrida en centros de datos de IA modernos

Separación de la conectividad dentro del rack y entre racks

A medida que los centros de datos de IA continúan escalando, está surgiendo una arquitectura de red híbrida que combina las fortalezas tanto del cobre como de la fibra óptica. En lugar de reemplazar completamente el cobre, la infraestructura moderna de IA avanza hacia un enfoque de "fibra primero, con apoyo de cobre".

El cobre sigue siendo adecuado para la conectividad dentro del rack, ya que las distancias cortas, el menor coste y la facilidad de implementación son factores importantes. Por otro lado, con respecto a las conexiones entre racks y de larga distancia, la fibra óptica se utiliza ampliamente cuando se requieren un gran ancho de banda, baja pérdida de señal y mejor escalabilidad.

Conclusión

Aunque los centros de datos de IA continúan escalando, la escalabilidad de las interconexiones de cobre ha llegado a su fin. Aunque el cobre todavía cumple una función en las conexiones cortas dentro del rack, las demandas cada vez mayores de mayor ancho de banda, mayor alcance y mejor eficiencia para las cargas de trabajo de IA no pueden satisfacerse con la tecnología de cobre actual. La fibra óptica está emergiendo como la columna vertebral de la infraestructura de IA de próxima generación, impulsando centros de datos de hiperescala de forma más rápida y estable para admitir sistemas de IA más sofisticados.