¿Cómo pueden evolucionar los transceptores ópticos en la era de la IA?

Desde el rápido crecimiento de ChatGPT en enero de 2023, la aplicación de software desarrollada por OpenAI ha ganado una atención y una aceptación sin precedentes por parte de usuarios de todo el mundo. El lanzamiento de ChatGPT también estimuló el desarrollo de productos competidores, formando una tendencia generalizada en la que empresas globales compiten por desplegar inteligencia artificial. 

Nvidia informó del crecimiento de las ventas de hardware de inteligencia artificial (IA), como las interconexiones de fibra óptica. Google planea promover la inversión en clústeres de servidores de IA. Otras empresas en la nube, como Amazon y Microsoft, pueden liderar el desarrollo de nuevas aplicaciones de IA.  El mercado ha visto que los sistemas de IA necesitan urgentemente transceptores ópticos para proporcionar una transmisión de datos entre servidores de computación ultrarrápida y de mayor ancho de banda que nunca. Este artículo ofrece una perspectiva de mercado sobre cómo pueden evolucionar los transceptores en la era impulsada por la IA.

¿Qué tiene que ver un transceptor óptico con la inteligencia artificial?

Chatgpt ha conseguido cien millones de usuarios activos mensuales en los dos meses posteriores a su lanzamiento el 30 de noviembre de 2022, lo que la convierte en la aplicación de software de consumo de más rápido crecimiento de la historia. Los usuarios individuales que visitan y realizan búsquedas en Chatgpt a diario son aproximadamente 13 millones, una cifra que sigue creciendo. El funcionamiento de ChatGPT debe contar con el respaldo de potentes recursos de computación en la nube para satisfacer las enormes necesidades de los usuarios. De lo contrario, incidentes como la caída de ChatGPT’ debido a un aumento repentino del tráfico la noche del 7 de febrero se producirán con frecuencia.

La IA generativa se entrena con un conjunto de datos existente, lo que puede notar en el campo de indicaciones al hacer preguntas a Chatgpt: mi conocimiento se actualizó por última vez en enero de 2022. El conjunto de datos comprende una enorme cantidad de parámetros para una sólida capacidad de computación y aprendizaje automático, distribuidos en decenas de miles de controladores. La IA es el factor principal que impulsa la demanda de centros de datos, y los centros de datos requieren transceptores para admitir la transmisión de datos del enlace. Los centros de datos actuales y futuros deben agregar una unidad de IA privada para procesar conjuntos de datos masivos y realizar computación compleja en tiempo real.  

Reestructuración de la arquitectura en el lado de entrenamiento y predicción - Un cambio hacia redes CLOS: Fat-Tree, Spine-Leaf y ¿qué sigue?

La aplicación generalizada de la IA y la consiguiente mayor demanda de banda ancha para terminales de red y hardware informático como CPU/GPU pueden dar lugar a futuros cambios en la arquitectura de red de los centros de datos de IA. 

La plataforma de IA generativa adopta métodos de entrenamiento en la nube y predicción en el terminal. La demanda de módulos transceptores para el entrenamiento de IA está estrechamente relacionada con los envíos de GPU. En cambio, la demanda de módulos en el lado de predicción de IA está fuertemente asociada con el tráfico de datos requerido por los usuarios finales. La arquitectura fat-tree presenta ausencia de congestión, por lo que podría dominar la red del lado de entrenamiento en la nube para cumplir con los requisitos de red de alto rendimiento. Como el lado de inferencia de predicción se orienta a los usuarios finales, el posible aumento repentino de la cantidad de usuarios impulsado por aplicaciones populares de IA de video o imagen requiere que la potencia computacional sea incluso mayor que en el extremo de entrenamiento. Por lo tanto, el lado de predicción prefiere la arquitectura spine-leaf para manejar la mayor carga de datos impulsada por las aplicaciones de IA. Se espera que la remodelación de la arquitectura de los centros de datos de IA se convierta en otro factor que impulse el aumento de transceptores ópticos y switches de red.

La arquitectura tradicional de tres niveles núcleo-agregación-acceso se basa en un modo de transmisión norte-sur, que encontró su limitación cuando el aumento del tráfico este-oeste comenzó a dominar en los centros de datos. Las redes CLOS se han vuelto esenciales para que los centros de datos construyan una red de conmutación multietapa y sin bloqueo. 

La arquitectura Fat-Tree marca la entrada del modelo de red CLOS en el ámbito de los centros de datos y ve su éxito en los centros de datos de Nvidia. Fat-Tree despliega una cantidad considerable de los mismos switches baratos de bajo rendimiento para construir una red a gran escala sin congestión. Sin embargo, Fat Tree también tiene sus inconvenientes. Por ejemplo, la escala de expansión está limitada por la densidad de puertos de los switches centrales, lo que no favorece el desarrollo sostenible de los centros de datos.

La arquitectura spine-leaf de dos niveles, otro modelo de red CLOS, ganó impulso en las conexiones de centros de datos. La arquitectura spine-leaf es una estructura plana adecuada para la aparición del tráfico este-oeste. El switch Spine es similar a un switch central, y los switches Leaf están conectados directamente a los ordenadores. Todos los switches son bidireccionales para la entrada y salida de datos. Una red spine-leaf tiene la ventaja de un diseño plano, fácil expansión, latencia predecible, alta seguridad y alta utilización del ancho de banda. Sin embargo, los switches spine-leaf requieren que los switches en todos los puntos de enlace sean switches L3, lo que cuesta mucho más que la arquitectura tradicional de tres niveles, que requiere que el switch central sea de capa 3. Esta es la razón por la que las redes spine-leaf se han vuelto populares en los centros de datos en los últimos años, hasta que el coste de los dispositivos de conmutación comenzó a bajar.

¿Cómo afectarán los módulos ópticos al cambio tecnológico en la era de la IA？

Se espera que los transceptores ópticos impulsen la revolución tecnológica de próxima generación como componente central de la interconexión entre centros de datos y la interconexión interna. 

Dado que 400G se está convirtiendo en el estándar dominante en las interconexiones de centros de datos para gestionar volúmenes masivos de tráfico de datos entre servidores y almacenamiento, los productos de soluciones breakout 4x 100G y 8x 100G han demostrado su popularidad. Sin embargo, los grandes modelos de IA como ChatGPT han planteado mayores exigencias al tráfico de datos dentro y fuera de los centros de datos, y la actualización de 400G a 800G se está convirtiendo en una nueva tendencia. Según los datos de previsión de LightCounting, se espera que los envíos de puertos DWDM con velocidades más altas, 600G, 800G y superiores, aumenten en 2024 y en los próximos años. 

Los operadores de centros de datos a hiperescala esperan adoptar ópticas de próxima generación para permitir un flujo de datos rápido y masivo entre servidores y dispositivos de almacenamiento. Esta tendencia también responde a la demanda de tecnologías emergentes como Internet de las cosas (IoT), inteligencia artificial (IA) y aprendizaje automático (ML).

Fuente: LightCounting Optical Communications Market Forecast, abril de 2022.

Podemos esperar que los módulos ópticos desempeñen un papel vital en los siguientes campos en la era de la inteligencia artificial: 

• Desarrollo de mejores sistemas de IA: los sistemas de IA deberían basarse en transceptores ópticos para lograr una transmisión de datos ultrarrápida y fiable.

• DCI y supercomputadoras: la interconexión de centros de datos y supercomputadoras que alojan sistemas de IA requiere alta velocidad y gran ancho de banda para el análisis y la computación masivos de datos.

• Impulso del desarrollo de la computación en el borde basada en IA: los dispositivos IoT, como sensores y cámaras, necesitan la capacidad de procesar datos rápidamente con una latencia minimizada.

¿Qué problemas deben resolver los transceptores futuros en la era de la IA?

Consumo de energía

El consumo de energía es esencial, ya que hay miles de transceptores en un gran centro de datos o incluso cientos de miles en un centro de datos a hiperescala. A medida que la velocidad de los módulos ópticos evoluciona al alza, el consumo de energía también aumenta. Al recordar la transición de 1G a 800G, podemos confirmar ese punto: 1W para el módulo SFP 1G, 1.5W para el módulo SFP+ 10G, 3.5W para el módulo QSFP+ 40G, 4W para el módulo QSFP28 100G, 12W para el 400G QSFP-DD módulo y 17W para el transceptor 800G QSFP-DD800.

Tome como ejemplo el Cisco Nexus 9232E 32-port QSFP-DD800 800G Switch. Si está completamente cargado con 32 unidades de transceptores ópticos 800G QSFP-DD800, el consumo total de energía será de 544W = 17W x 32. En la transmisión real, los transceptores se utilizan en pares, lo que hará que el consumo de energía de los módulos ópticos en ambos extremos del enlace alcance más de kilovatios. Ese valor de consumo de energía resulta caro solo para los módulos ópticos.

 
Nota: El valor de consumo de potencia se tomó de Ficha técnica del módulo transceptor Cisco

Rentabilidad

Los transceptores futuros se adoptarán ampliamente una vez que sean rentables. Un ejemplo de este punto es que 40GE se utilizó ampliamente hasta que 100GE se volvió rentable. Un enfoque consiste en duplicar la velocidad de datos en cada carril sin aumentar la velocidad en baudios, lo que se ha realizado con éxito en la modulación PAM4 (modulación de amplitud de pulso de 4 niveles) con FEC (corrección de errores hacia adelante) y ecualización para abordar la alta sensibilidad de PAM4 al ruido. 100G PAM4 ya está maduro para aplicaciones 100GE o 400GE. El aumento hasta 800G ejerce presión sobre la disponibilidad de routers y switches de 25.6 Tbps con interfaces 100G PAM4. La solución 200G PAM4 recientemente desarrollada en la óptica 800G QSFP-DD y 800G OSFP hace que 800G sea más asequible. 

La fotónica de silicio puede ser otra tecnología fundamental para reducir los costos de la óptica futura, especialmente para transceptores densos con ocho o más canales y transceptores ópticos coherentes impulsados por una capacidad compleja de fibra óptica. Consiste en integrar componentes fotónicos y funcionalidad de transceptor en un sustrato de silicio. Además, se espera que los transceptores futuros se encapsulen con ASIC de conmutación, lo que significa que quizá no sea necesario conectar transceptores ópticos independientes a paneles de conmutación.

Inteligencia

Las redes futuras dominadas por aplicaciones impulsadas por IA impulsarán la demanda de dispositivos y componentes de redes ópticas inteligentes. Las redes basadas en IA pueden comprender una cantidad inconmensurable de dispositivos, software y tecnologías complejas, lo que se convertirá en un desastre a menos que se logren sistemas de red automatizados. El sistema autogestionado y automático controlado por IA transmitirá ópticas inteligentes para comunicar una condición operativa general de sí mismo y de sus fibras conectadas, lo cual es fundamental para anticipar fallos antes de que ocurran y garantizar el funcionamiento fluido de los sistemas informáticos de IA. 

Como una solución rentable y sencilla para redes de transmisión de alta velocidad y larga distancia, el transceptor coherente es el estándar dominante en redes Metro y asumirá mayores responsabilidades y expectativas en las aplicaciones actuales y futuras intensivas en IA. La FEC lograda mediante DSP (el componente central de la tecnología coherente) permite que el enlace coherente sea más resistente al ruido que la detección directa. Se espera que un transceptor futuro programado de forma inteligente controle su FEC para adaptarse a las aplicaciones de red cambiantes.

Resumen

La inteligencia artificial (IA) está ganando impulso y aún se está desarrollando para optimizar sus limitaciones, como la generación de respuestas sin sentido. Los transceptores ópticos más potentes y preparados para el futuro son fundamentales para admitir la transmisión de datos ultrarrápida a medida que aumentan las demandas de los centros de datos impulsadas por la IA. El cambio de 400G a 800G responde a demandas crecientes: 2024 puede convertirse en el año de 800G para la adopción en centros de datos. Se espera que la remodelación de la arquitectura de los centros de datos en el lado del entrenamiento y la predicción sea otro facilitador e impulsor de la demanda de transceptores. Además de perseguir siempre una mayor velocidad, los desafíos incluyen el aumento del consumo de energía, la rentabilidad y la necesidad de sistemas inteligentes y automatizados para respaldar redes impulsadas por IA. Aprender de las tecnologías exitosas anteriores y lograr avances en la modulación PAM4, la corrección de errores hacia adelante (FEC) y Silicon Photonics puede contribuir a la asequibilidad y la eficiencia para satisfacer estas demandas.