¿Qué es InfiniBand y cómo funciona?

InfiniBand es una arquitectura de red de alto rendimiento. En los últimos años, ha atraído cada vez más atención debido al gran aumento de los modelos HPC representados por ChatGPT. Porque estos modelos HPC se basan en InfiniBand desarrollado por NVIDIA. Se utiliza principalmente para la transmisión de datos de alta velocidad entre sistemas y admite múltiples modos de comunicación. A continuación, le mostraré en detalle qué es InfiniBand y cómo funciona.

InfiniBand: Una explicación detallada

InfiniBand es una tecnología de interconexión de alta velocidad y baja latencia utilizada principalmente en centros de datos y entornos de computación de alto rendimiento. Puede proporcionar una arquitectura de red de alto rendimiento para áreas de servicio e instalaciones de almacenamiento dentro de un clúster o centro de datos, así como otros recursos de red. Los dispositivos InfiniBand suelen incluir Módulos ópticos InfiniBand, switches InfiniBand, etc.

Cómo funciona InfiniBand

InfiniBand generalmente utiliza una arquitectura de dos capas que separa la capa de red de la capa física y la capa de enlace de datos. Cada capa es responsable de diferentes funciones. La capa física proporciona conexiones directas punto a punto entre dispositivos a través de enlaces seriales de alto ancho de banda, mientras que la capa de enlace de datos gestiona la transmisión y recepción de paquetes entre dispositivos. La capa de red es responsable de proporcionar características clave de InfiniBand, como QoS, virtualización y RDMA. La coordinación entre las capas convierte a InfiniBand en una herramienta potente para respaldar el trabajo de HPC que requiere baja latencia y alto ancho de banda.

InfiniBand: explicación del principio de funcionamiento

Después de entender qué es InfiniBand, le presentaré su principio de funcionamiento

RDMA: la función básica de InfiniBand

Una función básica importante en la arquitectura InfiniBand es RDMA, que permite transmitir datos directamente en el espacio de memoria de la aplicación sin pasar por la CPU, lo que no solo puede reducir la latencia, sino también mejorar eficazmente la eficiencia operativa del sistema. RDMA también es una de las funciones básicas de muchos switches de centro de datos.

Red y arquitectura InfiniBand

InfiniBand utiliza una arquitectura de tejido de conmutación para interconectar múltiples nodos mediante conmutadores. Bajo dicha arquitectura, se puede proporcionar comunicación de gran ancho de banda y baja latencia entre nodos, lo que resulta muy adecuado para entornos de aplicación como HPC. Los componentes de esta estructura basada en canales se pueden dividir en las siguientes cuatro categorías:

HCA(Host Channel Adapter): Es un adaptador de canal de host que actúa como interfaz entre el host y la red InfiniBand, convirtiendo el bus de datos interno del host al formato de datos InfiniBand.

TCA(Target Channel Adapter): Se utiliza para el funcionamiento del dispositivo de destino dentro de la red InfiniBand. Su función principal es gestionar la recepción y el procesamiento de datos en el dispositivo de destino.

Enlace InfiniBand: Se refiere a la conexión física y lógica entre dos nodos en la red InfiniBand, proporcionando un canal para la transmisión de datos y admitiendo el intercambio de datos de alta velocidad. Por lo general, utiliza medios como fibra óptica, cable o incluso enlaces integrados dentro del dispositivo para establecer la conexión.

Switches y routers InfiniBand: Estos dispositivos desempeñan un papel importante en la conectividad de red dentro de la infraestructura InfiniBand. Gestionan el enrutamiento de paquetes de datos entre diferentes dispositivos conectados a la red para permitir una comunicación y un intercambio de datos fluidos.

Ventaja de InfiniBand

Alto ancho de banda y baja latencia: InfiniBand puede proporcionar hasta 200Gbps o incluso un ancho de banda superior. Este intercambio de datos de alta velocidad es extremadamente importante para aplicaciones y cargas de trabajo que requieren un gran rendimiento, como HPC y el procesamiento de big data. InfiniBand también admite la transmisión directa de datos entre espacios de memoria mediante RDMA y arquitectura de switching fabric, manteniendo la latencia en el nivel de microsegundos, lo cual es muy importante para HFT y la industria financiera.

Escalabilidad flexible: InfiniBand también es bastante escalable, y su arquitectura escalable puede satisfacer las necesidades cambiantes de los centros de datos. Se adapta a las crecientes necesidades empresariales mediante la actualización fluida de la capacidad de red y admite la asignación dinámica de recursos. Su arquitectura puede admitir la interconexión de miles de nodos para satisfacer necesidades de computación de diferentes escalas.

Bajo consumo de energía: InfiniBand proporciona mayor rendimiento y, al mismo tiempo, tiene menor consumo de energía. Debido a que utiliza RDMA, la transmisión de datos no necesita ser procesada por la CPU, sino que se transfiere directamente desde la memoria de un nodo a otra, lo que reduce la carga de la CPU y disminuye el consumo general de energía. Además, los dispositivos InfiniBand cuentan con aceleradores de hardware dedicados, que pueden optimizarse para procesar y transmitir datos de manera más eficiente, reduciendo el consumo de energía.

Alta fiabilidad: InfiniBand también admite redundancia multirruta y mecanismos de recuperación rápida ante fallos para garantizar la fiabilidad y disponibilidad de la transmisión de datos.

Aplicación de InfiniBand

InfiniBand desempeña un papel indispensable en diversas industrias hoy en día. Su capacidad de transmisión de datos de alta velocidad se ha convertido en una solución clave para muchas industrias.

Aplicaciones de InfiniBand en inteligencia artificial

Al entrenar modelos de inteligencia artificial, se necesita procesar una gran cantidad de conjuntos de datos todos los días. InfiniBand puede proporcionar conexiones de red de alto ancho de banda y baja latencia para acelerar el entrenamiento de modelos. A través de RDMA, también puede comunicarse entre nodos con una latencia extremadamente baja, lo que mejora la eficiencia del entrenamiento.

InfiniBand en cargas de trabajo HPC

InfiniBand también desempeña un papel importante en las cargas de trabajo de HPC. Puede proporcionar gran ancho de banda y baja latencia, y procesar una gran cantidad de datos al mismo tiempo, mejorando el rendimiento general de la red. También es adecuado para trabajos especialmente sofisticados, como los de la industria financiera, el diagnóstico médico, etc.

Para red de almacenamiento

InfiniBand se puede utilizar en redes de almacenamiento para conectar matrices de almacenamiento y dispositivos de red para un acceso y una transmisión de datos eficientes. Es compatible con RDMA, lo que puede reducir la latencia del acceso al almacenamiento y mejorar el rendimiento de los sistemas de almacenamiento.

Transceptor InfiniBnad de QSFPTEK

Conclusión

InfiniBand alcanza sus objetivos esperados mediante una arquitectura única ante los crecientes requisitos de ancho de banda de red y baja latencia. No solo resuelve los requisitos de red de la computación de alto rendimiento (HPC) y los centros de datos, sino que también proporciona una buena ayuda para el entrenamiento de modelos de inteligencia artificial como ChatGPT. En una sociedad en la que la ciencia y la tecnología avanzan día a día, sin duda tendrá mejores escenarios de aplicación en el futuro. Si tiene alguna pregunta sobre InfiniBand, no dude en ponerse en contacto con los ingenieros CCIE/HCIE de QSFPTEK en [email protected].