Les interconnexions en cuivre ne peuvent pas suivre la croissance des centres de données d’IA

Les charges de travail d’IA transforment les réseaux des centres de données, rendant une bande passante plus élevée et une plus grande évolutivité plus importantes. À mesure que les débits continuent d’augmenter, les interconnexions en cuivre atteignent leurs limites dans les environnements d’IA à grande échelle.

Les centres de données IA redéfinissent l’infrastructure réseau

Le passage du trafic de données traditionnel aux charges de travail d’IA 

Le trafic des centres de données traditionnels prend principalement en charge des applications telles que les services cloud, les bases de données et les plateformes web. Ces charges de travail impliquent généralement une communication prévisible entre les serveurs et le stockage. Les charges de travail d’IA sont différentes. L’entraînement de grands modèles d’IA nécessite que des milliers de GPU échangent en continu d’énormes quantités de données, ce qui rend les réseaux à haut débit et à faible latence essentiels pour les performances. À mesure que les modèles d’IA deviennent plus volumineux, les centres de données évoluent vers des connexions plus rapides telles que 800G et 1.6T pour réduire les goulots d’étranglement de communication et maximiser l’utilisation du GPU.

Pourquoi l’architecture scale-out change-t-elle tout ? 

Les centres de données IA modernes reposent sur des architectures scale-out, connectant des milliers de GPU et de serveurs en un seul système informatique. Dans ce modèle, le réseau joue un rôle essentiel pour permettre une communication efficace entre les ressources de calcul.

Cependant, les clusters d’IA plus grands nécessitent davantage de connexions et une bande passante plus élevée. Les solutions d’interconnexion traditionnelles en cuivre qui fonctionnaient pour des environnements plus petits deviennent plus difficiles à faire évoluer. Cette évolution pousse les centres de données à adopter des technologies de connectivité avancées capables de prendre en charge une densité plus élevée et des charges de travail d’IA plus importantes.

Pourquoi le câblage en cuivre fait-il l’objet d’une réévaluation ? 

L'entraînement des modèles d'IA n'est plus assuré par un seul GPU. Au contraire, des milliers de GPU doivent fonctionner ensemble comme un système informatique distribué, en échangeant constamment d'énormes quantités de données. Lors de l’entraînement, les GPU doivent s’assurer que leurs résultats intermédiaires sont synchronisés. Même de petits retards de communication peuvent réduire le taux d’utilisation du GPU et affecter l’efficacité globale de l’entraînement. À mesure que les modèles d’IA deviennent plus puissants, la quantité de données qu’ils utilisent atteint le niveau du Tbps, ce qui exerce une pression sur les câbles en cuivre traditionnels. Le défi n’est plus seulement la puissance de calcul — il s’agit de l’efficacité avec laquelle les données peuvent circuler entre les GPU. À mesure que les clusters d’IA passent de centaines à des milliers d’accélérateurs, la connectivité est devenue un facteur critique limitant l’évolutivité.

Limites physiques du câblage en cuivre dans les réseaux haut débit 

Atténuation du signal

Les signaux électriques perdent progressivement en intensité ; plus la distance de transmission est longue, plus le signal devient faible, ce qui rend plus difficile le maintien d’une transmission de données fiable.

À mesure que les vitesses réseau continuent d’augmenter, la puissance du signal devient un défi plus important. Des vitesses plus élevées signifient des fréquences plus élevées, qui perdent davantage de puissance de signal avec la distance. Cela rend plus difficile l’utilisation de connexions en cuivre dans de grands centres de données d’IA.

Diaphonie

La diaphonie représente un défi caché pour le câblage en cuivre. Lorsque de grands nombres de fils de cuivre sont densément regroupés, les signaux électriques interfèrent les uns avec les autres. À mesure que les centres de données d’IA continuent de monter en puissance et nécessitent un nombre croissant de connexions haut débit au sein des racks, le problème de la diaphonie devient encore plus marqué.

Interférences électromagnétiques

Les câbles en cuivre transmettent les données au moyen de signaux électriques. Cela les rend vulnérables aux interférences électromagnétiques (EMI) provenant des appareils électroniques à proximité, des câbles d’alimentation et d’autres connexions réseau. Dans les centres de données contenant beaucoup de données d’IA, des milliers de connexions à haut débit fonctionnent en même temps. Cela peut augmenter l’impact potentiel des EMI.

Consommation d'énergie

À l’ère de l’infrastructure d’IA, où les GPU individuels peuvent déjà consommer plus de 1 000 watts, les opérateurs de centres de données subissent une pression croissante pour optimiser chaque partie du budget énergétique. Allouer de l’énergie supplémentaire à la transmission cuivre à haut débit devient moins attractif, d’autant plus que l’échelle des réseaux continue de croître.

Densité des câbles et défis thermiques 

Les câbles cuivre à haut débit sont plus épais et plus lourds que les câbles à fibre optique. Cela les rend difficiles à utiliser dans les grands centres de données d’IA, où l’espace et la circulation de l’air sont essentiels.

À mesure que les clusters d’IA continuent de se développer, le nombre de connexions réseau à l’intérieur de chaque rack augmente fortement. Un câblage cuivre dense peut rendre la gestion des câbles plus difficile, occuper davantage d’espace dans le rack et limiter le flux d’air, ce qui complique la gestion de la chaleur.

Le rôle continu du cuivre dans les centres de données d’IA

Cuivre dans la connectivité intra-rack

Malgré l’adoption croissante des solutions optiques, le cuivre joue toujours un rôle important dans les connexions de centres de données IA à courte distance. À l’intérieur d’un rack, où les distances sont généralement limitées à quelques mètres, les câbles en cuivre tels que les DAC peuvent fournir une connectivité haut débit entre les serveurs, les GPU et les commutateurs, avec un coût plus faible et un déploiement plus simple.

Rentabilité dans les scénarios à courte distance  

Le cuivre reste l’option la plus économique pour les applications à courte portée. Les câbles en cuivre ont une structure simple et ne nécessitent pas de composants optiques, ce qui les rend adaptés aux applications qui ne requièrent pas de transmission longue distance par rapport aux modules optiques.

Le cuivre comme optimisation locale plutôt que comme solution évolutive

Mais le cuivre n’est pas une option permanente pour les vastes réseaux d’IA. Avec l’augmentation des besoins en bande passante, la perte de signal, la consommation d’énergie et la portée limitée représentent des problèmes de financement. Ainsi, le cuivre restera une optimisation locale pour les connexions courtes, et la fibre optique constituera l’infrastructure évolutive des centres de données d’IA.

Comment la fibre optique résout les limites de mise à l’échelle du cuivre

Une faible perte de signal permet une connectivité longue distance

L’un des grands avantages de la fibre optique est qu’elle peut très bien transporter les signaux sur de longues distances. Les câbles en cuivre s’affaiblissent lorsque le signal doit parcourir des distances de plus en plus longues, mais la fibre peut envoyer des données sur de plus longues distances sans perdre beaucoup de signal. Cela la rend idéale pour une utilisation dans les réseaux de centres de données IA à grande échelle.

Évolutivité à haute bande passante pour les futurs débits de données

La fibre optique offre l’évolutivité massive de la bande passante nécessaire pour atteindre les niveaux de débits de données induits par les charges de travail d’IA de nouvelle génération. La fibre est une technologie essentielle pour faire évoluer l’infrastructure d’IA à l’avenir, car elle prend en charge les connexions 400G, 800G et à plus haut débit.

Immunité aux interférences électromagnétiques

Contrairement aux signaux électriques qui utilisent l’électricité, la fibre optique transmet les données par la lumière. Elle est donc insensible aux interférences électromagnétiques. Cela garantit une communication plus stable et plus fiable dans les lieux où se trouvent de nombreux centres de données d’IA et où des milliers de composants haute performance fonctionnent en même temps.

Évolutivité supérieure au niveau du système

La fibre optique est meilleure pour les systèmes, car elle peut être agrandie. Sa taille plus réduite, son poids moindre et sa densité de ports plus élevée aident les centres de données à mieux utiliser l’espace, la consommation d’énergie et l’efficacité du refroidissement. À mesure que les clusters d’IA continuent de croître, la fibre est nécessaire pour construire des réseaux plus vastes, plus rapides et plus efficaces.

Architecture de réseau hybride dans les centres de données d’IA modernes

Séparation de la connectivité intra-rack et inter-rack

À mesure que les centres de données d’IA continuent de monter en puissance, une architecture réseau hybride émerge, combinant les atouts du cuivre et de la fibre optique. Au lieu de remplacer complètement le cuivre, l’infrastructure d’IA moderne évolue vers une approche « priorité à la fibre, assistance par le cuivre ».

Le cuivre reste approprié pour la connectivité intra-rack, car les courtes distances, le coût inférieur et la facilité de déploiement sont des facteurs déterminants. En revanche, pour les connexions inter-racks et longue distance, la fibre optique est largement utilisée lorsque une bande passante élevée, une faible perte de signal et une meilleure évolutivité sont requises.

Conclusion

Bien que les centres de données d’IA continuent de monter en capacité, l’évolutivité des interconnexions en cuivre a atteint ses limites. Bien que le cuivre reste utile pour les connexions courtes au sein d’un rack, les exigences toujours croissantes en matière de bande passante plus élevée, de portée plus longue et d’efficacité améliorée pour les charges de travail d’IA ne peuvent pas être satisfaites avec la technologie cuivre actuelle. La fibre optique s’impose comme l’épine dorsale de l’infrastructure d’IA de nouvelle génération, alimentant les centres de données hyperscale plus rapidement et de manière plus stable afin de prendre en charge des systèmes d’IA plus sophistiqués.