Interconexões de cobre não conseguem escalar para data centers de IA

As cargas de trabalho de IA estão mudando as redes de data centers, tornando maior largura de banda e maior escalabilidade mais importantes. À medida que as velocidades continuam a aumentar, as interconexões de cobre estão atingindo seus limites em ambientes de IA de grande escala.

Data centers de IA estão redefinindo a infraestrutura de rede

A mudança do tráfego de dados tradicional para cargas de trabalho de IA 

O tráfego de data centers tradicionais oferece suporte principalmente a aplicações como serviços em nuvem, bancos de dados e plataformas web. Essas cargas de trabalho geralmente envolvem comunicação previsível entre servidores e armazenamento. As cargas de trabalho de IA são diferentes. O treinamento de grandes modelos de IA exige que milhares de GPUs troquem enormes quantidades de dados continuamente, tornando a rede de alta velocidade e baixa latência essencial para o desempenho. À medida que os modelos de IA se tornam maiores, os data centers estão migrando para conexões mais rápidas, como 800G e 1.6T para reduzir gargalos de comunicação e maximizar a utilização da GPU.

Por que a arquitetura Scale-out muda tudo? 

Data centers modernos de IA dependem de arquiteturas scale-out, conectando milhares de GPUs e servidores em um único sistema de computação. Nesse modelo, a rede desempenha um papel crítico ao possibilitar a comunicação eficiente entre recursos de computação.

No entanto, clusters de IA maiores exigem mais conexões e maior largura de banda. As soluções tradicionais de interconexão de cobre que funcionavam em ambientes menores estão se tornando mais difíceis de escalar. Essa mudança está levando os data centers a adotarem tecnologias avançadas de conectividade que possam suportar maior densidade e cargas de trabalho de IA maiores.

Por que o cabeamento de cobre está sendo reavaliado? 

O treinamento de modelos de IA não é mais impulsionado por uma única GPU. Em vez disso, milhares de GPUs precisam trabalhar juntas como um sistema de computação distribuída, trocando constantemente enormes quantidades de dados. Durante o treinamento, as GPUs precisam garantir que seus resultados intermediários estejam sincronizados. Mesmo pequenos atrasos na comunicação podem reduzir o quanto da GPU é usado e afetar a qualidade geral do treinamento. À medida que os modelos de IA se tornam mais poderosos, a quantidade de dados que eles usam está atingindo o nível de Tbps, o que está pressionando os cabos de cobre tradicionais. O desafio não é mais apenas o poder de computação — é a eficiência com que os dados podem se mover entre GPUs. À medida que os clusters de IA se expandem de centenas para milhares de aceleradores, a conectividade se tornou um fator crítico que limita a escalabilidade.

Limitações físicas da fiação de cobre em redes de alta velocidade 

Atenuação de sinal

Os sinais elétricos perdem força gradualmente; quanto maior a distância de transmissão, mais fraco o sinal se torna, tornando mais difícil manter uma transmissão de dados confiável.

À medida que as velocidades de rede continuam a aumentar, a intensidade do sinal se torna um desafio maior. Velocidades mais altas significam frequências mais altas, que perdem mais intensidade de sinal com a distância. Isso torna mais difícil usar conexões de cobre em grandes data centers de IA.

Diafonia

A diafonia representa um desafio oculto para o cabeamento de cobre. Quando grandes quantidades de fios de cobre são densamente agrupadas, os sinais elétricos interferem uns nos outros. À medida que os data centers de IA continuam a crescer e exigem um número cada vez maior de conexões de alta velocidade dentro dos racks, o problema da diafonia se torna ainda mais pronunciado.

Interferência Eletromagnética

Cabos de cobre transmitem dados por meio de sinais elétricos. Isso os torna vulneráveis à interferência eletromagnética (EMI) de dispositivos eletrônicos próximos, cabos de energia e outras conexões de rede. Em data centers com muitos dados de IA, milhares de conexões de alta velocidade funcionam ao mesmo tempo. Isso pode aumentar o impacto potencial da EMI.

Consumo de energia

Na era da infraestrutura de IA, em que GPUs individuais já podem consumir mais de 1.000 watts, os operadores de data centers estão sob pressão crescente para otimizar cada parte do orçamento de energia. Alocar energia adicional para transmissão de cobre de alta velocidade está se tornando menos atraente, especialmente à medida que a escala da rede continua a crescer.

Densidade de Cabos e Desafios Térmicos 

Cabos de cobre de alta velocidade são mais grossos e pesados do que cabos de fibra óptica. Isso os torna difíceis de usar em data centers de IA de grande escala, onde espaço e fluxo de ar são críticos.

À medida que os clusters de IA continuam a crescer, o número de conexões de rede dentro de cada rack aumenta muito. O cabeamento de cobre denso pode dificultar o gerenciamento dos cabos, ocupar mais espaço no rack e restringir o fluxo de ar, o que dificulta o gerenciamento do calor.

O papel contínuo do cobre em data centers de IA

Cobre na conectividade intra-rack

Apesar da crescente adoção de soluções ópticas, o cobre ainda desempenha um papel importante nas conexões de curta distância em data centers de IA. Dentro de um rack, onde as distâncias geralmente se limitam a poucos metros, cabos de cobre como DACs podem fornecer conectividade de alta velocidade entre servidores, GPUs e switches com menor custo e implantação mais simples.

Custo-benefício em cenários de curta distância  

O cobre ainda é uma opção mais econômica para aplicações de curto alcance. Os cabos de cobre têm uma estrutura simples e não requerem componentes ópticos, tornando-os adequados para aplicações que não exigem transmissão de longa distância em comparação com módulos ópticos.

Cobre como uma otimização local em vez de uma solução escalável

Mas o cobre não é uma opção permanente para enormes redes de IA. Com os requisitos de largura de banda em alta, a perda de sinal, o consumo de energia e o alcance limitado representam problemas de financiamento. Assim, o cobre permanecerá uma otimização local de conexão curta, e a fibra óptica será a infraestrutura escalável de data centers de IA.

Como a fibra óptica resolve as limitações de escalabilidade do cobre

Baixa perda de sinal permite conectividade de longa distância

Uma das melhores coisas sobre a fibra óptica é que ela pode transportar sinais muito bem por longas distâncias. Cabos de cobre ficam mais fracos quando o sinal precisa viajar cada vez mais longe, mas a fibra pode enviar dados por distâncias maiores sem perder muito do sinal. Isso a torna perfeita para uso em redes de data centers de IA em larga escala.

Alta escalabilidade de largura de banda para futuras taxas de dados

A fibra óptica oferece a enorme escalabilidade de largura de banda necessária para atender aos níveis de taxas de dados impulsionados por cargas de trabalho de IA para a próxima geração. A fibra é uma tecnologia essencial para expandir a infraestrutura de IA no futuro, pois suporta conexões de 400G, 800G e velocidades superiores.

Imunidade à interferência eletromagnética

Ao contrário dos sinais elétricos, que usam eletricidade, a fibra óptica transmite dados por meio da luz. Assim, ela é imune a EMI. Isso garante que a comunicação seja mais estável e confiável em locais onde há muitos data centers de IA e milhares de componentes de alto desempenho estão operando ao mesmo tempo.

Escalabilidade superior em nível de sistema

A fibra óptica é melhor para sistemas porque pode ser ampliada. Seu tamanho menor, peso mais baixo e maior densidade de portas ajudam os data centers a fazer melhor uso do espaço, do consumo de energia e da eficiência de resfriamento. À medida que os clusters de IA continuam a crescer, a fibra é necessária para construir redes maiores, mais rápidas e mais eficientes.

Arquitetura de rede híbrida em data centers modernos de IA

Separação da conectividade intra-rack e inter-rack

À medida que os data centers de IA continuam a escalar, uma arquitetura de rede híbrida está surgindo, combinando os pontos fortes tanto do cobre quanto da fibra óptica. Em vez de substituir completamente o cobre, a infraestrutura moderna de IA está avançando para uma abordagem "fibra em primeiro lugar, cobre como suporte".

O cobre ainda é adequado para conectividade intra-rack, pois distâncias curtas, menor custo e facilidade de implantação são fatores importantes. Por outro lado, em relação às conexões entre racks e de longa distância, a fibra óptica é amplamente utilizada quando são necessários alta largura de banda, baixa perda de sinal e melhor escalabilidade.

Conclusão

Embora os data centers de IA continuem a crescer em escala, a escalabilidade das interconexões de cobre chegou ao fim. Embora o cobre ainda tenha utilidade em conexões curtas dentro de racks, as demandas cada vez maiores por maior largura de banda, maior alcance e melhor eficiência para cargas de trabalho de IA não podem ser atendidas com a tecnologia de cobre atual. A fibra óptica está emergindo como a espinha dorsal da infraestrutura de IA de próxima geração, impulsionando data centers de hiperescala de forma mais rápida e estável para dar suporte a sistemas de IA mais sofisticados.