구리 인터커넥트는 AI 데이터 센터의 규모 확장에 대응할 수 없습니다

AI 워크로드는 데이터 센터 네트워크를 변화시키고 있으며, 더 높은 대역폭과 더 큰 확장성이 더욱 중요해지고 있습니다. 속도가 계속 증가함에 따라, 대규모 AI 환경에서 구리 인터커넥트는 한계에 도달하고 있습니다.

AI 데이터 센터가 네트워크 인프라를 재정의하고 있습니다

기존 데이터 트래픽에서 AI 워크로드로의 전환 

기존 데이터 센터 트래픽은 주로 클라우드 서비스, 데이터베이스, 웹 플랫폼과 같은 애플리케이션을 지원합니다. 이러한 워크로드는 일반적으로 서버와 스토리지 간의 예측 가능한 통신을 수반합니다. AI 워크로드는 다릅니다. 대규모 AI 모델을 훈련하려면 수천 개의 GPU가 막대한 양의 데이터를 지속적으로 교환해야 하므로, 고속, 저지연 네트워킹이 성능에 매우 중요합니다. AI 모델이 점점 더 커짐에 따라 데이터 센터는 800G와 같은 더 빠른 연결로 이동하고 있으며 1.6T 통신 병목 현상을 줄이고 GPU 활용도를 극대화합니다.

스케일아웃 아키텍처가 모든 것을 바꾸는 이유는 무엇인가요? 

최신 AI 데이터 센터는 수천 개의 GPU와 서버를 단일 컴퓨팅 시스템으로 연결하는 스케일아웃 아키텍처에 의존합니다. 이 모델에서 네트워크는 컴퓨팅 리소스 간의 효율적인 통신을 가능하게 하는 데 중요한 역할을 합니다.

그러나 더 큰 AI 클러스터에는 더 많은 연결과 더 높은 대역폭이 필요합니다. 소규모 환경에서 작동하던 기존 구리 상호 연결 솔루션은 확장하기가 점점 더 어려워지고 있습니다. 이러한 변화는 데이터 센터가 더 높은 밀도와 더 큰 AI 워크로드를 지원할 수 있는 고급 연결 기술을 도입하도록 이끌고 있습니다.

Copper Cabling이 재평가되고 있는 이유는 무엇입니까? 

AI 모델 학습은 더 이상 단일 GPU에 의해 구동되지 않습니다. 대신 수천 개의 GPU가 분산 컴퓨팅 시스템으로 함께 작동하며, 방대한 양의 데이터를 지속적으로 교환해야 합니다. 훈련 시 GPU는 중간 결과가 동기화되어 있는지 확인해야 합니다. 통신의 작은 지연도 GPU 사용률을 낮추고 전반적인 훈련 성능에 영향을 줄 수 있습니다. AI 모델이 더 강력해짐에 따라 사용되는 데이터의 양이 Tbps 수준에 도달하고 있으며, 이는 기존 구리 케이블에 부담을 주고 있습니다. 이제 과제는 단순한 컴퓨팅 성능이 아니라 GPU 간에 데이터를 얼마나 효율적으로 이동할 수 있는가입니다. AI 클러스터가 수백 개에서 수천 개의 가속기로 확장됨에 따라 연결성은 확장성을 제한하는 중요한 요소가 되었습니다.

고속 네트워크에서 구리 배선의 물리적 한계 

신호 감쇠

전기 신호는 점차 강도를 잃으며, 전송 거리가 길어질수록 신호가 약해져 안정적인 데이터 전송을 유지하기가 더 어려워집니다.

네트워크 속도가 계속 증가함에 따라 신호 강도는 더 큰 과제가 됩니다. 더 높은 속도는 더 높은 주파수를 의미하며, 이는 거리에 따라 더 많은 신호 강도를 잃습니다. 이로 인해 사용하기가 더 어려워집니다 구리 연결 대규모 AI 데이터 센터에서.

누화

크로스토크는 구리 케이블링에 숨겨진 과제를 제기합니다. 많은 수의 구리선이 촘촘히 묶여 있으면 전기 신호가 서로 간섭합니다. AI 데이터 센터가 계속 확장되고 랙 내에서 점점 더 많은 고속 연결을 필요로 함에 따라 크로스토크 문제는 더욱 두드러집니다.

전자기 간섭

구리 케이블은 전기 신호를 통해 데이터를 전송합니다. 이로 인해 주변 전자 장치, 전원 케이블 및 기타 네트워크 연결에서 발생하는 전자기 간섭(EMI)에 취약해집니다. AI 데이터가 많은 데이터 센터에서는 수천 개의 고속 연결이 동시에 작동합니다. 이는 EMI의 잠재적 영향을 증가시킬 수 있습니다.

전력 소비

개별 GPU가 이미 1,000와트 이상을 소비할 수 있는 AI 인프라 시대에 데이터 센터 운영자는 전력 예산의 모든 부분을 최적화해야 한다는 압박을 점점 더 받고 있습니다. 고속 구리 전송에 추가 에너지를 할당하는 것은 특히 네트워크 규모가 계속 커짐에 따라 매력도가 낮아지고 있습니다.

케이블 밀도 및 열 문제 

고속 구리 케이블은 광섬유 케이블보다 더 두껍고 무겁습니다. 이로 인해 공간과 공기 흐름이 중요한 대규모 AI 데이터 센터에서 사용하기 어렵습니다.

AI 클러스터가 계속 성장함에 따라 각 랙 내부의 네트워크 연결 수가 크게 증가합니다. 고밀도 구리 케이블링은 케이블 관리를 더 어렵게 만들고, 랙 내 더 많은 공간을 차지하며, 공기 흐름을 제한해 열 관리를 더 어렵게 만들 수 있습니다.

AI 데이터 센터에서 구리의 지속적인 역할

랙 내부 연결의 구리

광 솔루션의 도입이 증가하고 있음에도 불구하고, 구리는 단거리 AI 데이터 센터 연결에서 여전히 중요한 역할을 합니다. 랙 내부처럼 거리가 보통 몇 미터로 제한되는 환경에서는 DAC와 같은 구리 케이블이 서버, GPU, 스위치 간에 더 낮은 비용과 더 간단한 구축으로 고속 연결을 제공할 수 있습니다.

단거리 시나리오에서의 비용 효율성  

구리는 여전히 단거리 애플리케이션에 가장 경제적인 옵션입니다. 구리 케이블은 구조가 단순하고 광학 부품이 필요하지 않아, 광 모듈에 비해 장거리 전송이 필요하지 않은 애플리케이션에 적합합니다.

확장 가능한 솔루션이 아니라 로컬 최적화로서의 구리

하지만 구리는 대규모 AI 네트워크를 위한 영구적인 선택지는 아닙니다. 대역폭 요구 사항이 증가함에 따라 신호 손실, 전력 소비 및 제한된 도달 거리는 비용 문제를 야기합니다. 따라서 구리는 짧은 연결을 위한 로컬 최적화로 남게 되며, 광섬유는 확장 가능한 AI 데이터 센터 인프라가 될 것입니다.

광섬유가 구리의 확장성 한계를 해결하는 방법

낮은 신호 손실로 장거리 연결 가능

광섬유의 가장 큰 장점 중 하나는 장거리에서도 신호를 매우 잘 전달할 수 있다는 점입니다. 구리 케이블은 신호가 점점 더 멀리 이동해야 할수록 약해지지만, 광섬유는 신호 손실을 크게 줄이면서 더 먼 거리까지 데이터를 전송할 수 있습니다. 따라서 대규모 AI 데이터 센터 네트워크에 사용하기에 완벽합니다.

미래 데이터 속도를 위한 고대역폭 확장성

광섬유는 차세대를 위한 AI 워크로드가 주도하는 데이터 전송률 수준을 충족하는 데 필요한 대규모 대역폭 확장성을 제공합니다. Fiber는 400G, 800G 및 더 높은 속도의 연결을 지원하므로 향후 AI 인프라 확장을 위한 핵심 기술입니다.

전자기 간섭에 대한 내성

전기를 사용하는 전기 신호와 달리 광섬유는 빛을 통해 데이터를 전송합니다. 따라서 EMI의 영향을 받지 않습니다. 이는 AI 데이터 센터가 많고 수천 개의 고성능 구성 요소가 동시에 작동하는 장소에서 통신이 더 안정적이고 신뢰할 수 있도록 합니다.

뛰어난 시스템 수준 확장성

광섬유는 더 크게 만들 수 있기 때문에 시스템에 더 적합합니다. 더 작은 크기, 더 가벼운 무게, 더 높은 포트 밀도는 데이터 센터가 공간, 전력 소비 및 냉각 효율을 더 잘 활용하는 데 도움이 됩니다. AI 클러스터가 계속 성장함에 따라 더 크고 빠르며 효율적인 네트워크를 구축하려면 광섬유가 필요합니다.

최신 AI 데이터 센터의 하이브리드 네트워크 아키텍처

랙 내부 및 랙 간 연결 분리

AI 데이터 센터가 계속 확장됨에 따라, 구리와 광섬유의 강점을 결합한 하이브리드 네트워크 아키텍처가 부상하고 있습니다. 구리를 완전히 대체하는 대신, 최신 AI 인프라는 "광섬유 우선, 구리 보조" 접근 방식으로 이동하고 있습니다.

짧은 거리, 낮은 비용, 배포 용이성이 큰 요인이기 때문에 구리는 여전히 랙 내부 연결에 적합합니다. 반면, 랙 간 및 장거리 연결의 경우 높은 대역폭, 낮은 신호 손실, 더 나은 확장성이 요구될 때 광섬유가 널리 사용됩니다.

결론

AI 데이터 센터가 계속 확장되고 있지만, 구리 상호 연결의 확장성은 한계에 도달했습니다. 구리는 여전히 짧은 거리의 랙 내 연결에서 용도가 있지만, AI 워크로드를 위한 더 높은 대역폭, 더 긴 도달 거리, 향상된 효율성에 대한 계속 증가하는 요구는 현재의 구리 기술로 충족할 수 없습니다. 광섬유는 차세대 AI 인프라의 백본으로 부상하고 있으며, 초대형 데이터 센터에 더 빠르고 안정적으로 동력을 제공하여 더욱 정교한 AI 시스템을 지원합니다.