ConnectX-7とConnectX-8の比較: AIクラスター向け400Gと800G

NVIDIA ConnectX-7とConnectX-8は、AI、HPC、データセンター環境向けの高速ネットワーキングに重点を置いていますが、ネットワーク進化の異なる段階を対象としています。 ConnectX-7 は 400G NDR および 400GbE 接続に関連付けられている一方、ConnectX-8 はプラットフォームを 800Gb/s XDR InfiniBand および柔軟な 400GbE 構成へと拡張します。ポート速度だけでは全体像は分かりません。ただし、PCIe 接続、ネットワークプロトコル、トランシーバーのフォームファクター、ワークロード要件も、AI クラスターにどの世代がより適しているかを決定します。

NVIDIA ConnectX-7およびConnectX-8とは？ 

NVIDIA ConnectX-7 Smart NICとは？ 

NVIDIA ConnectX-7 InfiniBand環境とEthernet環境の両方に対応するよう設計された高速ネットワークアダプターです。ConnectX-7は、特定のアダプターに応じて、OSFPまたはQSFP112インターフェースを備えたシングルポート400Gb/sモデルなど、さまざまなアダプター構成で提供されています。NVIDIAのドキュメントには、NDR 400Gb/sおよび400GbEをサポートするシングルポート構成のほか、その他の低速構成が記載されています。 

ConnectX-7はPCIe Gen5 x16にも対応しており、ネットワークアダプターとサーバー間の高速データ転送に必要なホストインターフェースを提供します。その機能により、低遅延と高スループットが重要となるAIトレーニング、HPC、クラウドインフラストラクチャ、その他のワークロードに適しています。

NVIDIA CX8 とは何ですか？

NVIDIA ConnectX-8 は ConnectX プラットフォームの次世代製品であり、より高帯域幅の AI およびデータセンターネットワーク向けに位置付けられています。NVIDIA は ConnectX-8 SuperNICs について、合計ネットワーク帯域幅が最大 800Gb/s に対応すると説明しています。

例えば、C8180 は、800Gb/s の 1 つの InfiniBand XDR ポートで動作することも、2 つの 400GbE ポートとして構成することもできます。この違いは重要です。800Gb/s XDR InfiniBand と 2×400GbE はサポートされる構成であり、単一の 800GbE Ethernet ポートではありません。 ConnectX-8 は PCIe Gen6 接続をサポートし、PCIe Gen5 との下位互換性があります。

ConnectX-7とConnectX-8：主な違いは何ですか？

2世代間で最も目に見える違いはネットワーク帯域幅ですが、このアップグレードには基盤となるホストインターフェースとネットワークアーキテクチャも含まれます。

400Gと800Gのネットワーク帯域幅

ConnectX-7は400Gネットワークアーキテクチャに非常に適しています。シングルポートConnectX-7アダプターは、モデルと構成に応じて400GbEまたはNDR 400Gb/s,をサポートできます。 ConnectX-8は、XDR InfiniBand構成で上限を800Gb/sまで引き上げます。NVIDIAのC8180は2つの400GbEポートとしても構成でき、さまざまなネットワーク・アーキテクチャに柔軟に対応します。

AI ワークロードに関しては、400G から 800G への移行により、GPU 通信用のポートあたりネットワーク帯域幅を最大 2 倍にできます。GPU の数が拡大し、分散トレーニングによって計算ノード間の東西トラフィックが増えるにつれて、これはますます重要なユースケースになっています。

NDR vs. XDR InfiniBand

ConnectX-7 は、4 本の 100Gb/s レーンを使用して、NDR 400Gb/s InfiniBand をサポートします。ConnectX-8 は、4 本の 200Gb/s レーンを使用して、XDR 800Gb/s InfiniBand を追加します。 この高いレーンあたりのレートは、ConnectX-8 が 800Gb/s XDR 接続を提供できる根本的な理由の 1 つです。大規模な AI トレーニングクラスターでは、より高い帯域幅により、集中的な分散ワークロード中のネットワーク制約を軽減できます。

PCIe Gen5 vs. Gen6

ConnectX-7 は、対応する高速アダプター構成で PCIe Gen5 x16 を使用します。ConnectX-8 は PCIe Gen6 x16 をサポートし、PCIe Gen5 との下位互換性もあります。 ホストインターフェースが重要なのは、高速NICにはアダプターとサーバー間に十分な帯域幅が必要だからです。したがって、800Gb/sネットワークインターフェースへのアップグレードは、サーバープラットフォーム、PCIe構成、GPUアーキテクチャ、およびシステム全体の設計と併せて検討する必要があります。

ConnectX-8 は 800G AI クラスターをどのようにサポートしますか？

NVIDIA ConnectX-8と800G AIネットワーキング

主な利点は ConnectX-8 次世代AIインフラストラクチャ向けとして重要なのは、柔軟なポート構成を提供しながら、より高いネットワーク帯域幅をサポートできる能力です。C8180は800Gb/s XDR InfiniBand構成をサポートし、2つの400GbEポートにも構成できます。 これにより、ConnectX-8は、GPUとサーバー間のネットワークトラフィックが制約要因となり得るAIクラスターに特に適しています。より高速なネットワーキングは、高速ポートあたりの帯域幅を増やすことができ、一部のクラスターアーキテクチャではネットワークのスケーリングを簡素化するのに役立ちます。

大規模 AI トレーニング向け ConnectX-8

大規模なAIトレーニングは、GPU間の通信に大きく依存しています。勾配同期や集合通信などの操作は、分散クラスター全体で大量のネットワークトラフィックを発生させる可能性があります。

GPU性能が向上し続けるにつれて、大規模AIクラスターではネットワーク帯域幅がますます重要な要素になる可能性があります。ConnectX-8はこの環境向けに設計されており、800Gb/s XDR接続、PCIe Gen6、およびAIクラスター性能の向上を目的としたネットワーキング機能を提供します。

これは、すべてのAIクラスターに800Gが必要であることを意味するものではありません。実際のメリットは、GPU数、ワークロード、ネットワークトポロジー、そして既存ネットワークがすでに帯域幅の限界に近づいているかどうかによって異なります。

ConnectX-7がAIクラスターにまだ十分なのはいつか？  

多くの400G AIおよびHPCネットワークにとって、ConnectX-7は依然として実用的な選択肢です。すでに400G NDRまたは400GbEを導入しており、ワークロードがその容量を飽和させないクラスターでは、ConnectX-8への移行は、インフラ全体の刷新を正当化するほどの追加価値を提供しない可能性があります。

サーバープラットフォーム、スイッチ、光モジュール、またはケーブル配線が400Gを前提に設計されている場合にも、これは理にかなうことがあります。このような状況では、ConnectX-7は800G導入に伴う追加要件を生じさせることなく、必要な帯域幅を提供できます。

ConnectX-7およびConnectX-8で動作するトランシーバーとケーブルは？

ConnectX-7 向け 400G Transceivers and Cables   

高速ConnectX-7構成では、アダプタモデルに応じてQSFP112またはOSFPを使用できます。例えば、NVIDIAは、400Gb/s接続をサポートするシングルポートQSFP112およびシングルポートOSFP構成のConnectX-7アダプタを文書化しています。 ネットワーク設計によっては、400G 光トランシーバー、DAC、AOC、およびファイバーケーブルを使用して、NIC を互換性のあるスイッチに接続できます。

ConnectX-8用800Gトランシーバーおよびケーブル

ConnectX-8 C8180 モデルは、800Gb/s 構成に単一のOSFPネットワーキングケージを使用し、一方 C8240 モデルはデュアルQSFP112ポートを使用し、各ポートは最大400GbEをサポートします。  したがって、800Gの導入では、光伝送速度だけでなく、物理インターフェースと特定のConnectX-8モデルも考慮する必要があります。互換性のある800G光モジュール、DAC、AOC、およびファイバーインフラストラクチャは、NIC、スイッチ、距離、ネットワークプロトコルに応じて選定する必要があります。

ConnectX-7 および ConnectX-8 の互換性に関する考慮事項

速度だけが考慮事項ではありません。トランシーバーやケーブルを選択する際は、NIC モデル、ポートタイプ、サポートされるプロトコル、光波長、データレート、伝送距離、コネクタータイプ、およびスイッチ側のインターフェースを確認する必要があります。 たとえば、ConnectX-8 C8180 向けの 800G OSFP ソリューションが、すべての ConnectX-8 または ConnectX-7 アダプターで動作すると自動的に想定すべきではありません。NVIDIA は、アダプターモデルごとに異なるインターフェースと構成を示しています。

ConnectX-7 vs. ConnectX-8: どちらを選ぶべきか?  

400G AIおよびHPCネットワークにはConnectX-7を選択

ConnectX-7は、ネットワークアーキテクチャが400Gを中心に構築されている場合に有力な選択肢です。既存のNDRネットワーク、400GbE環境、および400Gb/s接続でワークロードを効果的に処理できるAIまたはHPCクラスターに適しています。

ネットワークのアップグレードにスイッチ、トランシーバー、ケーブル、サーバープラットフォームの交換が必要になる場合には、より実用的な選択肢にもなり得ます。

800G AIクラスターにはConnectX-8を選択

ConnectX-8は、800Gb/s XDR接続を活用できる、新しい高帯域幅AIインフラストラクチャにより適しています。特に、GPUとサーバー間のネットワークトラフィックが大幅に増加すると予想される大規模AIトレーニング環境に適しています。 ただし、この決定はNIC帯域幅だけでなく、ネットワークアーキテクチャ全体に基づいて行うべきです。サーバー、スイッチ、PCIeインターフェース、トランシーバー、ケーブル配線のすべてが、計画された構成をサポートする必要があります。

結論

ConnectX-7とConnectX-8は、AIおよびHPCクラスター向け高速ネットワーキングの異なる段階を表しています。ConnectX-7は400Gb/s接続まで拡張でき、多くの既存の400G導入環境によく適合します。ConnectX-8は、PCIe Gen6対応と次世代AIインフラ向けの柔軟なポート構成により、プラットフォームを800Gb/s XDR InfiniBandへ拡張します。

確立された400Gネットワークでは、ConnectX-7は性能とインフラ要件の適切なバランスを引き続き提供できます。800Gネットワークを前提に設計された新しい大規模AIクラスターでは、ConnectX-8がより高いネットワーク容量への道筋を提供します。いずれの場合も、NICは適切なスイッチ、トランシーバー、ケーブル、サーバーインターフェースと合わせて選定する必要があります。