NVIDIA ConnectX-8 C8180とC8240：AI向けのアーキテクチャ上の差別化要因とSuperNICの選択/HPC

AIおよびHPCコンピューティングプラットフォームの複雑性が増し続けるにつれて、多数のノードにわたる大規模展開はデータセンターネットワークにさらなる負荷をかけます。効率的なGPU相互接続を確保し、データ移動のオーバーヘッドを可能な限り削減するために、ネットワークインフラストラクチャはコンピューティングアーキテクチャとともに進化する必要があります。NVIDIAのConnectX-8 SuperNICは、最大800 Gbpsのスループットを提供できる次世代スマートネットワークインターフェースカード (NIC) であり、現代のAIクラスターにおける極端な帯域幅およびレイテンシのボトルネックの増大する課題を軽減するために構築されています。

この記事では 2 つを分析します ConnectX-8ネットワークカード 同じハードウェアおよびソフトウェアのベースラインを持ちながら、ポートマッピングと速度オプションが異なるモデル。ネットワークアーキテクチャチームが実際のネットワークニーズにより適合した意思決定を行えるよう、それらの技術的 差異と適用シナリオの包括的な概要を提供します。

ConnectX-8 アーキテクチャ: GPU間スケール向けに専用設計

極めて高い帯域幅、ロングテールレイテンシ、計算利用率に対するハイパースケール AI および HPC クラスターの厳しい要求を踏まえ、NVIDIA ConnectX-8 SuperNIC は、InfiniBand および Ethernet プロトコル上でカードあたり最大 800 Gbps の高速相互接続機能を提供し、分散型大規模モデル学習と高密度推論のための共通の低レイテンシ通信レイヤーを構築します。

C8180とC8240はいずれも、hardware levelで標準のPCIe 6.0 x16インターフェースを使用します。この構成により、ホストからNICへの双方向帯域幅が非常に大きくなり（最大 128GB/s)）、データ転送においてホスト側のボトルネックなしに800 Gネットワークポートを完全に飽和させることができます。このシリーズの全モデルは統一されたハードウェアアクセラレーションエンジンを共有しており、ハードウェアレベルのRDMAおよびRoCEオフロード、ゼロコピーGPUDirect RDMA、GPUDirect Storage (GDS)を完全にサポートし、リアルタイムテレメトリに基づくプログラマブル輻輳制御メカニズムを統合しています。また、InfiniBand環境では、NVIDIA SHARP技術によりネットワークノード上で直接インネットワークコンピューティングを実行することもできます。

All-Reduce、バリア同期、NVMe-oFストレージトラフィックなどの集団通信処理をネットワークカードのシリコンに直接オフロードすることで、ConnectX-8はホストCPUとGPUが負担するネットワーク処理オーバーヘッドを効果的に排除し、パケットジッターを取り除き、クラスター’の実際の有効計算能力を最大化します。標準のPCIeカードフォームファクターでも高密度OCP仕様でも、ConnectX-8ファミリーは次世代AIコンピューティングインフラ向けに、高い決定性と低ジッターのインターコネクトサポートを提供します。

C8180とC8240の直接比較

NVIDIA ConnectX-8 SuperNICファミリーは同じ基盤となるチップアーキテクチャを共有していますが、このシリーズは、さまざまなサーバーラックスペースやネットワークトポロジーに対応するため、多様な特定ハードウェア構成へと進化しています。

C8180 と C8240 は、これらの中で大規模 AI および HPC クラスターに最も広く導入されている 2 つのフラッグシップ モデルです。 両者の主な違いは、ホスト側インターコネクト レベルにおける物理ポートに関連する数と速度の組み合わせ、および IP 設計にあります。ラック内のラック密度と実際のトラフィックの性質という 観点からこれらを理解することで、可能な限り最適なコンピューティング ネットワークを準備するのに役立ちます。

以下は、2つのモデルの 主な仕様比較です:

NVIDIA ConnectX-8 C8180 vs. C8240：ハードウェアの違いとAIファブリック選定ガイドの比較

ConnectX-8アーキテクチャ：シリコンとネットワークトポロジー

ConnectX-8 C8180 (PN: 900-9x81e-00ex-st0) と C8240 (PN: 900-9x81q-00cn-st0) を比較する場合、同じチッププラットフォームをベースにしているため、基本的にはベース シリコンはほぼ無視できます。選定 プロセス全体の目的は、物理ポートのタイプと速度がデータセンター内のネットワークと互換性があることを確認することです。これらのインターフェースは物理的に大きく異なるため、別々の導入経路が必要です。AI 学習クラスター、従来型 HPC スーパーコンピューター、高スループットのエンタープライズ Ethernet のいずれについて話している場合でも、それは 当てはまります。

ポート構成とInfiniBandスループット (XDR vs. NDR)

最も明らかな 違いは、生のスループットとブレイクアウトオプションにあります。C8180は、 単一のOSFPケージを備え、箱から出してすぐに驚異的な800 Gbps XDR InfiniBand接続を提供します。大規模モデルの トレーニングワークロードが、All-Reduceのようなクロスノード集団通信に大きく依存し、テールレイテンシの最小化が重要な場合、この800G単一パイプの上限はまさに必要なものです。また、 優れた柔軟性も備えています。ブレイクアウトケーブルを使用すれば、ダウンストリームスイッチのポート構成に基づいて、この単一ポートを2x400GbEまたは8x100Gに分割できます。

しかしC8240にはそのような複雑さはありません。2つのQSFP112ポートを備え、このデバイスは箱から出してすぐにデュアル400GbEまたはNDR/HDR InfiniBandトポロジーに接続できます。400G NDRがInfiniBandにおける性能の上限であるとしても、デュアルアップリンクを必要とするToRスイッチにとって、依然として最も簡単なプラグアンドプレイの選択肢であり、カスタムブレークアウトケーブル管理の煩わしささえ解消します。

物理仕様: PCBレイアウトと熱制約

ポート以外にも、狭い1Uシャーシ’構成で作業する際に大きな違いを生む物理的な特徴が あります。両カードは標準のPCIe 6.0 x16ハーフハイト・ハーフレングス（HHHL）フォームファクターを採用し、 ハードウェアレベルのセキュアブートを備えていますが、ケージの違いによって内部PCBレイアウトが異なります。C8180は幅がわずかに広い（68.50 mm 対 66.40 mm）ものの、シングルケージ設計により、オンボードの高速配線は非常に短く抑えられており — 現在はわずか75 mm（2.95 インチ）です。2つのQSFP112ケージを横並びに配置するため、小型のC8240では内部配線長が140 mm（5.51 インチ）に延びています。

もし 高密度サーバーで厳しい熱的制約に対処しているなら、こうした基板の物理的な違いが実際に影響します。そのため、 マザーボードに至るまでの空気の流れを再考する必要があります。日々のフロントパネルのO&Mも変わります。C8180は単一ポートに専用のデュアルLED設計を採用しており、一目でリンク速度とエラーアラームを簡単に区別できます。C8240は、フロントパネルのスペース制約により、スペースを節約するためにポートごとに単一の2色 LEDを使用しています。

ラック設置シナリオ: 適切なSuperNICの選択

結局のところ、導入するSuperNICの選択は簡単です。800G XDRコンピュートファブリックや高帯域幅RDMAストレージなど、アーキテクチャがシングルレールの超高帯域幅トポロジーを必要とする場合、または単一の800Gポートを下流側でブレークアウトできる柔軟性が必要な場合には、C8180を使用します。 

一方、ネイティブなデュアル物理ポートネットワーキングが必要な場合はC8240を選びます。これは、高可用性、アクティブバックアップボンディング、またはLACPアグリゲーション（あるいはその両方）を、完全に独立したネットワークプレーン群にわたって必要とするアーキテクチャ向けに設計されています。さらに、データセンターにQSFP112光モジュールとDACケーブルの大規模な在庫がある場合、C8240は現在の環境にシームレスに統合されます。

結論

C8180とC8240は同じConnectX-8チップをベースに構築されており、今日のAIおよびHPCクラスターに求められる最高レベルのスループットと、幅広いハードウェアオフロード機能をサポートしています。この2つの選択は、純粋にネットワークトポロジー要件の問題です。つまり、絶対的に最高の単一リンク帯域幅（800G XDR InfiniBand）を重視するか、または高可用性デュアルホーミングやネイティブ400GbE Ethernetアーキテクチャ向けに、すぐに使えるデュアル物理ポートを重視するかです。

次世代コンピューティングネットワークのインターコネクト課題に対応するため、QSFPTEKは、800G/400G光モジュール、DAC銅ケーブル、AOC光ケーブル、分岐コンポーネントを含む包括的な製品ポートフォリオ——と技術サポートを活用し、アーキテクチャチームがファブリックリンクのボトルネックを解消し、GPUクラスターの計算能力を最大限に引き出せるよう支援します。ネットワークインフラに最適なインターコネクトの組み合わせを選択するために、QSFPTEK’の高速インターコネクトソリューションをご覧ください。