ConnectX-7 berbanding ConnectX-8: Perbandingan 400G dan 800G untuk Kluster AI

NVIDIA ConnectX-7 dan ConnectX-8 memberi tumpuan kepada rangkaian berkelajuan tinggi untuk persekitaran AI, HPC dan pusat data, tetapi ia menyasarkan peringkat evolusi rangkaian yang berbeza. ConnectX-7 dikaitkan dengan kesalinghubungan 400G NDR dan 400GbE, manakala ConnectX-8 memperluas platform kepada 800Gb/s XDR InfiniBand dan konfigurasi 400GbE yang fleksibel. Kelajuan port sahaja tidak memberikan gambaran keseluruhan. Walau bagaimanapun, kesalinghubungan PCIe, protokol rangkaian, faktor bentuk transceiver dan keperluan beban kerja turut menentukan generasi yang lebih sesuai untuk sesebuah kelompok AI.

Apakah NVIDIA ConnectX-7 dan ConnectX-8? 

Apakah NVIDIA ConnectX-7 Smart NIC? 

NVIDIA ConnectX-7 ialah penyesuai rangkaian berkelajuan tinggi yang direka untuk kedua-dua persekitaran InfiniBand dan Ethernet. ConnectX-7 tersedia dalam konfigurasi penyesuai yang berbeza, termasuk model single-port 400Gb/s dengan antara muka OSFP atau QSFP112, bergantung pada penyesuai tertentu. Dokumentasi NVIDIA menyenaraikan konfigurasi single-port yang menyokong NDR 400Gb/s dan 400GbE, serta konfigurasi lain yang berkelajuan lebih rendah. 

ConnectX-7 juga menyokong PCIe Gen5 x16, menyediakan antara muka hos yang diperlukan untuk pemindahan data berkelajuan tinggi antara penyesuai rangkaian dan pelayan. Keupayaannya menjadikannya sesuai untuk latihan AI, HPC, infrastruktur awan, dan beban kerja lain di mana kependaman rendah dan daya pemprosesan tinggi adalah penting.

Apakah NVIDIA CX8?

NVIDIA ConnectX-8 ialah generasi seterusnya platform ConnectX dan direka untuk rangkaian AI serta pusat data dengan lebar jalur yang lebih tinggi. NVIDIA menyatakan bahawa SuperNIC ConnectX-8 menyokong jumlah lebar jalur rangkaian sehingga 800Gb/s.

C8180, sebagai contoh, boleh beroperasi dengan satu port InfiniBand XDR pada 800Gb/s atau dikonfigurasikan sebagai dua port 400GbE. Perbezaan ini penting: 800Gb/s XDR InfiniBand dan 2×400GbE ialah konfigurasi yang disokong, bukannya satu port Ethernet 800GbE tunggal. ConnectX-8 menyokong sambungan PCIe Gen6 dan serasi ke belakang dengan PCIe Gen5.

ConnectX-7 berbanding ConnectX-8: Apakah Perbezaan Utama?

Perbezaan paling ketara antara kedua-dua generasi ialah lebar jalur rangkaian, tetapi peningkatan ini juga melibatkan antara muka hos asas dan seni bina rangkaian.

Lebar Jalur Rangkaian 400G berbanding 800G

ConnectX-7 amat sesuai untuk seni bina rangkaian 400G. Penyesuai ConnectX-7 port tunggal boleh menyokong 400GbE atau NDR 400Gb/s, bergantung pada model dan konfigurasi. ConnectX-8 meningkatkan had maksimum kepada 800Gb/s dalam konfigurasi XDR InfiniBandnya. C8180 NVIDIA juga boleh dikonfigurasikan sebagai dua port 400GbE, memberikan fleksibiliti untuk seni bina rangkaian yang berbeza.

Apabila melibatkan beban kerja AI, peralihan daripada 400G kepada 800G boleh menyediakan sehingga dua kali ganda lebar jalur rangkaian per port untuk komunikasi GPU. Apabila bilangan GPU meningkat dan latihan teragih menghasilkan lebih banyak trafik timur-barat melalui nod pengkomputeran, ini menjadi kes penggunaan yang semakin relevan.

InfiniBand NDR berbanding XDR

ConnectX-7 menyokong InfiniBand NDR 400Gb/s, menggunakan empat lorong 100Gb/s. ConnectX-8 menambah InfiniBand XDR 800Gb/s, menggunakan empat lorong 200Gb/s. Kadar per lorong yang lebih tinggi ini ialah salah satu sebab asas ConnectX-8 boleh menyediakan ketersambungan 800Gb/s XDR. Untuk kluster latihan AI yang besar, lebar jalur yang lebih tinggi boleh membantu mengurangkan kekangan rangkaian semasa beban kerja teragih yang intensif.

PCIe Gen5 lwn. Gen6

ConnectX-7 menggunakan PCIe Gen5 x16 pada konfigurasi penyesuai berkelajuan tinggi yang disokong. ConnectX-8 menyokong PCIe Gen6 x16 dan juga serasi ke belakang dengan PCIe Gen5. Antara muka hos penting kerana NIC berkelajuan tinggi memerlukan lebar jalur yang mencukupi antara penyesuai dan pelayan. Oleh itu, penaiktarafan kepada antara muka rangkaian 800Gb/s perlu dipertimbangkan bersama-sama dengan platform pelayan, konfigurasi PCIe, seni bina GPU, dan reka bentuk sistem keseluruhan.

Bagaimanakah ConnectX-8 Menyokong Kluster AI 800G?

NVIDIA ConnectX-8 dan Rangkaian AI 800G

Kelebihan utama ConnectX-8 untuk infrastruktur AI generasi seterusnya ialah keupayaannya untuk menyokong lebar jalur rangkaian yang lebih tinggi sambil menyediakan konfigurasi port yang fleksibel. C8180 menyokong konfigurasi 800Gb/s XDR InfiniBand dan juga boleh dikonfigurasikan untuk dua port 400GbE. Ini menjadikan ConnectX-8 amat relevan kepada kluster AI di mana trafik rangkaian antara GPU dan pelayan boleh menjadi faktor pengehad. Rangkaian berkelajuan lebih tinggi boleh menyediakan lebih banyak lebar jalur bagi setiap port berkelajuan tinggi, yang boleh membantu memudahkan penskalaan rangkaian dalam sesetengah seni bina kluster.

ConnectX-8 untuk Latihan AI Berskala Besar

Latihan AI berskala besar sangat bergantung pada komunikasi antara GPU. Operasi seperti penyegerakan kecerunan dan komunikasi kolektif boleh menjana trafik rangkaian yang besar merentasi kluster teragih.

Apabila prestasi GPU terus meningkat, lebar jalur rangkaian boleh menjadi faktor yang semakin penting dalam kluster AI berskala besar. ConnectX-8 direka bentuk untuk persekitaran ini, menawarkan ketersambungan 800Gb/s XDR, PCIe Gen6, dan ciri rangkaian yang bertujuan meningkatkan prestasi kluster AI.

Ini tidak bermakna setiap kluster AI memerlukan 800G. Manfaat sebenar bergantung pada bilangan GPU, beban kerja, topologi rangkaian, dan sama ada rangkaian sedia ada sudah menghampiri had lebar jalurnya.

Bilakah ConnectX-7 Masih Mencukupi untuk Kluster AI?  

Bagi banyak rangkaian AI dan HPC 400G, ConnectX-7 kekal sebagai pilihan yang berdaya maju. Untuk kluster yang sudah menggunakan 400G NDR atau 400GbE, dan apabila beban kerja tidak memenuhi kapasiti tersebut, peralihan kepada ConnectX-8 mungkin tidak memberikan nilai tambahan yang mencukupi untuk mewajarkan penyegaran semula infrastruktur sepenuhnya.

Ia juga boleh masuk akal apabila platform pelayan, suis, optik atau pengkabelan direka bentuk berasaskan 400G. Dalam situasi ini, ConnectX-7 boleh menyediakan lebar jalur yang diperlukan tanpa memperkenalkan keperluan tambahan yang dikaitkan dengan penggunaan 800G.

Transceiver dan Kabel Apakah yang Berfungsi dengan ConnectX-7 dan ConnectX-8?

Transceiver dan Kabel 400G untuk ConnectX-7   

Konfigurasi ConnectX-7 berkelajuan tinggi boleh menggunakan QSFP112 atau OSFP, bergantung pada model penyesuai. Sebagai contoh, NVIDIA mendokumenkan penyesuai ConnectX-7 dengan konfigurasi QSFP112 port tunggal dan OSFP port tunggal yang menyokong sambungan 400Gb/s. Bergantung pada reka bentuk rangkaian, transceiver optik 400G, DAC, AOC dan pengkabelan gentian boleh digunakan untuk menyambungkan NIC kepada suis yang serasi.

Transceiver dan Kabel 800G untuk ConnectX-8

Model C8180 ConnectX-8 menggunakan satu sangkar rangkaian OSFP untuk konfigurasi 800Gb/s, manakala model C8240 menggunakan port QSFP112 dwi, dengan setiap port menyokong sehingga 400GbE.  Oleh itu, pelaksanaan 800G perlu mempertimbangkan bukan sahaja kelajuan optik tetapi juga antara muka fizikal dan model ConnectX-8 tertentu. Modul optik 800G, DAC, AOC dan infrastruktur gentian yang serasi harus dipilih mengikut NIC, suis, jarak dan protokol rangkaian.

Pertimbangan Keserasian ConnectX-7 dan ConnectX-8

Kelajuan bukan satu-satunya pertimbangan. Apabila memilih transceiver atau kabel, anda harus menyemak model NIC, jenis port, protokol yang disokong, panjang gelombang optik, kadar data, jarak penghantaran, jenis penyambung dan antara muka pada sisi suis. Sebagai contoh, penyelesaian OSFP 800G yang dimaksudkan untuk ConnectX-8 C8180 tidak seharusnya dianggap secara automatik berfungsi dengan setiap penyesuai ConnectX-8 atau ConnectX-7. NVIDIA menyenaraikan antara muka dan konfigurasi yang berbeza merentas model penyesuainya.

ConnectX-7 berbanding ConnectX-8: Yang Mana Patut Anda Pilih?  

Pilih ConnectX-7 untuk Rangkaian AI dan HPC 400G

ConnectX-7 ialah pilihan yang kukuh apabila seni bina rangkaian berpusat pada 400G. Ia sesuai untuk rangkaian NDR sedia ada, persekitaran 400GbE, serta kluster AI atau HPC yang beban kerjanya boleh dikendalikan dengan berkesan menggunakan kesambungan 400Gb/s.

Ia juga boleh menjadi pilihan yang lebih praktikal apabila menaik taraf rangkaian sebaliknya memerlukan penggantian suis, transceiver, kabel dan platform pelayan.

Pilih ConnectX-8 untuk Kluster AI 800G

ConnectX-8 lebih sesuai untuk infrastruktur AI baharu berlebar jalur tinggi yang boleh memanfaatkan ketersambungan 800Gb/s XDR. Ia amat relevan untuk persekitaran latihan AI berskala besar yang trafik rangkaian antara GPU dan pelayan dijangka meningkat dengan ketara. Walau bagaimanapun, keputusan harus berdasarkan keseluruhan seni bina rangkaian dan bukannya lebar jalur NIC semata-mata. Pelayan, suis, antara muka PCIe, transceiver dan kabel semuanya perlu menyokong konfigurasi yang dirancang.

Kesimpulan

ConnectX-7 dan ConnectX-8 mewakili peringkat berbeza dalam rangkaian berkelajuan tinggi untuk kluster AI dan HPC. ConnectX-7 menskala kepada kesambungan 400Gb/s dan sesuai dengan banyak pelaksanaan 400G sedia ada. ConnectX-8 memperluas platform kepada 800Gb/s XDR InfiniBand, dengan sokongan PCIe Gen6 dan konfigurasi port yang fleksibel untuk infrastruktur AI generasi seterusnya.

Untuk rangkaian 400G yang sudah mantap, ConnectX-7 masih boleh menawarkan keseimbangan prestasi dan keperluan infrastruktur yang tepat. Untuk kluster AI berskala besar baharu yang direka bentuk berasaskan rangkaian 800G, ConnectX-8 menyediakan laluan ke arah kapasiti rangkaian yang lebih tinggi. Dalam kedua-dua kes, NIC harus dipilih bersama-sama dengan suis, transceiver, kabel dan antara muka pelayan yang sesuai.