Apakah InfiniBand XDR dan Mengapa Ia PENTING dalam Rangkaian AI

InfiniBand XDR ialah penyelesaian penting yang diperkenalkan berikutan skala kluster latihan AI yang terus berkembang dan peningkatan pesat pertukaran data antara GPU. Bagi platform latihan berskala besar dengan berpuluh-puluh ribu GPU, rangkaian bukan lagi sekadar sistem tambahan, tetapi infrastruktur kritikal yang mempengaruhi kecekapan latihan. Dalam konteks ini, evolusi berterusan teknologi InfiniBand ke arah lebar jalur yang lebih tinggi telah menjadi satu trend, dan InfiniBand XDR sememangnya merupakan teknologi yang menangani keperluan rangkaian AI peringkat seterusnya.

Apakah itu InfiniBand XDR

InfiniBand XDR ialah kelas kelajuan terkini dalam pelan hala tuju teknologi InfiniBand, yang didorong oleh NVIDIA dan menyasarkan terutamanya platform pengkomputeran AI generasi seterusnya serta persekitaran pengkomputeran berprestasi tinggi. Berbanding dengan kelajuan port 400Gbps NDR generasi sebelumnya, XDR meningkatkan lebar jalur port tunggal kepada 800Gbps, sekali gus mencapai peningkatan ketara dalam kapasiti rangkaian.

Dari perspektif teknikal, XDR meneruskan kelebihan teras InfiniBand, iaitu kependaman rendah, daya pemprosesan tinggi dan RDMA, sambil menggabungkan SerDes berkelajuan tinggi generasi seterusnya, cip pensuisan dan teknologi sambungan optik untuk menyediakan keupayaan sokongan rangkaian yang lebih kukuh bagi kluster GPU berskala ultra besar.

Ringkasnya, XDR bukan sekadar menggandakan kelajuan; ia merupakan platform intersambungan generasi seterusnya yang direka untuk memenuhi keperluan penskalaan masa hadapan bagi kelompok AI.

Mengapa Latihan AI Memerlukan Rangkaian 800G atau 1.6T

Dalam rangkaian perusahaan tradisional, kebanyakan trafik ialah trafik utara-selatan yang dijana oleh pengguna yang mengakses pelayan. Persekitaran latihan AI sama sekali berbeza; trafik terasnya kebanyakannya berlaku antara pelayan, iaitu trafik timur-barat.

Semasa latihan model berskala besar, banyak GPU perlu kerap bertukar-tukar gradien, parameter model dan hasil pengiraan perantaraan. Sebagai contoh, operasi All-Reduce yang biasa digunakan dalam latihan teragih menghasilkan keperluan komunikasi antara nod yang ketara.

Apabila saiz model meningkat daripada berbilion parameter kepada ratusan bilion atau bahkan trilion parameter, jumlah komunikasi rangkaian turut meningkat. Jika rangkaian tidak dapat menyegerakkan data tepat pada masanya, GPU hanya boleh menunggu penghantaran data selesai, sekali gus mengurangkan penggunaan keseluruhan.

Oleh itu, dalam kelompok AI moden, prestasi rangkaian sama pentingnya dengan prestasi GPU.

Bagaimana InfiniBand XDR Meningkatkan Kecekapan Kluster AI

Pertama, terdapat peningkatan lebar jalur. A 1.6T XDR pautan boleh menghantar lebih banyak data latihan dalam tempoh masa yang sama, mengurangkan kependaman penyegerakan dalam latihan teragih dan meningkatkan penggunaan GPU.

Kedua, kebolehskalaan adalah lebih baik. Apabila kelompok AI berkembang, bilangan port suis dan lapisan rangkaian turut meningkat. Kadar port yang lebih tinggi bermakna lebih sedikit pautan boleh digunakan untuk mencapai lebar jalur yang sama, sekali gus memudahkan reka bentuk seni bina rangkaian.

Tambahan pula, lebar jalur yang lebih besar mengurangkan isu trafik dan kesesakan di kawasan tumpuan. Apabila beribu-ribu nod GPU bertukar data secara serentak, rangkaian boleh menyediakan sumber penghantaran yang lebih mencukupi, sekali gus mengurangkan turun naik prestasi.

Untuk melatih model bahasa besar, model multimodal dan tugas pengkomputeran saintifik, kelebihan ini diterjemahkan secara langsung kepada kecekapan latihan yang lebih tinggi.

Rangkaian AI InfiniBand XDR dan Ethernet 

Dalam beberapa tahun kebelakangan ini, penyelesaian Ethernet berasaskan RoCEv2 telah berkembang pesat, dengan Ethernet 400G dan 800G diterima pakai secara meluas dalam pasaran pusat data AI. Walau bagaimanapun, InfiniBand masih mempunyai kelebihan yang ketara dalam senario latihan berskala ultra besar.

Pertama, InfiniBand direka sejak awal untuk persekitaran pengkomputeran berprestasi tinggi, dan mekanisme RDMA, kawalan kesesakan serta keupayaan komunikasi teragregatnya telah disahkan dalam tempoh yang panjang.

Kedua, NVIDIA telah membina ekosistem InfiniBand yang lengkap, termasuk suis Quantum, kad rangkaian ConnectX dan susunan perisian CUDA. Komponen-komponen ini berfungsi bersama untuk mengoptimumkan prestasi latihan AI.

Bagi platform AI yang mengutamakan prestasi terbaik dan kependaman komunikasi minimum, InfiniBand kekal sebagai penyelesaian pilihan bagi banyak pusat pengkomputeran super dan kluster latihan AI berskala besar.

InfiniBand XDR Memacu Peningkatan dalam Saling Sambungan Optik Berkelajuan Tinggi

Apabila rangkaian XDR digunakan secara beransur-ansur, seni bina sambungan optik pusat data juga akan dinaik taraf sewajarnya. Pautan 800Gbps memerlukan suis dan modul optik berprestasi lebih tinggi. Modul optik berkelajuan tinggi yang tersedia pada masa ini, seperti 800G OSFP, 800G OSFP SR8, 800G DR8, dan 800G 2x FR4, secara beransur-ansur menjadi komponen penting dalam membina rangkaian XDR.

Pada masa yang sama, pendawaian gentian optik, reka bentuk rak dan sistem penyejukan juga perlu disesuaikan dengan keperluan penggunaan yang mempunyai ketumpatan dan lebar jalur lebih tinggi. Adalah dapat dijangkakan bahawa peningkatan rangkaian di pusat data AI pada tahun-tahun akan datang sebahagian besarnya berkisar pada ekosistem interkoneksi 800G.

Kesimpulan

Apabila saiz model AI terus meningkat, rangkaian telah menjadi faktor penting yang menentukan kecekapan latihan. Sebagai teknologi InfiniBand generasi terkini, XDR menyediakan platform sambungan antara yang lebih cekap untuk kluster GPU hiperskala masa hadapan melalui lebar jalur 800G dan 1.6T, seni bina kependaman rendah serta kebolehskalaan yang cemerlang. Dalam evolusi infrastruktur AI yang berterusan, XDR dijangka menjadi salah satu teknologi utama yang memacu pembangunan pusat pengkomputeran pintar generasi akan datang.