In che modo i transceiver 800G influenzano il calcolo AI?

Il calcolo AI sta diventando sempre più importante con lo sviluppo della tecnologia attuale e sempre più aziende scelgono di progettare e addestrare i propri modelli AI. Alla base di tutto, la velocità di trasmissione dei dati è diventata il fulcro dell'attenzione. Le reti tradizionali non riescono a soddisfare i requisiti di larghezza di banda e latenza del calcolo basato sull'Artificial Intelligence, quindi, per soddisfarne le esigenze, vengono utilizzati in grandi quantità transceiver 800G. Questo articolo illustrerà l'impatto dei moduli ad alta velocità sul calcolo AI e il loro ruolo.

Che cos'è l'AI Computing

Il calcolo per l'intelligenza artificiale coinvolge sistemi informatici che imitano i processi dell'intelligenza umana, come apprendimento, ragionamento, risoluzione dei problemi e processo decisionale. Il calcolo AI include l'addestramento dei modelli, che richiede l'addestramento dell'AI tramite la progettazione di algoritmi e una grande quantità di dati affinché possa svolgere compiti complessi. Ad esempio, riconoscimento delle immagini, guida autonoma e supporto agli utenti nella risoluzione di domande.

Il ruolo del calcolo basato sull'intelligenza artificiale

La tecnologia IA è stata applicata a molti campi, inclusi, a titolo esemplificativo ma non esaustivo, trasporti, produzione, medicina, finanza e altri settori. Ad esempio, nella guida autonoma, l'IA utilizza il calcolo IA per analizzare in tempo reale le condizioni stradali e i comportamenti dei veicoli circostanti e intraprendere le corrette azioni di risposta in un tempo di reazione molto breve per realizzare la guida autonoma dell'auto. Durante l'analisi e la risposta, il calcolo dell'Intelligenza Artificiale analizza ed elabora le condizioni stradali tramite telecamere e trae la conclusione migliore. Questo momento richiede la trasmissione e l'analisi di una grande quantità di dati per garantire la sicurezza della guida autonoma.

Limitazioni dell'AI

Sebbene l'AI abbia ottenuto risultati notevoli in molti campi, deve ancora affrontare molte sfide. Ad esempio, la velocità di trasmissione delle reti tradizionali non è sufficiente per supportare ulteriormente l'enorme quantità di dati dell'elaborazione AI. Sebbene l'implementazione di un gran numero di moduli 100G possa soddisfare temporaneamente le esigenze, il loro consumo energetico è molto elevato e i costi di manutenzione aumentano in modo significativo. Pertanto, come risolvere il problema della velocità di trasmissione, aumentare la larghezza di banda della rete e risolvere il problema del consumo energetico è diventato un limite per lo sviluppo dell'AI. Per risolvere il problema dell'elaborazione AI, i fornitori di apparecchiature hanno iniziato a sviluppare moduli ottici con velocità più elevate. Ad esempio, transceiver 400G e 800G. Rispetto ai moduli 100G, le loro velocità di trasmissione sono aumentate di diverse volte. Velocità di trasmissione più elevate comportano maggiore larghezza di banda e minore latenza. Ora vediamo come i moduli 800G aiutano l'elaborazione AI a risolvere i suoi problemi.

Che cos'è un ricetrasmettitore 800G

Prima di capire come risolvere i problemi del calcolo AI, cerchiamo innanzitutto di capire che cosa ricetrasmettitori ottici 800G sono. Come suggerisce il nome, i ricetrasmettitori ottici 800g sono moduli ottici con una velocità di trasmissione fino a 800Gbps. Sono disponibili in tre tipi: QSFP-DD, OSFP e CFP8. I package più diffusi sul mercato sono QSFP-DD e OSFP. Il vantaggio di QSFP-DD è che è compatibile con package come QSFP28 e QSFP56, riducendo il costo dell'implementazione di porte e dispositivi. OSFP adotta un design a otto canali, che può fornire velocità di trasmissione dati più elevate e distanze di trasmissione maggiori. Inoltre, OSFP ha un design di dissipazione del calore migliore rispetto a QSFP-DD, e le sue dimensioni sono maggiori rispetto a QSFP-DD, il che potrebbe supportare velocità più elevate in futuro.

Come risolvere le limitazioni del calcolo AI

In termini di velocità di trasmissione, i transceiver 800G aumentano la velocità di trasmissione di 8 volte rispetto ai tradizionali moduli 100G. Ciò significa che possono fornire una latenza inferiore e una maggiore larghezza di banda di rete, rendendo il calcolo AI più reattivo e accurato.

I moduli 100G tradizionali possono anche ottenere l'effetto dei ricetrasmettitori ottici 800G tramite implementazioni su larga scala, e sembrano essere meno costosi. Tuttavia, il consumo energetico di 8 moduli 100G è il doppio o persino superiore rispetto a quello di 1 modulo ottico 800G. Nel lungo periodo, i ricetrasmettitori 800G consumano meno energia e hanno costi di dissipazione del calore inferiori. L'implementazione di moduli ottici 800G può ridurre i costi di manutenzione e offrire una maggiore scalabilità.

Oltre ad aumentare le velocità di trasmissione e ridurre il consumo energetico, i ricetrasmettitori ottici 800G possono anche ottimizzare l'architettura di rete. Quando si utilizzano più moduli 100G, sono necessarie anche più fibre ottiche per interconnettere i dispositivi. Il modulo ottico 800G richiede solo una coppia di fibre ottiche e moduli per ottenere l'effetto di 8 coppie di moduli 100G e 8 coppie di fibre ottiche, semplificando il cablaggio, ottimizzando l'architettura di rete e rendendo più comoda la manutenzione successiva.

Infine, con il continuo sviluppo della tecnologia AI, anche la larghezza di banda e la velocità di trasmissione richieste aumentano, e nuove applicazioni AI emergono costantemente, come la guida autonoma e Chatgpt. Queste applicazioni richiedono elaborazione computazionale e dei dati su scala più ampia e più complessa, e le reti tradizionali non possono far fronte agli aggiornamenti dell'AI. L'implementazione di moduli ottici 800 G può affrontare più facilmente i futuri aggiornamenti dell'elaborazione AI e la diffusione di nuove applicazioni.

Altro prodotto 800G

Naturalmente, oltre all'utilizzo di transceiver 800G, 800G DAC è senza dubbio un'opzione alternativa migliore nella trasmissione a breve distanza. Ha un consumo energetico quasi nullo ed è più economico dei moduli ottici 800G. Nelle connessioni a breve distanza tra rack, 800G DAC è la scelta migliore.

Architettura di rete dei data center AI

Nei data center AI, poiché i modelli AI sono ampiamente utilizzati in vari settori, le architetture di rete tradizionali non riescono a soddisfare i requisiti di larghezza di banda e latenza dell'addestramento di cluster su larga scala. L'addestramento distribuito di modelli di grandi dimensioni richiede la comunicazione tra GPU, aumentando il traffico est-ovest nell'architettura di rete dei data center AI. Il calcolo AI utilizza enormi quantità di dati per l'addestramento, il che porta inevitabilmente a una riduzione della latenza di rete e delle prestazioni di addestramento nelle architetture di rete tradizionali. Pertanto, per soddisfare le esigenze dell'addestramento AI, sono emerse le reti Fat-Tree.

Nelle reti tradizionali, la larghezza di banda converge gradualmente dai nodi foglia alla radice e la sua larghezza di banda supera la larghezza di banda totale della rete dorsale, il che causerà congestione della rete e aumento della latenza. Nella rete Fat-tree, la larghezza di banda dei suoi nodi foglia aumenta gradualmente verso la radice e la larghezza di banda della parte dorsale è bilanciata con la larghezza di banda dei nodi foglia. Ciò migliora l'efficienza della rete e accelera il processo di calcolo AI. Rispetto alle reti tradizionali, le reti Fat-tree hanno una migliore efficienza di utilizzo della larghezza di banda ed evitano colli di bottiglia e congestione della rete.

Conclusione

In quanto tecnologia all'avanguardia nella nuova era, i transceiver 800G forniscono il supporto sottostante per il calcolo AI, rendendo possibile la tecnologia AI. È una tecnologia necessaria non solo per il presente, ma anche per il futuro. Implementando transceiver e dispositivi ottici 800G, l'addestramento dei modelli AI può aiutare le aziende a raggiungere un ulteriore sviluppo. In caso di domande sul calcolo basato sull'intelligenza artificiale, non esitare a contattare gli ingegneri CCIE/HCIE di QSFPTEK all'indirizzo [email protected]. I nostri ingegneri Le forniranno un supporto completo.