Nvidia è pianificazione Per implementare la comunicazione basata sulla luce tra le sue GPU di intelligenza artificiale entro il 2026, utilizzando interconnessioni di fotoniche di silicio con ottica co-pacchettata (CPO) nelle sue piattaforme AI su scala rack di prossima generazione per ottenere tassi di trasferimento più elevati a un consumo di energia ridotto.
Alla conferenza Hot Chips, Nvidia ha fornito ulteriori dettagli sui suoi prossimi soluzioni di interconnessione quantistica-X e spettro-X, delineando il loro arrivo previsto nel 2026. Queste soluzioni rappresentano una mossa significativa verso interconnessioni ottiche per gestire le crescenti esigenze di trasferimento di dati all’interno di grandi cluster GPU dell’INI.
La sequenza temporale dello sviluppo di Nvidia dovrebbe rispecchiare da vicino la tabella di marcia coupé di TSMC (motore fotonico universale compatto), che è strutturata in tre fasi distinte. La fase iniziale prevede un motore ottico progettato per i connettori OSFP, facilitando i trasferimenti di dati di 1,6 TB/s riducendo contemporaneamente il consumo di energia. La seconda fase passa all’imballaggio di Cowos che incorpora ottica co-confezionata, ottenendo così tassi di trasferimento di dati di 6,4 TB/s a livello di scheda madre. La terza fase si concentra sul raggiungimento di 12,8 TB/s all’interno dei pacchetti di processore, con l’obiettivo di ridurre ulteriormente l’utilizzo di potenza e la latenza.
La necessità di CPO deriva dalle sfide associate all’interconnessione di migliaia di GPU in cluster di intelligenza artificiale su larga scala, che richiedono loro di operare come sistema unificato. Questa architettura richiede modifiche alle tradizionali configurazioni di networking. In particolare, invece di ogni rack con il proprio interruttore di livello 1 (top di rack) collegato da cavi di rame corti, gli interruttori vengono trasferiti alla fine della riga. Questa configurazione stabilisce un tessuto coerente a bassa latenza che copre più rack. Questo trasferimento aumenta la distanza tra i server e il loro interruttore primario, rendendo i cavi di rame poco pratici per velocità elevate come 800 GB/s. Di conseguenza, le connessioni ottiche diventano essenziali per quasi tutti i collegamenti da server-to-switch e switch-to-switch.
Nvidia progetta un chip B30A più lento per incontrare restrizioni statunitensi
L’uso di moduli ottici collegabili in tali ambienti presenta limitazioni intrinseche. In questi progetti, i segnali di dati escono dal circuito integrato specifico dell’applicazione (ASIC), attraversano la scheda e i connettori e vengono successivamente convertiti in luce. Questo processo introduce una perdita elettrica significativa, raggiungendo circa 22 decibel su canali da 200 GB/s. La compensazione per questa perdita richiede un elaborazione complessa, che aumenta il consumo di energia per porta a 30 W. Ciò, a sua volta, richiede un ulteriore raffreddamento e introduce potenziali punti di fallimento. Nvidia afferma che questi problemi diventano sempre più problematici man mano che la portata delle distribuzioni di intelligenza artificiale si espande.
CPO mitiga gli svantaggi associati ai tradizionali moduli ottici collegabili integrando il motore di conversione ottico direttamente accanto a Switch ASIC. Questa vicinanza consente di accoppiarsi il segnale quasi immediatamente, aggirando la necessità di viaggiare su tracce elettriche estese. Di conseguenza, la perdita elettrica viene ridotta a 4 decibel e il consumo di energia per porto diminuisce a 9 W. Questa disposizione elimina anche numerosi componenti che potrebbero potenzialmente fallire, semplificando l’implementazione di interconnessioni ottiche.
Nvidia afferma che il passaggio da ricetrasmettitori collegabili convenzionali e l’integrazione di motori ottici direttamente nel silicio dello switch, facilitato dalla piattaforma coupé di TSMC, fornisce sostanziali miglioramenti di efficienza, affidabilità e scalabilità. NVIDIA riferisce che CPO offre vantaggi significativi rispetto ai moduli collegabili, incluso un aumento di 3,5 volte dell’efficienza energetica, un miglioramento di 64 volte nell’integrità del segnale, un aumento di 10 volte di resilienza a causa della riduzione dei dispositivi attivi e circa il 30% di tempi di distribuzione più veloci a causa di un servizio più semplice e procedure di montaggio.
Nvidia prevede di introdurre piattaforme di interconnessione ottica basata su CPO per le tecnologie Ethernet e Infiniband. La società prevede di lanciare gli switch quantum-x Infiniband all’inizio del 2026. Ogni interruttore è progettato per fornire 115 TB/s di throughput, ospitando 144 porte che operano a 800 gb/s ciascuno. Il sistema incorpora inoltre un ASIC con 14,4 TFLOP di elaborazione in rete e supporta il protocollo di riduzione gerarchica di aggregazione scalabile di 4a generazione di NVIDIA per la riduzione della latenza per le operazioni collettive. Questi interruttori utilizzeranno il raffreddamento liquido.
Concurrently, Nvidia is preparing to integrate CPO into Ethernet through its Spectrum-X Photonics platform, scheduled for release in the second half of 2026. This platform will be based on the Spectrum-6 ASIC, which will power two distinct devices: the SN6810, offering 102.4 Tb/s of bandwidth across 128 ports at 800 Gb/s, and the SN6800, which scales to 409.6 TB/S e 512 porte che operano alla stessa velocità. Entrambi i dispositivi impiegheranno anche il raffreddamento liquido.
Nvidia prevede che i suoi switch basati su CPO guideranno nuovi cluster di intelligenza artificiale progettati per applicazioni di intelligenza artificiale generative, che stanno diventando sempre più grandi e complesse. Utilizzando CPO, questi cluster elimineranno migliaia di componenti discreti, con conseguenti tempi di installazione più rapidi, una manutenzione più facile e un consumo di energia ridotto per connessione. Di conseguenza, i cluster che utilizzano la fotonica di Infiniband Quantum-X e Spectrum-X dovrebbero dimostrare miglioramenti nelle metriche come il time-to-tourn-on, il time-to-token e l’affidabilità complessiva a lungo termine.
Nvidia sottolinea che l’ottica co-confezionata non è semplicemente un miglioramento opzionale, ma un requisito fondamentale per i futuri data center di intelligenza artificiale. Ciò suggerisce che la società intende posizionare le sue interconnessioni ottiche come un elemento di differenziatore chiave e un vantaggio su soluzioni AI su scala rack offerte dai concorrenti, come AMD. L’acquisizione di Enosemi da parte di AMD è rilevante in questo contesto.
Un aspetto critico della Silicon Photonics Initiative di Nvidia è il suo stretto allineamento con l’evoluzione della piattaforma Coupé di TSMC (Compact Universal Photonic Engine). Con l’avanzare della piattaforma di TSMC nei prossimi anni, le piattaforme CPO di NVIDIA dovrebbero migliorare di conseguenza. La prima generazione della coupé di TSMC è costruita impilando un circuito integrato elettronico a 65 Nm (EIC) con un circuito integrato fotonico (PIC) utilizzando la tecnologia di imballaggio SOIC-X dell’azienda.
La roadmap della coupé TSMC è divisa in tre fasi di sviluppo. La generazione iniziale prevede un motore ottico progettato per i connettori OSFP, fornendo trasferimento di dati di 1,6 TB/s riducendo contemporaneamente il consumo di energia. La seconda generazione incorpora l’imballaggio Cowos con ottica co-confezionata, con conseguente velocità di trasferimento dei dati di 6,4 TB/s a livello di scheda madre. La terza generazione è progettata per ottenere 12,8 TB/s all’interno di pacchetti di processore e mira a ridurre ulteriormente il consumo di energia e la latenza.
