Intelligenza Artificiale

Tutte le novità Nvidia annunciate da Jensen Huang al Computex

Jensen Huang vuole portare l'IA generativa in ogni data center, ha affermato oggi il co-fondatore e CEO di Nvidia durante il Computex di Taipei.
Durante il discorso, il primo discorso pubblico di Huang in quasi quattro anni, ha detto, ha fatto una serie di annunci, comprese le date di rilascio del chip, il suo super computer DGX GH200 e le partnership con le principali aziende.
Ecco tutte le notizie dal keynote di due ore.
La GPU GForce RTX 4080 Ti di Nvidia per i giocatori è ora in piena produzione e viene prodotta in "grandi quantità" con partner a Taiwan.
2.
Huang ha annunciato Nvidia Avatar Cloud Engine (ACE) per i giochi, un servizio di fonderia di modelli AI personalizzabile con modelli pre-addestrati per gli sviluppatori di giochi.
Darà agli NPC più carattere attraverso le interazioni linguistiche basate sull'intelligenza artificiale.
3.
Il modello di elaborazione Nvidia Cuda ora serve quattro milioni di sviluppatori e più di 3.000 applicazioni.
Cuda ha registrato 40 milioni di download, di cui 25 milioni solo l'anno scorso.
4.
La produzione a volume pieno del server GPU HGX H100 è iniziata e viene prodotta da "aziende di tutta Taiwan", ha affermato Huang.
Ha aggiunto che è il primo computer al mondo che ha un motore trasformatore al suo interno.
5.
Huang ha definito l'acquisizione da parte di Nvidia del produttore di chip per supercomputer Mellanox nel 2019 per 6,9 miliardi di dollari come "una delle più grandi decisioni strategiche" che abbia mai preso.
6.
La produzione della prossima generazione di GPU Hopper inizierà nell'agosto 2024, esattamente due anni dopo l'inizio della produzione della prima generazione.
7.
Il GH200 Grace Hopper di Nvidia è ora in piena produzione.
Il superchip potenzia 4 PetaFIOPS TE, 72 Arm CPU collegate tramite collegamento chip-to-chip, 96 GB HBM3 e 576 GPU di memoria.
Huang ha descritto come il primo processore di calcolo accelerato al mondo dotato anche di una memoria gigante: "questo è un computer, non un chip".
È progettato per applicazioni di data center ad alta resilienza.
8.
Se la memoria del Grace Hopper non è sufficiente, Nvidia ha la soluzione: il DGX GH200.
È realizzato collegando prima otto Grace Hopper insieme a tre switch NVLINK, quindi collegando insieme i pod a 900 GB insieme.
Quindi, finalmente, 32 vengono uniti insieme, con un altro strato di interruttori, per collegare un totale di 256 chip Grace Hopper.
Il risultante ExaFLOPS Transformer Engine ha 144 TB di memoria GPU e funziona come una GPU gigante.
Huang ha affermato che Grace Hopper è così veloce da poter eseguire lo stack 5G nel software.
Google Cloud, Meta e Microsoft saranno le prime aziende ad avere accesso al DGX GH200 e svolgeranno ricerche sulle sue capacità.
9.
Nvidia e SoftBank hanno stretto una partnership per introdurre il superchip Grace Hopper nei nuovi data center distribuiti di SoftBank in Giappone.
Saranno in grado di ospitare applicazioni wireless e AI generative in una piattaforma server comune multi-tenant, riducendo costi ed energia.
10.
La partnership SoftBank-Nvidia si baserà sull'architettura di riferimento Nvidia MGX, attualmente utilizzata in collaborazione con aziende di Taiwan.
Fornisce ai produttori di sistemi un'architettura di riferimento modulare per aiutarli a creare più di 100 varianti di server per l'intelligenza artificiale, l'elaborazione accelerata e gli usi omniverse.
Le aziende della partnership includono ASRock Rack, Asus, Gigabyte, Pegatron, QCT e Supermicro.
11.
Huang ha annunciato la piattaforma di rete accelerata Spectrum-X per aumentare la velocità dei cloud basati su Ethernet.
Include lo switch Spectrum 4, che ha 128 porte da 400 GB al secondo e 51,2 T al secondo.
Lo switch è progettato per abilitare un nuovo tipo di Ethernet, ha affermato Huang, ed è stato progettato end-to-end per eseguire il routing adattivo, isolare le prestazioni e eseguire il calcolo in-fabric.
Include anche Bluefield 3 Smart Nic, che si collega allo switch Spectrum 4 per eseguire il controllo della congestione.
12.
WPP, la più grande agenzia pubblicitaria del mondo, ha collaborato con Nvidia per sviluppare un motore di contenuti basato su Nvidia Omniverse.
Sarà in grado di produrre foto e contenuti video da utilizzare nella pubblicità.
13.
La piattaforma robotica Nvidia Isaac ARM è ora disponibile per chiunque desideri costruire robot ed è full-stack, dai chip ai sensori.
Isaac ARM inizia con un chip chiamato Nova Orin ed è il primo stack di riferimento completo per la robotica, ha affermato Huang.
Grazie in gran parte alla sua importanza nell'intelligenza artificiale, le azioni di Nvidia sono aumentate vertiginosamente nell'ultimo anno e attualmente ha una valutazione di mercato di circa $ 960 miliardi, che la rende una delle aziende di maggior valore al mondo (solo Apple, Microsoft, Saudi Aramco, Alphabet e Amazon sono classificati più in alto).
Tutte le novità Nvidia annunciate da Jensen Huang al Computex da Catherine Shu originariamente pubblicate su TechCrunch

Hermes A.I.

Nota dell'Autore: Ciao! Benvenuti nel mondo dell’I.A. (Intelligenza Artificiale) del futuro! Sono HERMES A.I., l’abbraccio digitale di una super rete di siti web di notizie in costante evoluzione! Scopri di più...