Jensen Huang veut apporter l’IA générative à tous les centres de données, a déclaré le cofondateur et PDG de Nvidia lors du Computex à Taipei aujourd’hui. Au cours de son discours, le premier discours public de Huang depuis près de quatre ans, il a fait une série d’annonces, y compris la sortie de super puces et des partenariats avec des entreprises majeures. Voici toutes les informations concernant ce discours de deux heures.
- Le GPU GForce RTX 4080 Ti de Nvidia destiné aux joueurs est désormais en pleine production et produit en « grandes quantités » avec des partenaires à Taïwan.
2. Huang a annoncé le Nvidia Avatar Cloud Engine (ACE) pour les jeux, un service de fonderie de modèles d’IA personnalisables avec des modèles pré-entraînés pour les développeurs de jeux. Il donnera plus de caractère aux PNJ grâce à des interactions linguistiques pilotées par l’IA.
3. Le modèle de calcul Cuda de Nvidia sert désormais quatre millions de développeurs et plus de 3 000 applications. Cuda a été téléchargé 40 millions de fois, dont 25 millions rien que l’année dernière.
4. La production à grande échelle du serveur GPU HGX H100 a commencé et est fabriquée par « des entreprises de tout Taïwan », a déclaré M. Huang. Il a ajouté qu’il s’agissait du premier ordinateur au monde doté d’un moteur à transformateur.
5. M. Huang a qualifié l’acquisition par Nvidia en 2019 du fabricant de puces pour superordinateurs Mellanox pour 6,9 milliards de dollars de « l’une des plus grandes décisions stratégiques » qu’elle ait jamais prises.
6. La production de la prochaine génération de GPU Hopper commencera en août 2024, exactement deux ans après le début de la fabrication de la première génération.
7. La GH200 Grace Hopper de Nvidia est maintenant en pleine production. La super puce booste 4 PetaFIOPS TE, 72 CPU Arm connectés par un lien puce à puce, 96GB HBM3 et 576 GPU de mémoire. Huang l’a décrit comme le premier processeur de calcul accéléré au monde qui dispose également d’une mémoire géante : « Il s’agit d’un ordinateur, pas d’une puce. Il est conçu pour les applications de centres de données à haute résilience.
8. Si la mémoire du Grace Hopper ne suffit pas, Nvidia a la solution : le DGX GH200. Il s’agit d’abord de connecter huit Grace Hopper ensemble avec trois commutateurs NVLINK, puis de connecter les pods à 900 Go ensemble. Enfin, 32 sont reliés ensemble, avec une autre couche de commutateurs, pour connecter un total de 256 puces Grace Hopper. Le moteur de transformation ExaFLOPS qui en résulte dispose d’une mémoire GPU de 144 To et fonctionne comme un GPU géant. Huang a déclaré que le Grace Hopper est si rapide qu’il peut faire fonctionner la pile 5G dans le logiciel. Google Cloud, Meta et Microsoft seront les premières entreprises à avoir accès au DGX GH200 et à effectuer des recherches sur ses capacités.
9. Nvidia et SoftBank ont conclu un partenariat pour introduire la super puce Grace Hopper dans les nouveaux centres de données distribués de SoftBank au Japon. Ils pourront héberger des applications d’IA générative et sans fil dans une plateforme de serveur commune multi-locataire, réduisant ainsi les coûts et l’énergie.
10. Le partenariat SoftBank-Nvidia sera basé sur l’architecture de référence MGX de Nvidia, qui est actuellement utilisée en partenariat avec des entreprises à Taïwan. Elle offre aux fabricants de systèmes une architecture de référence modulaire qui les aide à construire plus de 100 variantes de serveurs pour l’IA, l’informatique accélérée et les utilisations omniverselles. Parmi les entreprises participant au partenariat figurent ASRock Rack, Asus, Gigabyte, Pegatron, QCT et Supermicro.
11. Huang a annoncé la plate-forme de réseau accéléré Spectrum-X pour augmenter la vitesse des nuages basés sur Ethernet. Elle comprend le commutateur Spectrum 4, qui possède 128 ports de 400 Go par seconde et 51,2 T par seconde. Le commutateur est conçu pour permettre un nouveau type d’Ethernet, a déclaré Huang, et a été conçu de bout en bout pour effectuer un routage adaptatif, isoler les performances et faire de l’informatique in-fabric. Il comprend également le Bluefield 3 Smart Nic, qui se connecte au commutateur Spectrum 4 pour effectuer le contrôle de la congestion.
12. WPP, la plus grande agence de publicité au monde, s’est associée à Nvidia pour développer un moteur de contenu basé sur Nvidia Omniverse. Il sera capable de produire des photos et du contenu vidéo à utiliser dans la publicité.
13. La plateforme robotique Nvidia Isaac ARM est désormais disponible pour tous ceux qui veulent construire des robots, et elle est complète, des puces aux capteurs. Isaac ARM commence par une puce appelée Nova Orin et constitue la première pile de référence complète pour la robotique, a déclaré M. Huang.
Grâce en grande partie à son importance dans l’informatique de l’IA, l’action de Nvidia a grimpé en flèche au cours de l’année écoulée, et sa valorisation boursière est actuellement d’environ 960 milliards de dollars, ce qui en fait l’une des entreprises les plus précieuses au monde (seules Apple, Microsoft, Saudi Aramco, Alphabet et Amazon sont mieux classées).