La conférence Nvidia GTC 2022 a été l’occasion pour la société de présenter son processeur graphique H100 et de teaser un supercalculateur.
Nvidia a annoncé une multitude de produits IA dédiés aux entreprises lors de sa conférence Nvidia GTC 2022. La société a livré des détails concernant son architecture Hopper et en a profité pour dévoiler le H100, le premier GPU pour data center utilisant cette nouvelle architecture. Nvidia a également introduit sa nouvelle « superpuce » Grace CPU et a déclaré travailler sur un supercalculateur nommé Eos, décrit comme le « supercalculateur IA le plus rapide au monde ».
Une architecture et un GPU pour booster les tâches IA
Nvidia a énormément profité du boom de l’intelligence artificielle ces dernières années, ses processeurs graphiques s’adaptant parfaitement bien aux méthodes d’apprentissage en profondeur sur des systèmes particulièrement gourmands en données. Alors que la demande du secteur de l’IA en matière de calcul de données augmente, le géant américain souhaite fournir toujours plus de puissance.
Nvidia affirme que sa nouvelle architecture Hopper contribuera à améliorer les performances des systèmes de machine learning. La société cite l’exemple du modèle d’apprentissage profond transformeur (Transformers en anglais). Hopper est spécialisée pour accélérer jusqu’à six fois l’apprentissage de ces modèles sur les nouveaux GPU H100 par rapport aux processeurs graphiques de la génération précédente. De plus, la technologie d’interconnexion de 4ème génération Nvidia NVlink peut connecter jusqu’à 256 GPU H100 avec une bande passante neuf fois supérieure à la génération précédente. Une jolie configuration en perspective !
Le processeur graphique H100 contient lui-même 80 milliards de transistors et est le premier GPU à prendre en charge le standard PCle Gen5 et à utiliser la mémoire DRAM HBM3, permettant une bande passante mémoire de 3 To/s. Nvidia dit pour résumer : « Pour l’entraînement de modèles Transformers géants, le H100 offrira des performances jusqu’à neuf fois supérieures, entraînant en quelques jours ce qui prenait des semaines auparavant ».
Une superpuce pour data center et un supercalculateur
Nvidia a également annoncé un nouveau processeur pour centre de données avec la puce Grace CPU Superchip. Elle se compose de deux CPU connectés directement via une nouvelle liaison NVLink-C2C à faible latence. La Grace CPU Superchip est conçue pour « servir des applications HPC et IA à grande échelle » aux côtés des nouveaux GPU basés sur l’architecture Hopper comme le H100. Elle peut être utilisée sur les systèmes uniquement CPU ou les serveurs accélérés par GPU. Elle possède 144 cœurs Arm et 1 To/s de bande passante mémoire.
Nvidia a également annoncé travailler sur un nouveau supercalculateur IA. La société annonce qu’il sera le plus rapide au monde une fois en service. Cette machine nommée Eos se basera sur l’architecture Hopper et embarquera pas moins de 4600 GPU H100 pour offrir 18,4 exaflops de performances IA. Ce système ne sera utilisé que pour la recherche interne de Nvidia et la société a déclaré qu’il serait en ligne dans quelques mois.
