L’appétit pour le matériel permettant d’entraîner les modèles d’IA est vorace.
Selon McKinsey, les puces d’IA devraient représenter jusqu’à 20 % du marché total des semi-conducteurs de 450 milliards de dollars d’ici 2025. Et Insight Partners, la société de capital-risque, prévoit que les ventes de puces d’IA atteindront 83,3 milliards de dollars en 2027, contre 5,7 milliards de dollars en 2018, soit un taux de croissance annuel composé de 35 %. (C’est près de 10 fois le taux de croissance prévu pour les puces sans IA).
Par exemple, Tenstorrent, la startup de matériel d’IA dirigée par l’ingénieur Jim Keller, a annoncé cette semaine qu’elle avait levé 100 millions de dollars dans le cadre d’un tour de financement de billets convertibles co-dirigé par Hyundai Motor Group et Samsung Catalyst Fund.
Sur ce total, 50 millions de dollars proviennent des deux unités de construction automobile de Hyundai, Hyundai Motor (30 millions de dollars) et Kia (20 millions de dollars), qui prévoient de s’associer à Tenstorrent pour développer conjointement des puces, en particulier des processeurs et des coprocesseurs d’intelligence artificielle, pour les futurs véhicules de mobilité et les robots. Samsung Catalyst et d’autres fonds de capital-risque, notamment Fidelity Ventures, Eclipse Ventures, Epiq Capital et Maverick Capital, ont apporté les 50 millions de dollars restants.
Hyundai Motor Co. et Kia Corp. ont pris une participation dans Tenstorrent Inc. une start-up de Keller spécialisée dans les puces d’intelligence artificielle, en investissant ensemble 50 millions de dollars. L’investissement – 30 millions de dollars de Hyundai Motor et 20 millions de dollars de Kia – fait partie du cycle de financement de 100 millions de dollars de Tenstorrent.
Contrairement aux actions, une note convertible est une dette à court terme qui se convertit en actions à la suite d’un événement prédéterminé. La raison pour laquelle Tenstorrent a opté pour la dette plutôt que pour les actions n’est pas tout à fait claire, pas plus que l’évaluation de l’entreprise après la levée de fonds. (La dernière fois que Tenstorrent a levé 200 millions de dollars, l’entreprise était évaluée à plus de 2 milliards de dollars.
La tranche de billets convertibles, à laquelle ont participé Fidelity Ventures, Eclipse Ventures, Epiq Capital, Maverick Capital et d’autres, porte le total des fonds levés par Tenstorrent à 334,5 millions de dollars. M. Keller indique que cette somme sera affectée au développement de produits, à la conception et au développement de chiplets d’IA et à la feuille de route du logiciel d’apprentissage automatique de Tenstorrent.
Tenstorrent, dont le siège est à Toronto, vend des processeurs d’intelligence artificielle et accorde des licences pour des solutions logicielles d’intelligence artificielle et la propriété intellectuelle autour de RISC-V, l’architecture de jeu d’instructions open source utilisée pour développer des processeurs personnalisés pour toute une série d’applications.
Vue de haut en bas du matériel conçu sur mesure par Tenstorrent pour le traitement de l’intelligence artificielle.
Fondée en 2016 par Ivan Hamer (ancien ingénieur embarqué chez AMD), Ljubisa Bajic (ex-directeur de la conception de circuits intégrés chez AMD) et Milos Trajkovic (précédemment ingénieur de conception de micrologiciels chez AMD), Tenstorrent a très tôt déversé l’essentiel de ses ressources dans le développement de sa propre infrastructure interne. En 2020, Tenstorrent a annoncé Grayskull, un système tout-en-un conçu pour accélérer l’entraînement des modèles d’IA dans les centres de données, les clouds publics et privés, les serveurs sur site et les serveurs périphériques, avec les cœurs Tensix exclusifs de Tenstorrent.
Mais dans les années qui ont suivi, peut-être sous la pression d’opérateurs historiques comme Nvidia, Tenstorrent s’est recentrée sur les licences et les services et Bajic, qui était à la tête de l’entreprise, est lentement passé à un rôle de conseiller.
En 2021, Tenstorrent a lancé DevCloud, un service basé sur le cloud qui permet aux développeurs d’exécuter des modèles d’IA sans avoir à acheter de matériel. Plus récemment, la société a établi des partenariats avec Bodhi Computing, un constructeur de systèmes de serveurs basé en Inde, et avec LG pour intégrer les produits Tenstorrent dans les serveurs de Bodhi Computing et dans les produits automobiles et les téléviseurs de LG. (Dans le cadre de l’accord avec LG, Tenstorrent a déclaré qu’il travaillerait avec LG pour améliorer le traitement vidéo dans les prochains produits Tenstorrent pour centres de données).
Tenstorrent, qui ne manque pas d’ambition, a ouvert un bureau à Tokyo en mars afin de se développer au-delà de ses bureaux de Toronto, d’Austin et de la Silicon Valley.
La question est de savoir s’il pourra rivaliser avec les autres poids lourds de la course aux puces d’IA.
Google a créé un processeur, le TPU (abréviation de « tensor processing unit »), pour entraîner de grands systèmes d’IA générative tels que PaLM-2 et Imagen. Amazon propose des puces propriétaires aux clients AWS pour l’entraînement (Trainium) et l’inférence (Inferentia). Enfin, Microsoft travaillerait avec AMD pour développer une puce d’IA interne appelée Athena.
Nvidia, quant à elle, est brièvement devenue une entreprise de 1 000 milliards de dollars cette année, grâce à la demande de ses GPU pour l’apprentissage de l’IA. (Au deuxième trimestre 2022, Nvidia détenait 80 % du marché des GPU discrets). Les GPU, bien qu’ils ne soient pas nécessairement aussi performants que les puces d’IA conçues sur mesure, ont la capacité d’effectuer de nombreux calculs en parallèle, ce qui les rend bien adaptés à l’entraînement des modèles les plus sophistiqués aujourd’hui.
L’environnement a été difficile pour les startups et même pour les géants de la technologie, ce qui n’est pas surprenant. L’année dernière, le fabricant de puces d’IA Graphcore, dont l’évaluation aurait été réduite d’un milliard de dollars après l’échec d’un accord avec Microsoft, a déclaré qu’il prévoyait des suppressions d’emplois en raison de l’environnement macroéconomique « extrêmement difficile ». De son côté, Habana Labs, la société de puces d’IA détenue par Intel, a licencié environ 10 % de ses effectifs.
La pénurie de composants nécessaires à la fabrication des puces d’IA vient compliquer la situation. L’avenir nous dira, comme toujours, quels sont les fournisseurs qui sortiront vainqueurs.