Nous vivons une époque étrange où c’est un milliardaire de la blockchain, et non les suspects habituels de la Big Tech, qui fournit la capacité de calcul nécessaire au développement de l’IA générative.
Il a été révélé hier que Jed McCaleb, cofondateur des startups de la blockchain Stellar, Ripple et Mt Gox et de la société aérospatiale Vast, a lancé une organisation à but non lucratif 501(c)(3) qui a acheté 24 000 GPU Nvidia H100 pour construire des centres de données qui loueront de la capacité à des projets d’IA.
D’ores et déjà, la grappe de GPU – dont la valeur est estimée à un demi-milliard de dollars et qui compte parmi les plus grandes au monde – est utilisée par les startups Imbue et Character.ai pour l’expérimentation de modèles d’IA, affirme Eric Park, PDG d’une organisation nouvellement créée, Voltage Park, qui est chargée d’exploiter et de gérer les centres de données.
« L’objectif était de débloquer l’accès aux startups, aux scale-ups et aux organismes de recherche qui sont actuellement bloqués dans cet espace en raison de contrats restrictifs, de la rareté des GPU et de seuils d’achat minimum élevés, afin qu’ils puissent accéder aux ressources vitales dont ils ont besoin pour innover », a déclaré Park à TechCrunch lors d’une interview par courrier électronique. « Nous continuons à discuter avec les gens de l’industrie pour comprendre leurs besoins et nous utilisons ce que nous apprenons pour informer la façon dont nous construisons nos clusters restants afin qu’ils soient utiles au plus grand nombre de clients possible ».
La plupart des modèles de formation des entreprises, en particulier les modèles d’IA générative tels que ChatGPT et Stable Diffusion, s’appuient fortement sur le matériel basé sur les GPU. La capacité des GPU à effectuer de nombreux calculs en parallèle les rend bien adaptés à l’entraînement – et au service – de l’IA la plus performante d’aujourd’hui.
Mais il n’y a pas assez de puces pour tout le monde.
Microsoft est confronté à une pénurie de matériel serveur nécessaire à l’exécution de l’IA, si grave qu’elle pourrait entraîner des interruptions de service, a averti l’entreprise dans un rapport sur les résultats de l’été. Et certaines des cartes d’IA les plus performantes de Nvidia seraient épuisées jusqu’en 2024.
« La pénurie de calcul de pointe est terrible « , a déclaré M. Park. « Je discute avec des entreprises de toutes tailles – startups, scale-ups et grands laboratoires – et presque toutes me disent qu’elles n’ont pas assez de H100 pour entraîner leurs modèles. Il y a une difficulté supplémentaire pour les startups et les scale-ups qui ne peuvent pas signer les contrats importants que de nombreux clouds exigent pour accéder à ces puces, et cela limite vraiment l’innovation en matière d’IA. »
Voltage Park a été créé dans le cadre d’une structure quelque peu inhabituelle.
McCaleb a créé une association à but non lucratif, le Navigation Fund, à laquelle il a fait un don. Le Navigation Fund a ensuite acheté les H100 susmentionnés – en payant « l’intégralité des taxes de vente et d’utilisation », malgré le statut ostensiblement non lucratif du Navigation Fund – et a transféré la propriété des GPU à à but lucratif Voltage Park, qui est techniquement une filiale du Fonds de navigation.
« Le conseil d’administration de Navigation a déterminé qu’une filiale à but lucratif serait mieux à même de mettre en place des opérations spécialisées pour gérer un cluster de cette envergure », a déclaré un porte-parole du Fonds de Navigation à TechCrunch dans un courriel. « Ils ont créé Voltage Park à cette fin et ont transféré la propriété des GPU dans le cadre de l’apport initial de capital. Il y avait de bonnes raisons stratégiques de le faire. Une filiale serait mieux placée pour saisir l’opportunité du marché autour de l’informatique de pointe, tandis que le Fonds de navigation pourrait se concentrer exclusivement sur sa mission et sur l’octroi de subventions caritatives. »
Le porte-parole a ajouté que M. McCaleb ne possède pas, ne dirige pas et ne tire pas de bénéfices du Navigation Fund ou de Voltage Park, basés à Brooklyn (New York), qui sont gérés par des équipes de direction distinctes et ont des conseils d’administration indépendants. On peut supposer que la donation de M. McCaleb présente un avantage fiscal considérable, même si l’organisation à but non lucratif bénéficiaire redonne immédiatement les actifs à Voltage Park.
Voltage Park ne sera pas le seul projet du Fonds de navigation. Le porte-parole l’a décrit comme une fondation à but non lucratif « à long terme » qui s’intéresse à divers secteurs, notamment le bien-être des animaux d’élevage, la réforme de la justice pénale, la science ouverte, le climat et la sécurité de l’intelligence artificielle, et qui soutiendra « des organisations, des activistes, des défenseurs et des entrepreneurs ».
Le Fonds de navigation a encore du chemin à parcourir avant de se lancer dans l’une ou l’autre de ces entreprises. Il ne semble pas encore être officiellement enregistré en tant qu’organisation à but non lucratif ; lorsque TechCrunch a consulté un expert la semaine dernière pour effectuer une recherche sur le Fonds de Navigation dans deux bases de données standard de l’industrie, Charity Navigator et GuideStar, l’expert n’a pas pu trouver d’inscription. Et le président du Navigation Fund, David Coman-Hidy, n’a rejoint l’organisation qu’en août.
Il ne s’agit pas de suggérer une quelconque irrégularité. Il se peut que le Fonds de navigation ait déposé ses documents en bonne et due forme, mais que l’IRS n’ait pas encore eu le temps de les traiter.
Quel que soit le statut fiscal du Navigation Fund, un pourcentage des bénéfices de Voltage Park sera reversé au Navigation Fund pour soutenir sa mission philanthropique, a précisé le porte-parole.
Le cluster complet de Voltage Park n’est pas encore en ligne. Mais lorsqu’il le sera vers la fin de l’année (si tout se passe comme prévu), il sera en ligne dans trois États : le Texas, la Virginie et l’État de Washington. Park précise qu’une « part importante » sera réservée aux startups et aux développeurs en phase de démarrage et que la capacité sera disponible à la fois pour des locations à court terme et pour une facturation à l’heure.
« Nous avons créé Voltage Park pour permettre à un large éventail d’entreprises de s’asseoir à la table (de l’IA) », a déclaré M. Park. « Nous offrons actuellement une infrastructure de formation à l’apprentissage machine bare-metal, mais notre mission est plus large – nous voulons rendre l’apprentissage machine accessible à un public plus large en abaissant la barrière à l’entrée. Cela peut inclure des services supplémentaires construits au-dessus de notre infrastructure. Nous n’en sommes qu’aux débuts de cette industrie et nous nous adapterons au fur et à mesure que le domaine se développera et gagnera en maturité. »