Giga ML veut aider les entreprises à déployer des LLM hors ligne

Giga ML veut aider les entreprises à déployer des LLM hors ligne

L’IA fait fureur – en particulier l’IA génératrice de texte, également connue sous le nom de grands modèles de langage (pensez à des modèles du type ChatGPT). Dans une enquête récente menée auprès d’environ 1 000 entreprises, 67,2 % d’entre elles ont déclaré que l’adoption de grands modèles de langage (LLM) était une priorité absolue d’ici le début de l’année 2024.

Mais des obstacles se dressent sur leur route. Selon cette même enquête, le manque de personnalisation et de flexibilité, associé à l’incapacité de préserver les connaissances et la propriété intellectuelle de l’entreprise, ont empêché – et empêchent toujours – de nombreuses entreprises de déployer des LLM en production.

Varun Vummadi et Esha Manideep Dinne se sont donc demandé à quoi pourrait ressembler une solution au problème de l’adoption des LLM par les entreprises. À la recherche d’une telle solution, ils ont fondé Giga ML, une startup qui développe une plateforme permettant aux entreprises de déployer des LLM sur site, en réduisant ostensiblement les coûts et en préservant la confidentialité dans le processus.

« La confidentialité des données et la personnalisation des LLM font partie des plus grands défis auxquels sont confrontées les entreprises lorsqu’elles adoptent les LLM pour résoudre leurs problèmes », a déclaré Vummadi à TechCrunch lors d’une interview par e-mail. « Giga ML relève ces deux défis.

Giga ML propose son propre ensemble de LLM, la « série X1 », pour des tâches telles que la génération de code et la réponse aux questions courantes des clients (par exemple, « Quand puis-je espérer recevoir ma commande ? »). La startup affirme que les modèles, construits sur le Llama 2 de Meta, surpassent les LLM populaires sur certains benchmarks, en particulier le test MT-Bench pour les dialogues. Mais il est difficile de dire comment X1 se compare qualitativement ; ce journaliste a essayé la démo en ligne de Giga ML mais s’est heurté à des problèmes techniques. (L’application s’arrêtait au bout d’un certain temps, quelle que soit l’invite que je saisissais).

A lire aussi  Stability AI lance Stable Doodle, un outil de conversion d'esquisses en images

Même si les modèles de Giga ML sont supérieurs à certains égards, cependant, peuvent-ils vraiment faire une percée dans l’océan des LLM en ligne et à source ouverte ?

En discutant avec Vummadi, j’ai eu l’impression que Giga ML ne cherche pas tant à créer les LLM les plus performants du marché qu’à mettre au point des outils permettant aux entreprises d’affiner les LLM localement sans avoir à recourir à des ressources et à des plates-formes tierces.

« La mission de Giga ML est d’aider les entreprises à déployer efficacement et en toute sécurité des LLM sur leur propre infrastructure sur site ou sur un nuage privé virtuel », a déclaré M. Vummadi. « Giga ML simplifie le processus de formation, de mise au point et de fonctionnement des LLM en s’en chargeant par le biais d’une API facile à utiliser, éliminant ainsi tous les tracas associés. »

M. Vummadi a mis l’accent sur les avantages en matière de protection de la vie privée qu’offre l’exécution de modèles hors ligne, avantages susceptibles de convaincre certaines entreprises.

Predibase, la plateforme de développement d’IA à code bas, a constaté que moins d’un quart des entreprises se sentent à l’aise d’utiliser des LLM commerciaux en raison des préoccupations liées au partage de données sensibles ou propriétaires avec les fournisseurs. Près de 77 % des personnes interrogées dans le cadre de l’enquête ont déclaré qu’elles n’utilisaient pas ou ne prévoyaient pas d’utiliser des LLM commerciaux au-delà des prototypes en production, en invoquant des problèmes liés à la confidentialité, au coût et au manque de personnalisation.

A lire aussi  Lorsque vous regardez l'IA, l'IA vous regarde aussi.

« Les responsables informatiques au niveau de la direction générale trouvent les offres de Giga ML intéressantes en raison du déploiement sécurisé sur site des LLM, des modèles personnalisables adaptés à leur cas d’utilisation spécifique et de l’inférence rapide, qui garantit la conformité des données et une efficacité maximale », a déclaré le directeur général de Giga ML. a déclaré M. Vummadi.

Giga ML, qui a recueilli à ce jour environ 3,74 millions de dollars de financement en capital-risque auprès de Nexus Venture Partners, Y Combinator, Liquid 2 Ventures, 8vdx et plusieurs autres, prévoit à court terme d’agrandir son équipe de deux personnes et d’accélérer la recherche et le développement de ses produits. Une partie du capital est également destinée à soutenir la base de clients de Giga ML, Vummadi, qui comprend actuellement des entreprises non nommées dans les domaines de la finance et de la santé.

IA