Gradient, une startup qui permet aux développeurs de créer et de personnaliser des applications d’IA dans le nuage en utilisant de grands modèles de langage (LLM), est sortie aujourd’hui de la clandestinité avec un financement de 10 millions de dollars mené par Wing VC avec la participation de Mango Capital, Tokyo Black, The New Normal Fund, Secure Octane et Global Founders Capital.
Chris Change, PDG de Gradient, a cofondé la société avec Mark Huang et Forrest Moret il y a plusieurs mois, alors qu’il travaillait sur des produits d’IA dans des entreprises de Big Tech telles que Netflix, Splunk et Google. Le trio s’est rendu compte que les LLM tels que le GPT-4 d’OpenAI pouvaient être transformateurs pour les entreprises, mais il pensait que pour tirer le meilleur parti des LLM, il fallait créer un moyen fiable d’y ajouter des données privées et exclusives.
« Traditionnellement, les équipes se sont concentrées sur l’amélioration d’un modèle unique et généraliste – et les solutions existantes soutiennent ce modèle », a déclaré Chang à TechCrunch par courrier électronique. « C’est en grande partie parce qu’il était trop complexe de gérer des systèmes multi-modèles. Cependant, s’appuyer sur un seul modèle est sous-optimal car il y a un compromis inévitable dans la performance spécifique à la tâche. »
Chang, Huang et Moret ont donc conçu Gradient pour permettre aux équipes de déployer plus facilement des LLM « spécialisés » et affinés à grande échelle. La plateforme fonctionne dans le nuage, ce qui permet à une organisation de développer et d’intégrer jusqu’à des « milliers » de LLM dans un seul système, explique M. Chang.
Les clients de Gradient n’ont pas besoin de former des LLM à partir de zéro. La plateforme héberge un certain nombre de LLM open source, dont Llama 2 de Meta, que les utilisateurs peuvent adapter à leurs besoins. Gradient propose également des modèles destinés à des cas d’utilisation particuliers (comme le rapprochement de données, la collecte de contexte et le traitement des documents administratifs) et à des secteurs d’activité (comme la finance et le droit).
Gradient peut héberger et servir des modèles par le biais d’une API à la Hugging Face, CoreWeave et d’autres fournisseurs d’infrastructure d’IA. Il peut également déployer des systèmes d’IA dans l’environnement de cloud public d’une organisation, qu’il s’agisse de Google Cloud Platform, d’Azure ou d’AWS.
Dans les deux cas, les clients conservent « l’entière propriété » et le contrôle de leurs données et des modèles formés, explique M. Chang.
« Les obstacles au développement sont beaucoup trop importants pour l’IA aujourd’hui », ajoute-t-il. « La création d’une IA personnalisée et performante est inaccessible en raison de la complexité et du coût élevés de la mise en place de l’infrastructure nécessaire et du développement de nouveaux modèles. Nous avons constaté que la grande majorité des entreprises comprennent la valeur que l’IA peut apporter à leur activité, mais peinent à la concrétiser en raison de la complexité de l’adoption. Notre plateforme simplifie radicalement l’exploitation de l’IA pour une entreprise, ce qui constitue une énorme valeur ajoutée. »
Maintenant, vous pouvez vous demander – comme l’a fait ce journaliste – ce qui différencie Gradient des autres startups qui conçoivent des outils pour coupler les LLM avec des données internes. Et qu’en est-il des nombreuses autres entreprises qui personnalisent déjà les LLM pour les entreprises clientes en tant que service ? C’est une question raisonnable.
Prenons l’exemple de Reka, qui est récemment sortie de la clandestinité pour travailler avec des entreprises à la création d’applications personnalisées basées sur les LLM. Writer permet aux clients d’affiner les LLM sur leurs propres contenus et guides de style. Contextual AI, Fixie et LlamaIndex, qui sont récemment sortis de la clandestinité, développent des outils permettant aux entreprises d’ajouter leurs propres données aux LLM existants. Enfin, Cohere forme des LLM en fonction des spécifications des clients.
Ils ne sont pas les seuls. OpenAI propose une gamme d’outils de mise au point de modèles, tout comme des acteurs historiques tels que Google (via Vertex AI), Amazon (via Bedrock) et Microsoft (via le service Azure OpenAI).
M. Chang explique que Gradient est l’une des rares plateformes qui permet aux entreprises de « produire » plusieurs modèles à la fois. Et, affirme-t-il, elle est abordable – la plateforme est tarifée à la demande, de sorte que les utilisateurs ne paient que pour l’infrastructure qu’ils utilisent. (Les clients plus importants ont la possibilité de payer pour une capacité dédiée).
Même si Gradient n’est pas radicalement différent de ses rivaux dans l’espace de développement des LLM, il devrait bénéficier – et bénéficie déjà – de l’afflux massif d’intérêt autour de l’IA générative, y compris les LLM. Selon Crunchbase, près d’un cinquième du total des fonds de capital-risque mondiaux de cette année provient du seul secteur de l’IA. Et PitchBook prévoit que le marché de l’IA générative atteindra 42,6 milliards de dollars en 2023.
Gradient facilite grandement le développement de systèmes d’IA complexes qui s’appuient sur de nombreux « LLM experts ». « Cette approche garantit que le système d’IA atteint constamment les meilleures performances pour chaque tâche, le tout dans une plateforme unique… Notre plateforme est conçue pour permettre aux équipes de déployer très facilement des LLM spécialisés, spécialement conçus pour leurs problèmes spécifiques, de manière plus efficace. »
Gradient affirme travailler actuellement avec une vingtaine d’entreprises clientes comptant des « milliers » d’utilisateurs. Son objectif à court terme est de faire évoluer le backend en nuage et de faire passer son équipe de 17 employés à temps plein à 25 d’ici la fin de l’année.