Les services de chatbot qui tentent de se faire une place dans la myriade de canaux sur Discord et Slack ne manquent pas. La société californienne Gleen, fondée par des vétérans de Microsoft et de LinkedIn, propose son chatbot de niveau entreprise au segment le plus exigeant du marché – les communautés techniques, comme un canal d’infrastructure blockchain sur Discord, et elle a levé de nouveaux fonds pour travailler sur le produit.
L’objectif restreint est un bon début car il pousse Gleen à résoudre le problème le plus urgent dans les grands modèles de langage aujourd’hui : l’hallucination. L’hallucination, qui se produit lorsque l’intelligence artificielle invente de fausses informations mais répond avec assurance, est particulièrement importante pour les discussions portant sur des sujets ésotériques, car une réponse fausse mais assurée peut facilement induire les participants en erreur.
« Si quelqu’un dit que le prix d’Uniswap (le jeton de la bourse de crypto-monnaies décentralisée homonyme) va monter à 200 dollars, il peut s’agir d’une manipulation massive du marché », a déclaré Ashu Dubey, cofondateur et PDG de Gleen, lors d’une interview avec TechCrunch. « Nous avons décidé que nous allions résoudre ce problème particulier d’hallucination avant de pouvoir être un acteur sérieux, et nous l’avons donc résolu. »
La vision de Gleen a attiré des investisseurs du monde du logiciel établi et de la sphère cryptographique naissante lors de son tour de financement sursouscrit de 4,9 millions de dollars. Les investisseurs institutionnels comprennent Slow Ventures, 6th Man Ventures, South Park Commons, Spartan Group et Coinshares. Parmi la liste des investisseurs providentiels figurent Anatoly Yakovenko, cofondateur du réseau blockchain populaire Solana ; Mike Derezin, ancien directeur de l’exploitation du fournisseur de données blockchain Chainlink ; Will Papper, cofondateur du protocole d’investissement décentralisé Syndicate ; et ISM Angels.
Interrogé sur la concurrence, M. Dubey a fait valoir que de nombreux chatbots sur le marché ne sont que des « enveloppes » de ChatGPT et d’autres grands modèles de langage, de sorte que les réponses qu’ils donnent sont probablement les mêmes que celles obtenues en appelant l’API OpenAI.
Cette approche ne résout pas le problème des hallucinations. Au lieu de cela, Gleen a créé sa propre couche d’apprentissage automatique qui s’appuie sur les connaissances de l’entreprise et qui peut ensuite recouper les réponses du LLM afin d’éviter les hallucinations. Le LLM représente moins de 20 % de sa pile technologique ; le reste du travail concerne la manière dont Gleen stocke les données et dont son système propriétaire récupère les données pour générer la réponse la plus précise sur la base de la connaissance du domaine.
Une fois que le système de Gleen est sûr d’avoir une réponse, il l’envoie à différents LLM, qu’il s’agisse d’OpenAI, d’Anthropic ou d’un Llama perfectionné, pour générer une réponse. Au total, le modèle de Gleen a été entraîné sur 100 000 paires de questions et de réponses.
Le chatbot de Gleen interagit avec des utilisateurs sur Discord / Image : Gleen
« La recherche est notre propre algorithme propriétaire, et c’est là que se trouve notre sauce secrète », a déclaré le fondateur. « Les communautés et les entreprises dont le sujet est très technique ou dont la qualité de la réponse est très importante sont celles où nous obtenons la meilleure traction, car ces entreprises ou ces communautés savent ce que signifie une bonne réponse par rapport à une mauvaise réponse.
Chaque fois qu’il intègre un nouvel utilisateur, Gleen doit apprendre à connaître son domaine en glanant des données dans sa base de connaissances, ses forums, ses discussions Slack ou Discord. La capacité d’abstraire ces informations est l’une des forces de la startup, selon Dubey, car elle « (n’a) pas besoin d’une documentation très claire ».
Gleen a démarré en fournissant son chatbot Discord à un client de web3, bien qu’aujourd’hui elle génère plus de revenus à partir d’utilisateurs non cryptographiques. Dirigée par une équipe de huit employés, Gleen sert aujourd’hui plus de 10 clients qui paient en fonction du nombre de conversations générées pour le bot.
« L’assistance à la clientèle représente facilement un marché de 10 milliards de dollars », a déclaré M. Dubey. Gleen s’oriente vers le marché des moyennes entreprises et son objectif lointain est de « résoudre le problème du service client pour tout le monde, des petites boutiques aux très grandes entreprises ». La base d’utilisateurs initiale est très technique, mais l’entreprise souhaite devenir « indifférente à l’industrie » à l’avenir, ce qui constituera alors un véritable test de l’adaptabilité de son système d’IA.
À l’avenir, Gleen prévoit de consacrer ses nouveaux fonds à la construction, aux ventes et au marketing. Une grande partie de sa stratégie de commercialisation consistera à éduquer les utilisateurs sur les questions relatives aux hallucinations, à la sécurité et à la conformité dans le domaine de l’IA générative, selon M. Dubey.
« Bien que nous ayons une force de vente, l’inbound continuera d’être notre principal canal. C’est aussi une position très défendable pour l’avenir », a-t-il déclaré.
L’orientation de Gleen est déterminée non seulement par l’évolution rapide des technologies d’IA qu’elle exploite, mais aussi par le type de ses clients, c’est-à-dire les entreprises qui, comme elle, sont confrontées à des technologies de pointe en constante évolution. La nature imprévisible de ces variables représente l’un des plus grands défis de la startup.
« En tant que PDG, vous investissez dans une technologie particulière ou vous mettez un produit sur le marché. Mais que se passe-t-il si la technologie sous-jacente change complètement dans un an ? Vous devez repartir de zéro », a déclaré M. Dubey.
« Si nous sommes à mi-chemin ou à 25 % dans la recherche, nous gardons un œil sur ce qu’il y a de mieux, de sorte que nous ne sommes pas attachés à la technologie. Nous ne sommes pas attachés à la technologie, mais au problème du client. Nous voulons résoudre le problème de l’assistance à la clientèle pour ces nouvelles entreprises qui se développent de la meilleure façon possible.