Credal.ai, une startup soutenue par Y Combinator qui offre aux entreprises un moyen de connecter leurs données internes à des modèles d’IA générant du texte et hébergés dans le nuage, a levé 4,8 millions de dollars dans le cadre d’un tour d’amorçage mené par Spark Capital.
Credal a été fondée par Jack Fischer et Ravin Thambapillai, qui travaillaient auparavant chez Palantir et se sont rapprochés en raison de leur intérêt mutuel pour la sécurité et la conformité. M. Fischer est un ex-Googler, tandis que M. Ravin a appris à coder tout seul après avoir étudié la philosophie, la politique et l’économie à Oxford.
« Nous avons réalisé que, grâce à nos expériences en matière de sécurité des données d’entreprise et d’IA chez Palantir, nous étions dans une position unique pour construire une plateforme de données d’IA à laquelle les entreprises pourraient réellement faire confiance », a déclaré Fischer à TechCrunch lors d’une interview par e-mail.
Fischer et Thambapillai ont initialement entrepris de construire ce qu’ils décrivent comme un « assistant de prise de décision » pour les entreprises qui utiliserait de grands modèles de langage (LLM) – des modèles du type ChatGPT – pour lire des documents et donner des conseils sur les décisions stratégiques au niveau de la suite C. Mais le projet s’est finalement transformé en une plateforme de données d’IA. Mais le projet s’est finalement transformé en quelque chose de plus large : un outil permettant de connecter des données provenant de sources de données internes à des LLM externes.
Telle que la plateforme existe aujourd’hui, Credal peut être utilisée pour créer des chatbots alimentés par l’IA, qu’il s’agisse de connaissances générales ou spécifiques à un domaine, et ce pour toute une série de cas d’utilisation. Par exemple, une entreprise pourrait utiliser Credal pour créer un robot qui répondrait aux questions de sécurité concernant les logiciels dont elle détient la licence, en s’appuyant sur la documentation la plus récente.
Credal ne sert pas lui-même les LLM. Il se situe plutôt entre les utilisateurs qui soumettent des questions (par exemple « Quelle est la dernière version de ce logiciel ? ») et une API d’un fournisseur de LLM tiers comme OpenAI ou Anthropic, agissant comme un « co-pilote » qui peut être déployé dans des applications existantes comme Slack.
Credal tente de diriger automatiquement les invites vers le LLM « le plus approprié » si une entreprise en utilise plusieurs, en fonction de facteurs tels que la sensibilité des données soumises, le coût, la politique de l’entreprise et les capacités techniques d’un modèle. Dans certains cas, il utilise plus d’un LLM pour accomplir une tâche – par exemple en utilisant Claude et GPT-4 d’Anthropic pour structurer les documents de l’entreprise.
De nombreuses plateformes offrent des moyens de connecter les données d’entreprise aux LLM – voir Unstructured, Deasie et LlamaIndex. Et OpenAI développe son cadre de plugins intégrés. Mais la particularité de Credal est de mettre l’accent sur la conformité et la sécurité – du moins selon les dires de Fischer.
Credal tente d’expurger automatiquement, d’anonymiser et d’avertir lorsque des données sensibles sont sur le point d’être envoyées hors réseau, par exemple à un LLM hébergé sur un nuage public. Il fournit également des journaux qui indiquent quelles données ont été partagées avec quels LLM.
Données envoyées à Credal est est conservé par défaut et pendant 30 jours après l’expiration des comptes, ce qui peut faire réfléchir certaines entreprises. Mais les administrateurs peuvent changer cela et choisir d’effacer les données à tout moment, souligne M. Fischer.
M. Fischer affirme également que Credal est l’un des rares fournisseurs de ce type à être enregistré dans le cadre du Data Privacy Framework, le récent accord entre les États-Unis et l’Union européenne qui régit le transfert de données personnelles entre les deux pays. Cela lui a permis de remporter des contrats avec des entreprises européennes réglementées et cotées en bourse comme Wise, explique M. Fischer.
« Les services informatiques des entreprises veulent avoir une visibilité et un contrôle sur la manière dont l’IA est utilisée au sein de leur organisation », ajoute-t-il. « Credal leur donne (cette transparence) dans un format standard à travers de multiples fournisseurs de LLM, en fournissant des contrôles de données précis sur qui peut accéder à quels modèles, quelles données peuvent être utilisées par chaque utilisateur et à quelles fins … Contrairement à d’autres systèmes d’IA sur vos données, Credal reflète automatiquement les autorisations des systèmes sources auxquels il se connecte, de sorte que lorsqu’un utilisateur pose une question, l’IA répond uniquement à partir des documents de l’entreprise qui sont à la fois pertinents et pertinents. et accessible à cet utilisateur ».
Depuis son lancement en avril, M. Fischer affirme que Credal a traité plus d’un quart de million d’appels LLM et ingéré environ 100 000 documents d’entreprise. La société compte actuellement 11 clients, dont plusieurs ont signé des contrats à six chiffres, selon M. Fischer.
Avec le capital provenant du tour de table, Credal prévoit d’augmenter ses effectifs (qui sont actuellement de cinq personnes) et « d’étendre le produit pour couvrir davantage de sources de données et effectuer des recherches de données plus sophistiquées », explique M. Fischer.
« L’industrie de l’IA souffre actuellement d’un déséquilibre relatif entre l’énorme enthousiasme et le nombre encore relativement faible d’entreprises qui utilisent les LLM pour créer de la valeur dans le monde réel », a déclaré M. Fischer. « Credal résout ce problème en s’intégrant profondément dans un petit nombre d’entreprises extraordinaires et en résolvant leurs problèmes de bout en bout.