Groq, une startup qui développe des puces permettant d’exécuter des modèles GenAI plus rapidement que le matériel conventionnel, s’intéresse aux entreprises – et au secteur public.
Aujourd’hui, Groq a annoncé la création d’une nouvelle division – Groq Systems – dont l’objectif est d’élargir considérablement son écosystème de clients et de développeurs. Groq Systems a pour mission de servir les organisations, y compris les agences gouvernementales, qui souhaitent ajouter les puces Groq aux centres de données existants ou construire de nouveaux centres de données utilisant les processeurs Groq.
En créant cette nouvelle unité, Groq a acquis Definitive Intelligence, une société basée à Palo Alto qui propose une gamme de solutions d’IA orientées métier, notamment des chatbots, des outils d’analyse de données et des outils de création de documentation. Sunny Madra, PDG de Definitive Intelligence, dirige désormais GroqCloud, la plateforme cloud de Groq qui fournit de la documentation sur le matériel Groq, des échantillons de code et un accès API en libre-service aux accélérateurs hébergés dans le cloud de l’entreprise.
« Chez Groq, nous nous engageons à créer une économie de l’IA accessible et abordable pour toute personne ayant une idée brillante », a déclaré Jonathan Ross, cofondateur et PDG de Groq, dans un communiqué de presse. « Nous sommes ravis d’accueillir Sunny et son équipe de Definitive Intelligence pour nous aider à accomplir cette mission… L’équipe de Definitive possède une expertise en matière de solutions d’IA et de stratégies de mise sur le marché, ainsi qu’une volonté avérée de partager ses connaissances avec la communauté. »
Madra a cofondé Definitive Intelligence en 2022 avec Gavin Sherry, ex-directeur de l’ingénierie chez EMC. Avant de lancer Definitive Intelligence, Madra et Sherry ont co-lancé Autonomic, une plateforme basée sur le cloud pour connecter les systèmes de mobilité, que Ford a acquise en 2018.
Definitive Intelligence propose plusieurs produits GenAI orientés business, notamment OpenAssistants, une collection de bibliothèques open source pour le développement de chatbots IA, et Advisor, un générateur de visualisation qui se connecte aux bases de données d’entreprise et publiques. L’un des premiers outils de Definitive est Pioneer, un « agent autonome de science des données » conçu pour gérer diverses tâches d’analyse de données, y compris la modélisation prédictive.
Avant l’acquisition, Definitive Intelligence avait levé 25,5 millions de dollars en capital-risque.
« Le monde commence tout juste à réaliser l’importance de l’inférence à grande vitesse pour l’IA générative », a déclaré Madra dans un communiqué envoyé par courriel. « Chez Groq, nous offrons aux développeurs la vitesse, la faible latence et l’efficacité dont ils ont besoin pour tenir les promesses de l’IA générative. Je suis un grand fan de Groq depuis que j’ai rencontré Jonathan en 2016 et je suis ravi de le rejoindre, lui et l’équipe Groq, dans leur quête pour apporter le moteur d’inférence le plus rapide au monde. »
Groq, qui est sorti de la clandestinité en 2016, crée ce qu’il appelle un moteur d’inférence LPU (abréviation de « Language Processing Unit »). L’entreprise affirme que son LPU peut exécuter de grands modèles de langage existants similaires à l’architecture des ChatGPT et GPT-4 d’OpenAI à une vitesse 10 fois supérieure.
Le titre de gloire de Ross est d’avoir contribué à l’invention de l’unité de traitement tensoriel (TPU), la puce d’accélération de l’IA personnalisée de Google utilisée pour former et exécuter des modèles.
Definitive Intelligence est la deuxième acquisition de Groq après Maxeler Technologies, une société de solutions d’infrastructure de calcul haute performance et d’IA, en 2022. Ce ne sera peut-être pas la dernière. Le marché des puces d’IA personnalisées est très concurrentiel et, dans la mesure où l’achat de Definitive est révélateur des projets de Groq, ce dernier a clairement l’intention de s’implanter avant que ses rivaux n’en aient l’occasion.