Enfabrica, une société qui construit des puces de mise en réseau conçues pour gérer les charges de travail d’IA et d’apprentissage automatique, a annoncé aujourd’hui avoir levé 125 millions de dollars dans le cadre d’un tour de financement de série B qui valorise la société à « cinq fois » sa valorisation post-money de série A, selon le cofondateur et PDG Rochan Sankar.
Menée par Atreides Management avec la participation de Sutter Hill Ventures, Nvidia, IAG Capital Partners, Liberty Global Ventures, Valor Equity Partners, Infinitum Partners et Alumni Ventures, cette nouvelle tranche porte le total des fonds levés par Enfabrica à 148 millions de dollars. Selon M. Sankar, cette somme servira à soutenir les activités de recherche et développement et les opérations d’Enfabrica, ainsi qu’à développer ses équipes d’ingénieurs, de vendeurs et de spécialistes du marketing.
« Il est remarquable qu’Enfabrica ait levé un fonds de cette ampleur dans un environnement de financement très difficile pour les startups de puces – et la deeptech financée par le capital-risque en général – et que, ce faisant, elle se soit distinguée de la plupart de ses pairs dans l’industrie des puces », a déclaré Sankar. « Alors que l’IA générative et les grands modèles de langage continuent d’être à l’origine de la plus grande poussée d’infrastructure dans l’informatique en nuage dans une multitude d’industries, des solutions comme celles d’Enfabrica ont le potentiel de répondre à une très forte demande pour les technologies de mise en réseau. »
Enfabrica est peut-être sortie de la clandestinité en 2023, mais elle a commencé son voyage en 2020. M. Sankar, ancien directeur de l’ingénierie chez Broadcom, s’est associé à Shrijeet Mukherjee, qui dirigeait auparavant les plateformes et l’architecture réseau chez Google, pour créer une startup – Enfabrica – afin de répondre à ce qu’ils considéraient comme une croissance de l’appétit de l’industrie de l’IA pour une infrastructure « parallèle, accélérée et hétérogène » – en d’autres termes, les GPU.
« Nous avons pensé que le silicium et les systèmes de mise en réseau devaient suivre un changement de paradigme similaire pour permettre ce type d’infrastructure de calcul à grande échelle », a déclaré M. Sankar. « Le plus grand défi posé par la révolution actuelle de l’IA est la mise à l’échelle de l’infrastructure de l’IA – à la fois en termes de coût de calcul et de durabilité du calcul.
Avec Sankar comme PDG et Mukherjee comme directeur du développement, ainsi que quelques ingénieurs fondateurs issus d’entreprises telles que Cisco, Meta et Intel, Enfabrica a commencé à développer une architecture pour les puces de réseau qui pourrait répondre aux exigences en matière d’E/S et de « mouvement de la mémoire » des charges de travail parallèles, y compris l’IA.
M. Sankar affirme que les puces de mise en réseau conventionnelles, telles que les commutateurs, peinent à répondre aux besoins de mouvement des données des charges de travail modernes de l’IA. Certains des modèles d’IA formés aujourd’hui, comme Llama 2 et GPT-4 de Meta, ingèrent d’énormes ensembles de données au cours du processus de formation – et les commutateurs de réseau peuvent finir par constituer un goulot d’étranglement, explique M. Sankar.
« Une grande partie du problème de mise à l’échelle et du goulot d’étranglement pour l’industrie de l’IA réside dans les sous-systèmes d’E/S, le mouvement de la mémoire et le réseau liés au calcul par le GPU », a-t-il déclaré. « Il existe un besoin massif de faire le lien entre la demande croissante de charges de travail d’IA et le coût global, l’efficacité, la durabilité et la facilité de mise à l’échelle des clusters de calcul sur lesquels elles s’exécutent. »
Dans sa quête de développement d’un matériel de mise en réseau supérieur, Enfabrica s’est concentrée sur la parallélisabilité.
Le matériel d’Enfabrica – qu’elle appelle Accelerated Compute Fabric Switch, ou ACF-S en abrégé – peut assurer un mouvement de données de plusieurs térabits par seconde entre les GPU, les CPU et les puces d’accélération de l’IA, en plus de la mémoire et des dispositifs de mise en réseau. Utilisant des interfaces « basées sur des standards », le matériel peut s’adapter à des dizaines de milliers de nœuds et réduire le calcul GPU pour un grand modèle de langage (comme le Llama 2) d’environ 50 pour cent pour le même point de performance, affirme Enfabric.
« Les dispositifs ACF-S d’Enfabrica complètent les GPU, les CPU et les accélérateurs en fournissant un réseau, des E/S et une mémoire efficaces et performants au sein d’un rack de serveur de centre de données », explique M. Sankar. « À cette fin, l’ACF-S est une solution convergente qui élimine le besoin de puces d’E/S et de mise en réseau disparates et traditionnelles, telles que les commutateurs de mise en réseau au niveau du rack, les contrôleurs d’interface de réseau de serveur et les commutateurs PCIe.
Représentation du matériel de mise en réseau ACF-S d’Enfabrica.
M. Sankar a également fait valoir que les dispositifs ACF-S peuvent être utiles aux entreprises qui gèrent l’inférence – c’est-à-dire l’exécution de modèles d’IA formés – en leur permettant d’utiliser le plus petit nombre possible de GPU, de CPU et d’autres accélérateurs d’IA. En effet, selon M. Sankar, l’ACF-S peut utiliser plus efficacement le matériel existant en déplaçant très rapidement de grandes quantités de données.
« L’ACF-S est indépendant du type et de la marque du processeur d’IA utilisé pour les calculs d’IA, ainsi que des modèles exacts déployés, ce qui permet de construire une infrastructure d’IA pour de nombreux cas d’utilisation différents et de prendre en charge plusieurs fournisseurs de processeurs sans verrouillage propriétaire », a-t-il ajouté.
Enfabrica est peut-être bien financée. Mais ce n’est pas la seule startup de puces de réseau à poursuivre la tendance de l’IA, il convient de le noter.
Cet été, Cisco a annoncé une gamme de matériel – les Silicon One G200 et G202 – pour prendre en charge les charges de travail de mise en réseau de l’IA. Pour leur part, Broadcom et Marvell – des opérateurs historiques dans le domaine des réseaux d’entreprise – proposent des commutateurs capables de fournir jusqu’à 51,2 térabits par seconde de bande passante ; Broadcom a récemment lancé la structure haute performance Jericho3-AI, qui peut se connecter à 32 000 GPU.
M. Sankar n’a pas souhaité parler des clients d’Enfabrica, car l’entreprise en est encore à ses débuts – une partie de la dernière tranche de financement servira à soutenir les efforts de production et de mise sur le marché d’Enfabrica. Néanmoins, M. Sankar affirme qu’Enfabrica est en position de force compte tenu de l’attention portée à l’infrastructure de l’IA et des investissements considérables qui y sont consacrés.
Selon le Dell’Oro Group, les investissements dans l’infrastructure de l’IA porteront les dépenses en capital des centres de données à plus de 500 milliards de dollars d’ici 2027. L’investissement dans le matériel adapté à l’IA au sens large devrait quant à lui connaître un taux de croissance annuel composé de 20,5 % au cours des cinq prochaines années, selon IDC.
« Le coût actuel et l’empreinte énergétique du calcul de l’IA, que ce soit sur site ou dans le cloud, est – ou sinon, devrait être – une priorité absolue pour chaque DSI, cadre de la suite C et organisation informatique qui déploie des services d’IA », a-t-il déclaré. « Malgré les vents économiques contraires qui ont affecté le monde des startups technologiques depuis la fin de 2022, Enfabrica a fait progresser son financement, son produit et son potentiel de marché grâce à une technologie substantiellement innovante et perturbatrice pour les solutions de puces d’E/S de réseau et de serveur existantes (et) à l’ampleur de l’opportunité de marché et du changement de paradigme technologique que l’IA générative et l’informatique accélérée ont fait naître au cours des 18 derniers mois. »
Enfabrica, basée à Mountain View, compte un peu plus de 100 employés en Amérique du Nord, en Europe et en Inde.