David Lazovsky et Preet Virk, deux technologues spécialisés dans l’ingénierie des semi-conducteurs et la photonique, ont réalisé ensemble il y a plusieurs années qu’il était possible de transférer des données en utilisant des interconnexions basées sur la lumière. AI Les charges de travail en matière d’IA et d’apprentissage automatique se heurteraient rapidement à un problème de « déplacement des données ». Ils ont prédit qu’il deviendrait de plus en plus difficile de déplacer les données vers et depuis le matériel de calcul à mesure que les modèles d’IA dépasseraient la capacité de stockage d’une puce mémoire.
Leur solution – conçue par Phil Winterbottom, auparavant chercheur aux célèbres Bell Labs – consistait en une technologie d’interconnexion optique pour la transmission de données entre ordinateurs, entre ordinateurs et mémoires et entre puces. Avec Winterbottom, Lazovsky et Virk ont fondé une startup, Celestial AI, pour commercialiser cette technologie. Aujourd’hui, cette startup attire de gros bailleurs de fonds.
Celestial AI a annoncé aujourd’hui qu’elle avait levé 100 millions de dollars dans le cadre d’un tour de table de série B mené par IAG Capital Partners, Koch Disruptive Technologies et le fonds Xora Innovation de Temasek. Cette tranche, qui porte le total des fonds levés par Celestial AI à plus de 165 millions de dollars, sera utilisée pour soutenir la production de la plateforme photonique de Celestial en développant les départements d’ingénierie, de vente et de marketing technique de l’entreprise, selon le PDG Lazovsky.
Celestial compte actuellement une centaine d’employés – un nombre qui, selon M. Lazovsky, devrait passer à 130 d’ici la fin de l’année.
« Aujourd’hui, le calcul et la mémoire sont étroitement liés. La seule façon d’ajouter de la mémoire à large bande passante est d’ajouter du calcul, que le calcul supplémentaire soit nécessaire ou non », a déclaré M. Lazovsky à TechCrunch par courrier électronique. « La technologie de Celestial permet de désagréger la mémoire.
Dans un centre de données, la mémoire est souvent l’une des ressources les plus coûteuses, en partie parce qu’elle n’est pas toujours utilisée efficacement. La mémoire étant liée au calcul, il est difficile – et parfois impossible, en raison des contraintes de bande passante et des temps de latence élevés – pour les opérateurs de « désagréger » et de mettre en commun la mémoire sur l’ensemble du matériel du centre de données.
Selon une étude interne de Microsoft, jusqu’à 25 % de la mémoire dans Azure est « bloquée », c’est-à-dire qu’il en reste après que les cœurs des serveurs ont été loués aux machines virtuelles. Selon l’entreprise, la réduction de cette mémoire stagnante pourrait réduire les coûts du centre de données de 4 à 5 % – des économies potentiellement importantes dans le contexte d’une opération de plusieurs milliards de dollars.
Celestial – qui a commencé en tant que société de portefeuille de The Engine, la société de capital-risque issue du MIT en 2016 – a développé une solution ostensible dans son architecture basée sur la photonique, qui s’étend sur des systèmes à puces multiples. En utilisant la lumière pour transférer des données, la technologie de Celestial peut diffuser des informations à l’intérieur des puces et de puce à puce, rendant la mémoire et le calcul disponibles pour les charges de travail d’IA – et autres.
Crédits images : Céleste
Celestial affirme également que sa technologie peut réduire la quantité d’électricité nécessaire à la circulation des données, ce qui augmente indirectement les performances d’une puce. En règle générale, les puces consacrent une partie de l’électricité qu’elles consomment à la circulation des données entre leurs circuits, ce qui réduit la quantité d’électricité que la puce peut consacrer aux tâches informatiques. La photonique de Celestial réduit la puissance requise pour le mouvement des données, ce qui permet à une puce d’augmenter sa puissance de calcul, du moins en théorie.
La technologie photonique de Celestial, qui est compatible avec la plupart des normes d’interconnexion de l’industrie (par exemple CXL, PCIe), offre une largeur de bande 25 fois supérieure et une latence et une consommation d’énergie 10 fois inférieures à celles des solutions optiques, affirme l’entreprise.
« Avec la croissance des IA En particulier pour les grands modèles de langage (LLM) et les charges de travail des moteurs de recommandation, on assiste à une évolution vers le calcul accéléré », a déclaré M. Lazovsky. « Le problème clé à l’avenir est la capacité de mémoire, la bande passante de la mémoire et le mouvement des données – c’est-à-dire l’interconnectivité puce à puce – ce à quoi nous nous attaquons avec la structure photonique de Celestial.
Celestial propose son produit d’interconnexion par le biais d’un programme de licence et indique qu’elle s’est engagée avec plusieurs clients de premier plan, notamment des hypercalculateurs et des sociétés de processeurs et de mémoires.
Le produit d’interconnexion semble être la priorité numéro un de Celestial. Celestial vend sa propre puce d’accélération de l’IA, appelée Orion, construite sur l’architecture photonique de la société. Mais comme l’ont indiqué des investisseurs à TechCrunch dans un article récent pour TC+, les puces photoniques pour l’IA doivent encore surmonter les défis techniques qui les rendraient pratiques à l’échelle. À moins que Celestial n’ait réalisé des percées dans les domaines de la conversion des données en analogique et de la régénération des signaux – les principales pierres d’achoppement des puces photoniques actuelles – il est peu probable qu’Orion soit beaucoup plus avancé que la concurrence.
Puce mise à part, Celestial a un certain nombre de concurrents sur un marché des circuits intégrés photoniques qui pourrait valoir 26,42 milliards de dollars d’ici 2027.
Ayar Labs, qui fabrique des solutions de puces basées sur les principes des réseaux optiques, a levé plus de 200 millions de dollars en capital-risque depuis sa création en 2015. Ravonus, un autre rival, a récemment obtenu un investissement de 73,9 millions de dollars.
Il pourrait y avoir une consolidation à venir dans l’espace d’interconnexion optique plus large, cependant. Il y a environ trois ans, Marvell a acheté Inphi, un spécialiste des réseaux optiques, pour 10 milliards de dollars. Après une période de silence, Microsoft a acquis l’année dernière Lumenisity, une start-up qui développe des câbles optiques à grande vitesse pour les centres de données et les réseaux d’opérateurs.
Inphi et Luminensity visaient toutes deux des cas d’utilisation différents avec leur technologie. Mais l’enthousiasme des grandes entreprises technologiques pour l’optique et la photonique mérite d’être souligné.
« Notre technologie photonique est vraiment différenciée et unique avec des caractéristiques supérieures », a déclaré M. Lazovsky. « Compte tenu de la croissance des charges de travail d’IA générative due aux LLM et des pressions qu’elles exercent sur les architectures actuelles des centres de données, la demande de connectivité optique augmente rapidement pour soutenir la transition de l’infrastructure des centres de données informatiques généraux vers l’accélération du calcul. »
Samsung Catalyst, Smart Global Holdings, Porsche Automobil Holding SE, The Engine Fund, imec.xpand, M Ventures et Tyche Partners ont également participé à la série B de Celestial.