Microsoft fait passer les expériences d’IA générative du nuage aux appareils Windows. C’est en tout cas ce que Microsoft espère réaliser avec la sortie du nouveau Windows AI Studio.
Windows AI Studio, dévoilé aujourd’hui lors de la conférence Ignite 2023 de Microsoft et lancé en avant-première dans les prochaines semaines, est en quelque sorte le successeur de la défunte AI Platform pour les développeurs Windows. Windows AI Studio rassemble des outils d’IA et un catalogue de modèles d’IA générative que les développeurs peuvent affiner, personnaliser et déployer pour une utilisation locale et hors ligne dans leurs applications Windows.
Mais Windows AI Studio n’oblige pas les développeurs à déployer des modèles hors ligne – ou dans le nuage d’ailleurs. Il leur offre plutôt la possibilité d’exécuter les modèles localement ou, si nécessaire, dans des centres de données distants – ou dans une configuration hybride local-cloud.
« Étant donné le rythme de l’IA, nous voulons aider les développeurs à démarrer rapidement le développement de l’IA localement sur Windows en leur donnant les outils et les ressources dont ils ont besoin », a déclaré Logal Lyer, ingénieur distingué du groupe Windows et appareils de Microsoft, à TechCrunch lors d’une interview par e-mail. « Notre priorité est d’offrir aux développeurs ces outils dès qu’ils sont disponibles.
Le catalogue de modèles de Windows AI Studio s’appuie sur les modèles de Microsoft ainsi que sur des référentiels tiers comme celui de Hugging Face. Grâce à cette nouvelle expérience, les développeurs peuvent sélectionner, configurer, affiner et tester localement leurs modèles pour une application ou un projet, en utilisant leurs propres ensembles de données, avant de décider où exécuter ces modèles.
Crédits d’image : Microsoft
« Nous rassemblons des outils de pointe et un catalogue de modèles que nous avons testés et, dans certains cas, optimisés pour Windows afin que les développeurs puissent démarrer le développement de l’IA localement sur Windows », a déclaré M. Lyer. « Aujourd’hui, les développeurs ne disposent pas d’une interface guidée étape par étape pour affiner leurs modèles, ce qui les empêche de déployer plus rapidement l’IA générative dans leurs applications. Windows AI Studio offrira cette interface guidée afin que les développeurs puissent se concentrer sur le codage pendant que nous nous occupons des tâches lourdes et que nous les aidons à déployer des fonctions d’IA générative dans leurs applications ».
Bientôt, Windows AI Studio sera mis à jour avec une fonctionnalité appelée « prompt flow » qui permettra aux développeurs de faire basculer automatiquement leurs applications, si nécessaire, entre des modèles plus petits et plus rapides s’exécutant sur une machine locale et des modèles plus grands et plus performants hébergés dans le nuage. De plus, sur le matériel pris en charge – à savoir le matériel doté d’un accélérateur d’IA ou d’un GPU dédié – Windows AI Studio bénéficiera de modèles locaux plus performants, notamment le Llama 2 de Meta, qui génère du texte (grâce à un partenariat récemment élargi avec Meta) et le modèle texte-image de Stability AI, Stable Diffusion XL.
Microsoft prévoit également de lancer Windows AI Studio en tant qu’extension de VS Code, son éditeur de code open source.
« (L’objectif est de donner) aux développeurs un plus grand choix pour exécuter leurs modèles sur le nuage … ou à la périphérie localement sur Windows pour répondre à leurs besoins », a déclaré M. Lyer.
Compte tenu des défis liés à la sécurisation des ressources en nuage nécessaires à l’exécution des modèles d’IA à grande échelle de nos jours, tout qui permet de déployer des modèles localement est certainement une bonne nouvelle pour les développeurs. La question est de savoir à quel point Windows AI Studio facilite l’exécution d’un performant localement. En l’absence d’une démonstration pratique, il faudra attendre l’avant-première publique pour s’en rendre compte.