Au diable les deepfakes de Taylor Swift, Google lance un nouvel outil de création d’images alimenté par l’IA, ImageFX.
S’appuyant sur Imagen 2, un modèle d’image GenAI développé par l’équipe DeepMind de Google, ImageFX propose une interface utilisateur basée sur des invites pour créer et modifier des images. Cela n’est pas différent d’outils tels que DALL-E 3 d’OpenAI, Midjourney, Imagine with Meta AI de Meta et Microsoft Designer. Mais la particularité d’ImageFX réside dans les « puces expressives », une liste de suggestions de mots-clés qui permet aux utilisateurs d’expérimenter les « dimensions adjacentes » de leurs créations et de leurs idées.
« Conçu pour l’expérimentation et la créativité, ImageFX vous permet de créer des images à l’aide d’une simple invite textuelle, puis de les modifier facilement grâce à une nouvelle approche de l’invitation utilisant des puces expressives », écrit Google dans un billet de blog.
Mais qu’en est-il des risques d’abus, en particulier à la lumière des événements récents ?
Crédits d’image : Google
Google affirme avoir pris des mesures pour s’assurer qu’ImageFX ne puisse pas être utilisé à des fins non prévues, par exemple en ajoutant des « sauvegardes techniques » pour limiter les « résultats problématiques » tels que les contenus violents, offensants et sexuellement explicites. ImageFX dispose également d’un filtre au niveau de l’invite pour les « personnes nommées », probablement des personnalités publiques – bien que Google n’ait pas été particulièrement clair sur ce point dans ses documents de presse.
« Nous avons investi dans la sécurité des données d’entraînement dès le départ », a déclaré Google. « Conformément à nos principes en matière d’intelligence artificielle, nous avons également procédé à des tests contradictoires approfondis et mis en place des équipes spéciales afin d’identifier et d’atténuer les contenus potentiellement nuisibles et problématiques.
Comme mesure de sécurité supplémentaire, Google marque les images produites à l’aide d’ImageFX avec SynthID, un filigrane numérique qui est censé résister aux modifications et aux recadrages d’images.
Un échantillon d’image d’Imagen 2. Crédits d’images : Google
« Les filigranes SynthID sont imperceptibles à l’œil nu mais détectables pour l’identification », poursuit Google dans son billet de blog. Grâce aux informations supplémentaires fournies dans la section « À propos de cette image », vous saurez si une image a été générée à l’aide des outils d’intelligence artificielle de Google lorsque vous la verrez dans Google Search ou Chrome.
Vous trouverez ImageFX dans AI Test Kitchen, l’application web de Google pour les projets expérimentaux d’IA.
Imagen 2 étendu
Dans le même ordre d’idées, Google a annoncé aujourd’hui qu’il étendait Imagen 2 à un plus grand nombre de ses produits et services à partir de cette semaine, notamment à son expérience de recherche IA de nouvelle génération et à sa gamme de services d’IA gérés Vertex AI.
Imagen 2 – qui permet également d’utiliser les fonctions de conversion de texte en image dans Google Ads et Duet AI dans Workspace, la suite de produits GenAI de Google pour la productivité – a fait son entrée dans SGE (Search Generative Experience) de Google. SGE, qui a commencé à proposer des outils de génération d’images aux utilisateurs dans Google Image Search en octobre dernier, fait désormais appel à Imagen 2 pour générer des images. Les utilisateurs peuvent saisir une invite spécifiant le type d’image qu’ils souhaitent et SGE renverra quatre résultats directement dans l’expérience conversationnelle SGE.
Un autre échantillon d’Imagen 2. Crédits d’images : Google
Dans Vertex AI, Imagen 2 est disponible via une API pour les clients de Google Cloud. Ailleurs, Imagen 2 peut désormais être invoqué par l’intermédiaire de Bard, le chatbot de Google basé sur l’IA.
« Avec Imagen 2, Bard comprend des requêtes simples ou complexes afin que vous puissiez générer une gamme d’images de haute qualité », explique Google. Il suffit de taper une description – comme « créer une image d’un chien sur une planche de surf » – et Bard générera des images personnalisées et variées pour vous aider à donner vie à votre idée.
Google n’a toujours pas révélé les données utilisées pour former Imagen 2, ce qui, bien que décevant, n’est pas vraiment une surprise. La question juridique de savoir si les fournisseurs de GenAI comme Google peuvent entraîner un modèle sur des données accessibles au public – même protégées par des droits d’auteur – et ensuite commercialiser ce modèle, reste ouverte.
Crédits d’image : Google
Les procès en la matière sont en cours devant les tribunaux, les vendeurs faisant valoir qu’ils sont protégés par la doctrine de l’usage loyal. Mais il faudra attendre un certain temps avant que la poussière ne retombe.
En attendant, Google joue la carte de la sécurité en gardant le silence sur cette affaire.