Pape Balenciaga. Fausses explosions au Pentagone. Il devient de plus en plus difficile de distinguer les images générées par l’intelligence artificielle des images réelles, parfois avec des effets désastreux.
La solution n’a pas encore été trouvée. Mais Microsoft fait une tentative avec de nouvelles fonctionnalités de provenance des médias présentées lors de sa conférence annuelle Build.
Lancées pour Bing Image Creator et Designer, l’application web de Microsoft semblable à Canva qui peut générer des designs pour des présentations, des affiches et plus encore à partager sur les médias sociaux et d’autres canaux, les nouvelles fonctionnalités de provenance des médias permettront aux consommateurs de vérifier si une image ou une vidéo a été générée par l’IA, selon Microsoft. Utilisant des méthodes cryptographiques, ces fonctionnalités, dont le déploiement est prévu dans les prochains mois, marqueront et signeront les contenus générés par l’IA avec des métadonnées sur l’origine de l’image ou de la vidéo.
Ce n’est pas aussi simple qu’un filigrane visible. Pour lire la signature, les sites devront adopter la spécification interopérable C2PA (Coalition for Content Provenance and Authenticity), créée avec la participation d’Adobe, d’Arm, d’Intel, de Microsoft et de la plateforme de médias visuels Truepic. Ce n’est qu’à cette condition que le site sera en mesure d’alerter les consommateurs lorsque le contenu a été généré par l’IA, modifié ou créé par le concepteur ou le créateur d’images.
La question est donc de savoir si les efforts de Microsoft feront une grande différence alors que tant d’outils de génération d’images n’ont pas adopté des normes similaires de provenance des médias. C2PA fait a le soutien d’Adobe, qui a récemment lancé sa propre gamme d’outils d’IA générative, y compris une intégration avec le chatbot Bard de Google. Mais l’un des acteurs les plus en vue dans le domaine de l’IA générative, Stability AI, n’a pas fait part de sa volonté d’adopter une spécification telle que celle proposée par Microsoft.
Les normes mises à part, la décision de Microsoft d’adopter un mécanisme de suivi de la provenance des médias s’inscrit dans le droit fil des tendances générales de l’industrie à mesure que l’IA générative s’impose. En mai, Google a déclaré qu’il utiliserait des métadonnées intégrées pour signaler les médias visuels créés par des modèles d’IA générative. Par ailleurs, Shutterstock et la startup Midjourney, spécialisée dans l’IA générative, ont adopté des lignes directrices pour intégrer un marqueur indiquant que le contenu a été créé par un outil d’IA générative.
