Google s’attaque aux applications d’IA générative potentiellement problématiques avec une nouvelle politique, qui sera appliquée dès le début de l’année prochaine, et qui exigera des développeurs d’applications Android publiées sur son Play Store qu’ils offrent la possibilité de signaler ou de marquer les contenus offensants générés par l’IA. La nouvelle politique insistera sur le fait que la signalisation et le signalement peuvent être effectués dans l’application et que les développeurs doivent utiliser le rapport pour informer leurs propres approches du filtrage et de la modération, indique l’entreprise.
La modification de la politique fait suite à une explosion des applications générées par l’IA, dont certaines sont le fruit d’une supercherie de la part des utilisateurs, comme Lensa l’année dernière. D’autres, en revanche, posent des problèmes plus subtils. Par exemple, l’application Remini, qui est devenue virale cet été pour les photos de tête générées par l’IA, s’est avérée augmenter considérablement la taille des seins ou du décolleté de certaines femmes, tout en les amincissant. Puis il y a eu les problèmes plus récents avec les outils d’IA de Microsoft et de Meta, où des personnes ont trouvé des moyens de contourner les garde-fous pour créer des images comme Sonic le hérisson enceinte ou des personnages fictifs faisant le 11 septembre.
Bien entendu, l’utilisation de générateurs d’images d’IA suscite des inquiétudes encore plus vives, car on a découvert que des pédophiles utilisaient des outils d’IA à source ouverte pour créer à grande échelle des images d’abus sexuels sur des enfants (CSAM). Les prochaines élections soulèvent également des inquiétudes quant à l’utilisation de l’IA pour créer de fausses images, appelées « deepfakes », afin de tromper ou de désinformer les électeurs.
Crédits d’image : Google
Le texte de la nouvelle politique indique que les exemples de contenu généré par l’IA comprennent « les chatbots d’IA générative conversationnelle texte à texte, dans lesquels l’interaction avec le chatbot est une caractéristique centrale de l’application », ce qui englobe les applications comme ChatGPT, ainsi que les applications où les images sont « générées par l’IA sur la base d’un texte, d’une image ou d’une invite vocale ».
Dans son annonce, Google a rappelé aux développeurs que toutes les applications, y compris les générateurs de contenu d’IA, doivent être conformes à ses règles de développement existantes, qui interdisent les contenus restreints tels que CSAM et d’autres qui permettent un comportement trompeur.
En plus de modifier ses règles pour sévir contre les applications à contenu d’IA, Google indique que certaines autorisations d’applications feront également l’objet d’un examen supplémentaire par l’équipe Google Play, notamment les applications qui demandent des autorisations étendues pour les photos et les vidéos. Selon les nouvelles règles, les applications ne pourront accéder aux photos et aux vidéos que si cela est directement lié à leur fonctionnalité. Si elles ont un besoin ponctuel ou peu fréquent – comme les applications d’intelligence artificielle qui demandent aux utilisateurs de télécharger une série de selfies, par exemple – les applications doivent utiliser un sélecteur de système, comme le nouveau sélecteur de photos d’Android.
Crédits image : Google
La nouvelle politique limitera également les notifications perturbatrices en plein écran aux seuls moments où il existe un besoin prioritaire. De nombreuses applications ont abusé de la possibilité de faire apparaître des notifications en plein écran pour tenter de vendre aux utilisateurs des abonnements payants ou d’autres offres, alors que cette fonctionnalité devrait être limitée aux cas d’utilisation prioritaires dans le monde réel, comme la réception d’un appel téléphonique ou d’un appel vidéo. Google indique qu’il va désormais modifier ces limitations et exiger une autorisation d’accès spéciale pour les applications. Cette « autorisation d’intention plein écran » ne sera accordée qu’aux applications ciblant Android 14 et plus qui ont réellement besoin de la fonctionnalité plein écran.
Il est surprenant de voir que Google est le premier à adopter une politique sur les applications d’IA et les chatbots, car historiquement, c’est Apple qui émet de nouvelles règles pour réprimer les comportements indésirables des applications, que Google imite ensuite. Apple n’a pas encore de politique officielle en matière d’IA ou de chatbot dans ses lignes directrices pour l’App Store, bien qu’elle ait durci sa position dans d’autres domaines, comme la demande de données par les applications dans le but d’identifier l’utilisateur ou l’appareil, une méthode connue sous le nom d' »empreinte digitale », ainsi que les applications qui tentent de copier d’autres applications.
Les mises à jour des règles de Google Play sont déployées aujourd’hui, mais les développeurs d’applications IA ont jusqu’au début de l’année 2024 pour mettre en œuvre le signalement et signaler les changements apportés à leurs applications.