Les procureurs généraux des 50 États américains et de 4 territoires ont signé une lettre appelant le Congrès à prendre des mesures contre les matériels d’abus sexuel d’enfants utilisant l’IA (CSAM).
« Alors que les crimes commis contre les enfants sur Internet font déjà l’objet de poursuites actives, nous craignons que l’IA ne crée une nouvelle frontière pour les abus, ce qui rendrait ces poursuites plus difficiles », peut-on lire dans la lettre.
En effet, grâce à l’IA, il est plus facile que jamais pour des acteurs malveillants de créer de fausses images profondes, qui représentent de manière réaliste des personnes dans de faux scénarios. Parfois, les résultats sont bénins, comme lorsque l’internet a été dupé en croyant que le pape portait un manteau Balenciaga à la mode. Mais dans le pire des cas, comme le soulignent les procureurs généraux, cette technologie peut être utilisée pour faciliter les abus.
« Que les enfants figurant sur les photos sources des deepfakes soient ou non victimes d’abus physiques, la création et la diffusion d’images sexualisées représentant des enfants réels menacent le bien-être physique, psychologique et émotionnel des enfants qui en sont victimes, ainsi que celui de leurs parents », peut-on lire dans la lettre.
Les signataires demandent au Congrès de créer une commission chargée de rechercher des solutions pour faire face aux risques liés aux images de synthèse générées par l’IA, puis d’étendre les lois existantes contre les images de synthèse afin de couvrir explicitement les images de synthèse générées par l’IA.
Les imitations d’IA non consensuelles et sexuellement exploitantes prolifèrent déjà en ligne, mais il existe peu de protections juridiques pour les victimes de ce type de matériel. New York, la Californie, la Virginie et la Géorgie ont des lois qui interdisent la diffusion de deepfakes d’IA sexuellement exploitants, et en 2019, le Texas est devenu le premier État à interdire l’utilisation de deepfakes d’IA pour influencer les élections politiques. Bien que les principales plateformes sociales interdisent ces contenus, ils peuvent passer entre les mailles du filet. En mars, une application prétendant « échanger n’importe quel visage » dans des vidéos suggestives a diffusé plus de 230 publicités sur Facebook, Instagram et Messenger ; Meta a retiré les publicités après en avoir été informée par Kat Tenbarge, une journaliste de NBC News.
À l’étranger, les législateurs européens cherchent à collaborer avec d’autres pays pour ratifier un code de conduite sur l’IA, mais les négociations sont toujours en cours.