La combinaison des vérifications payantes et de l’IA générative rend la diffusion de fausses informations trop facile, ce qui ne surprend personne. Lundi matin, une image d’explosion au Pentagone, apparemment générée par l’IA, a fait le tour de l’internet, alors que l’événement n’a pas eu lieu.
En l’espace d’une demi-heure environ, l’image est apparue sur un compte Twitter vérifié appelé « Bloomberg Feed », qui pouvait très facilement être confondu avec un véritable compte affilié à Bloomberg, d’autant plus qu’il comportait une coche bleue. Ce compte a depuis été suspendu. Le réseau d’information russe contrôlé par l’État RT ont également partagé l’image, selon des captures d’écran réalisées par des utilisateurs avant que le tweet ne soit supprimé. Plusieurs comptes Twitter comptant des centaines de milliers d’abonnés, tels que DeItaone, OSINTdefender et Carte des baleines l’a partagée. Même un chaîne de télévision indienne a rapporté la fausse explosion du Pentagone. L’origine de cette fausse image et de cette fausse nouvelle n’est pas encore claire.
Ce n’est pas la première fois qu’une fausse image réussit à tromper l’Internet, mais les enjeux sont plus importants lorsque le faux événement est une explosion dans un bâtiment du gouvernement américain, plutôt que le pape portant un manteau Balenciaga. Certains ont rapporté que la fausse image pouvait être liée à un mouvement de 25 points de base de l’indice S&P 500, mais la baisse n’a pas duré longtemps et il n’y a aucun moyen de prouver qu’elle était entièrement due à ce canular. L’incident soulève la question de savoir comment l’IA générative pourrait être utilisée à l’avenir pour manipuler le marché boursier – après tout, c’est Reddit qui l’a fait.
La désinformation est un problème aussi vieux qu’Internet, mais la croissance simultanée de l’IA générative et la modification du système de vérification de Twitter constituent un terrain particulièrement fertile. Dès le départ, le projet d’Elon Musk, propriétaire de Twitter, de retirer les chèques bleus existants de leur statut et de laisser n’importe qui payer pour le symbole a été un véritable gâchis. Même si nous savons que les chèques bleus n’indiquent plus la légitimité, il est difficile de se défaire d’une habitude visuelle que l’on a cultivée pendant près de 15 ans : Si vous voyez un compte appelé « Bloomberg Feed » qui affiche un chèque bleu à propos d’une attaque contre le Pentagone, vous êtes probablement prédisposé à penser qu’il s’agit d’une information réelle. Comme il est de plus en plus difficile de repérer les images truquées, nous continuerons à voir des fausses nouvelles de ce type à l’avenir.