Si vous souhaitez poser une question sur les prochaines élections au chatbot IA de Google, vous devrez le faire à partir d’un pays où il n’y a pas d’élections. TechCrunch a appris que le géant de la recherche a commencé à restreindre les requêtes faites à Gemini lorsqu’elles ont trait aux élections, en tout marché mondial où se déroulent des élections.
Le géant de la recherche a confirmé à TechCrunch qu’il a commencé à déployer les restrictions sur Gemini afin de limiter l’apparition des réponses aux requêtes liées aux élections dans le monde entier. TechCrunch croit savoir que la mise à jour est déjà en place aux États-Unis et qu’elle a commencé à être déployée en Inde et dans tous les principaux pays où des élections auront lieu dans les mois à venir.
Ce changement souligne non seulement le rôle que l’IA générative a joué, et a le potentiel de jouer, dans le processus électoral, mais aussi l’inquiétude de Google quant à la façon dont le service pourrait être militarisé et produire des réponses inexactes ou trompeuses.
Le changement en Inde intervient quelques jours seulement après que l’Inde a émis un avis demandant aux entreprises technologiques d’obtenir l’autorisation du gouvernement avant de lancer leurs nouveaux modèles d’IA.
Les requêtes concernant les partis politiques, les candidats et les hommes politiques renvoient désormais un message prédéfini.
Lorsqu’une question concernant un parti politique ou un candidat particulier est posée, Gemini affiche un message : « Je suis encore en train d’apprendre comment répondre à cette question. En attendant, essayez Google Search ». Dans certains cas, l’outil peut encore être manipulé. TechCrunch a constaté que l’outil d’IA affichait des réponses lorsqu’on lui soumettait des requêtes contenant des fautes de frappe. Il est probable que les réponses continueront d’être modifiées dans le cadre d’un jeu d’ingénierie rapide.
Google Gemini restreint les réponses aux questions liées aux élections (à gauche) mais pas lorsque les questions contiennent des fautes de frappe (à droite). Crédits d’image : Jagmeet Singh / TechCrunch
« Par excès de prudence sur un sujet aussi important, nous avons commencé à mettre en place des restrictions sur les types de requêtes liées aux élections pour lesquelles Gemini renverra des réponses. Nous prenons au sérieux notre responsabilité de fournir des informations de haute qualité pour ces types de requêtes, et nous travaillons continuellement à l’amélioration de nos protections », a déclaré Google dans un billet de blog lié à la mesure prise en Inde plus tôt aujourd’hui.
La mise à jour a été publiée juste avant l’annonce des élections générales en Inde. Au début du mois, New Delhi a émis un avis à l’intention des entreprises technologiques leur interdisant de commercialiser leurs nouveaux modèles d’IA dans le pays sans l’approbation du gouvernement. Après avoir essuyé quelques réactions négatives de la part de sociétés de capital-risque internationales et de fondateurs de startups spécialisées dans l’IA, le gouvernement indien a précisé que cette restriction concernait les entreprises technologiques « importantes » et non les startups.
Cet avis fait suite à un mini-scandale entre Gemini et le gouvernement indien le mois dernier. L’outil d’IA, répondant à une question sur le caractère fasciste du Premier ministre indien Narendra Modi, a répondu que Modi avait été accusé de mettre en œuvre des politiques que certains avaient qualifiées de fascistes. Rajeev Chandrasekhar, vice-ministre indien des technologies de l’information a parlé de « violations directes » des règles informatiques, 2021.
Le mois dernier, Google a également suspendu la capacité de Gemini à générer des images de personnes après avoir constaté des inexactitudes historiques. L’entreprise a alors déclaré qu’elle publierait bientôt une version améliorée pour remédier à ces problèmes.
Il n’est pas certain que Google débloque Gemini pour répondre aux requêtes liées aux élections après la fin de celles-ci, plus tard dans l’année. Nous avons contacté Google à ce sujet et nous mettrons à jour cet article dès que l’entreprise aura répondu. Nous attendons également une liste complète des pays où la mise à jour est en cours. Nous mettrons à jour cet article dès que nous en saurons plus et le publierons tel quel.