Instagram a été repéré en train de développer une fonction « ami IA » que les utilisateurs pourraient personnaliser à leur guise et avec laquelle ils pourraient ensuite converser, selon des captures d’écran partagées par un chercheur de l’application…. Alessandro Paluzzi. Les utilisateurs pourront discuter avec l’IA pour « répondre à des questions, discuter de défis, lancer des idées et bien plus encore », selon les captures d’écran de la fonctionnalité.
Les captures d’écran indiquent que les utilisateurs pourront sélectionner le sexe et l’âge du chatbot. Ensuite, ils pourront choisir l’origine ethnique et la personnalité de leur IA. Par exemple, votre ami IA peut être « réservé », « enthousiaste », « créatif », « spirituel », « pragmatique » ou « responsabilisant ».
Pour personnaliser davantage votre ami IA, vous pouvez choisir ses centres d’intérêt, qui « influenceront sa personnalité et la nature de ses conversations », selon les captures d’écran. Les options incluent « bricolage », « animaux », « carrière », « éducation », « divertissement », « musique », « nature » et plus encore.
Une fois que vous aurez fait vos choix, vous pourrez sélectionner un avatar et un nom pour votre ami IA. Vous accéderez alors à une fenêtre de chat, où vous pourrez cliquer sur un bouton pour commencer à converser avec l’IA.
Crédits images : Alessandro Paluzzi
Instagram a refusé de commenter l’affaire. Bien entendu, les fonctionnalités inédites peuvent ou non être lancées auprès du public, ou être modifiées au cours du processus de développement.
La décision du réseau social de développer, et éventuellement de diffuser, un chatbot d’IA commercialisé comme un « ami » auprès de millions d’utilisateurs comporte des risques. Julia Stoyanovich, directrice du Centre for Responsible AI de l’université de New York et professeure agrégée d’informatique et d’ingénierie à l’université, a déclaré à TechCrunch que l’IA générative peut tromper les utilisateurs en leur faisant croire qu’ils interagissent avec une personne réelle.
« L’un des plus gros problèmes – si ce n’est le plus gros – de la façon dont nous utilisons l’IA générative aujourd’hui est que nous sommes trompés en pensant que nous interagissons avec un autre humain », a déclaré Stoyanovich. « Nous pensons que la chose à l’autre bout du fil est en train de se connecter avec nous. Qu’elle a de l’empathie. Nous nous ouvrons à elle et nous nous exposons à être manipulés ou déçus. C’est l’un des dangers de l’anthropomorphisation de l’IA, comme nous l’appelons.
Interrogé sur les types de garde-fous à mettre en place pour protéger les utilisateurs des risques, M. Stoyanovich a déclaré que « chaque fois que les gens interagissent avec l’IA, ils doivent savoir que c’est une IA avec laquelle ils interagissent, et non un autre humain. C’est le type de transparence le plus élémentaire que nous devrions exiger ».
Crédits images :
Le développement de la fonction « ami de l’IA » intervient alors que des controverses autour des chatbots d’IA sont apparues au cours de l’année écoulée. Au cours de l’été, un tribunal britannique a été saisi d’une affaire dans laquelle un homme affirmait qu’un chatbot d’IA l’avait encouragé à tenter de tuer la défunte reine Élisabeth quelques jours avant de s’introduire dans le parc du château de Windsor. En mars, la veuve d’un Belge qui s’est suicidé a affirmé qu’un chatbot d’IA l’avait convaincu de se suicider.
D’autres plateformes sociales ont lancé des chatbots d’IA avec des résultats mitigés. Par exemple, Snapchat a lancé son chatbot « My AI » en février et a fait l’objet d’une controverse parce qu’il ne disposait pas des fonctions appropriées de contrôle de l’âge, car il s’est avéré que le chatbot discutait avec des mineurs sur des sujets tels que la dissimulation de l’odeur de l’herbe et l’ambiance sexuelle.
On ne sait pas exactement quels outils d’IA Instagram utiliserait pour alimenter l' »ami IA », mais comme l’IA générative est en plein essor, la société mère du réseau social, Meta, a déjà commencé à incorporer la technologie dans sa famille d’applications. Le mois dernier, Meta a lancé 28 chatbots d’IA que les utilisateurs peuvent envoyer sur Instagram, Messenger et WhatsApp. Certains de ces chatbots sont incarnés par des personnalités comme Kendall Jenner, Snoop Dogg, Tom Brady et Naomi Osaka. Il convient de noter que le lancement des personas d’IA n’était pas une surprise, étant donné que Paluzzi a révélé en juin dernier que le réseau social travaillait sur des chatbots d’IA.
Contrairement au chatbot « ami de l’IA » qui peut discuter de divers sujets, ces personas d’IA interactifs sont chacun conçus pour des interactions différentes. Par exemple, le chatbot d’IA joué par Kendall Jenner, appelé Billie, est conçu pour être une grande sœur qui peut donner des conseils de vie aux jeunes utilisateurs.
Le nouveau chatbot « AI friend » qu’Instagram semble être en train de développer semble être conçu pour faciliter des conversations plus ouvertes.