À mesure que l’IA générative s’intègre dans les plateformes que nous utilisons tous les jours, les débats se multiplient sur la question de savoir à qui revient le mérite – et la rémunération – des œuvres générées par l’IA.
YouTube est en train d’élaborer des accords de licence avec des maisons de disques pour utiliser les voix des musiciens afin de créer de la nouvelle musique dans leur style. Parallèlement, certaines plateformes d’IA génératrices d’œuvres d’art cherchent des moyens de rémunérer les artistes pour leur contribution aux données utilisées pour former les modèles d’IA des plateformes.
Mais qu’en est-il du texte ? Devrait-on – et si oui, comment les écrivains devraient-ils être reconnus et rémunérés pour les œuvres générées par l’IA qui imitent leur voix ?
Ces questions sont susceptibles d’être soulevées par une fonctionnalité de Grammarly, l’assistant dactylographique basé sur le cloud, qui devrait être lancée d’ici la fin de l’année pour les abonnés à la version professionnelle de Grammarly. Baptisée « Personalized voice detection and application », cette fonction détecte automatiquement le style d’écriture unique d’une personne et crée un « profil vocal » qui peut réécrire n’importe quel texte dans le style de la personne.
« Parce que Grammarly fonctionne à travers les applications et les outils, nous pouvons comprendre le style unique d’un utilisateur et ses préférences dans les endroits où il communique pour générer un profil personnalisé », a déclaré Tal Oppenheimer, chef de produit pour les applications clientes de Grammarly, à TechCrunch lors d’une interview par courriel. « Nous générons le profil d’une personne au fur et à mesure qu’elle utilise passivement notre produit.
Oppenheimer explique que chaque profil, qui s’accompagne d’une description générée par l’IA qui met en évidence ce que Grammarly considère comme les caractéristiques définissant le style de la personne (par exemple, « positif », « encourageant »), peut être personnalisé jusqu’à un certain point. Les utilisateurs peuvent écarter des éléments tels que le ton et les choix stylistiques – par exemple, une tendance à utiliser la voix active et les phrases composées – qui, selon eux, ne reflètent pas fidèlement leur façon d’écrire.
La nouvelle fonction de profil vocal de Grammarly, qui utilise l’IA générative pour adapter le style d’écriture d’une personne. Crédits d’image : Grammarly
« Comme il s’agit de la première version de nos fonctions vocales personnalisées, nous continuerons à les affiner au fil du temps et à envisager des moyens de les rendre encore plus personnalisées en fonction des clients et de leurs besoins », a déclaré M. Oppenheimer.
Grammarly présente cette technologie comme un moyen pour les rédacteurs d’exploiter le contexte pour « rendre (leurs) écrits plus personnels ». Mais ce s’inquiète de l’utilisation qui pourrait en être faite de manière beaucoup moins charitable.
Imaginez qu’une entreprise exploite un profil vocal Grammarly pendant qu’un rédacteur est en congé – ou après son licenciement – pour publier des articles de blog sous sa signature sans son accord et sans le rémunérer. Ou encore, imaginez qu’un profil vocal Grammarly soit utilisé pour usurper l’identité d’une personne dans le cadre d’une tentative d’hameçonnage sophistiquée.
L’idée n’est pas aussi farfelue qu’elle en a l’air. L’auteur Jane Friedman a découvert en août que de nouveaux livres étaient vendus sur Amazon sous son nom – des livres qu’elle n’avait pas écrits et qui semblaient avoir été générés par l’intelligence artificielle. (Amazon a par la suite retiré les faux livres et a déclaré que sa politique interdisait ce type d’imitation).
Grammarly n’est pas le premier à mettre en avant la question de la protection des auteurs dans le cadre de l’IA générative, bien entendu. Des milliers d’auteurs ont récemment signé une lettre ouverte décriant les technologies d’IA générative qui « imitent et régurgitent » leur « langage, leurs histoires, leur style et leurs idées ». Des écrivains de Californie et de New York sont allés plus loin en intentant un procès à la startup OpenAI, qui, selon eux, a entraîné une IA génératrice de texte sur leurs œuvres sans leur permission, pour vol présumé de propriété intellectuelle.
Pour être honnête avec Grammarly, il faut savoir que n’importe qui ne peut pas accéder à un profil vocal Grammarly. Au moins au moment du lancement, les utilisateurs individuels ne peuvent utiliser que leur profil vocal correspondant, et non celui de quelqu’un d’autre. Et ils ne peuvent pas être exportés.
Je m’inquiète cependant de la manière dont les profils vocaux pourraient évoluer à l’avenir, compte tenu de l’accent mis par Grammarly sur les économies de coûts dans ses documents marketing. Il est concevable que, dans un souci de réduction des coûts, une entreprise abonnée à Grammarly finisse par vouloir accéder à tous les profils de ses rédacteurs. Grammarly le leur refusera-t-il ? Qui peut le dire ?
Pour sa part, Mme Oppenheimer a souligné que les profils vocaux « ne sont pas conçus pour remplacer qui que ce soit ».
« Plutôt que de les imiter, (les profils vocaux) aident (les écrivains) à apprendre comment ils sonnent, à créer des résultats plus personnalisés et à écrire d’une manière plus authentique ».
Appelez-moi sceptique, mais je suis très méfiant.
La détection et l’application personnalisées de la voix s’ajoutent aux autres fonctions d’IA générative de Grammarly, dont la plupart sont disponibles dès cette semaine. La société, qui compte plus de 30 millions d’utilisateurs et plus de 70 000 équipes sur ses plateformes, affirme que les utilisateurs créent plus de 12 millions de contenus par semaine grâce à ces fonctionnalités.