Alors que l’IA générative se généralise, la plateforme de crowdfunding Kickstarter a du mal à formuler une politique qui satisfasse toutes les parties au débat.
La plupart des outils d’IA générative utilisés aujourd’hui pour créer de l’art et du texte, notamment Stable Diffusion et ChatGPT, ont été formés à partir d’images et de textes accessibles au public sur le web. Mais dans de nombreux cas, les artistes, les photographes et les écrivains dont le contenu a été récupéré pour la formation n’ont pas été crédités, ni indemnisés, ni n’ont eu la possibilité de se retirer.
Les groupes à l’origine de ces outils d’IA soutiennent qu’ils sont protégés par la doctrine de l’usage loyal – du moins aux États-Unis. Mais les créateurs de contenu ne sont pas nécessairement d’accord, en particulier lorsque le contenu généré par l’IA – ou les outils d’IA eux-mêmes – sont monétisés.
Dans un effort de clarification, Kickstarter a annoncé aujourd’hui que les projets sur sa plateforme utilisant des outils d’IA pour générer des images, du texte ou d’autres résultats (par exemple, de la musique, de la parole ou du son) devront dorénavant divulguer des « détails pertinents » sur les pages de leur projet. Ces détails doivent inclure des informations sur la manière dont le propriétaire du projet prévoit d’utiliser le contenu de l’IA dans son travail, ainsi que sur les éléments de son projet qui seront entièrement originaux et ceux qui seront créés à l’aide d’outils d’IA.
Crédits images : Kickstarter
En outre, Kickstarter exige que les nouveaux projets impliquant le développement de technologies, d’outils et de logiciels d’IA fournissent des informations détaillées sur les sources de données de formation que le propriétaire du projet a l’intention d’utiliser. Le propriétaire du projet devra indiquer comment les sources gèrent les processus relatifs au consentement et au crédit, selon Kickstarter, et mettre en œuvre leurs propres « garanties », telles que des mécanismes d’exclusion ou d’acceptation pour les créateurs de contenu.
Un nombre croissant de fournisseurs d’IA proposent des mécanismes d’exclusion, mais la règle de divulgation des données de formation de Kickstarter pourrait s’avérer litigieuse, malgré les efforts de l’Union européenne et d’autres pour codifier de telles pratiques dans la loi. OpenAI, entre autres, a refusé de révéler la source exacte des données d’entraînement de ses systèmes les plus récents pour des raisons de concurrence – et éventuellement de responsabilité juridique.
La nouvelle politique de Kickstarter entrera en vigueur le 29 août. Mais la plateforme ne prévoit pas de l’appliquer rétroactivement aux projets soumis avant cette date, a déclaré Susannah Page-Katz, directrice de la confiance et de la sécurité chez Kickstarter.
« Nous voulons nous assurer que tout projet financé par Kickstarter inclut une contribution créative humaine, crédite correctement et obtient la permission pour tout travail d’artiste auquel il fait référence », a écrit Page-Katz dans un billet de blog partagé avec TechCrunch. « La politique exige des créateurs qu’ils soient transparents et précis sur la manière dont ils utilisent l’IA dans leurs projets, car lorsque nous sommes tous d’accord sur ce qu’un projet implique, cela renforce la confiance et prépare le projet à la réussite. »
Pour mettre en œuvre cette nouvelle politique, les projets soumis sur Kickstarter devront répondre à une nouvelle série de questions, dont plusieurs portant sur le fait de savoir si leur projet utilise des technologies d’IA pour générer des œuvres d’art et autres, ou si l’objectif principal du projet est de développer des technologies d’IA génératives. Il leur sera également demandé s’ils ont obtenu le consentement des propriétaires des œuvres utilisées pour produire – ou former, selon le cas – des parties de leur projet générées par l’IA.
Crédits images : Kickstarter
Une fois que les créateurs de projets d’IA auront soumis leur travail, celui-ci sera soumis au processus de modération humaine standard de Kickstarter. S’il est accepté, tout composant d’IA sera identifié comme tel dans une nouvelle section « Utilisation de l’IA » sur la page du projet, précise M. Page-Katz.
« Tout au long de nos conversations avec les créateurs et les bailleurs de fonds, ce que notre communauté souhaitait le plus était la transparence », a-t-elle ajouté, notant que toute utilisation de l’IA qui n’est pas divulguée correctement au cours du processus de soumission peut entraîner la suspension du projet. « Nous sommes heureux de répondre directement à cet appel de notre communauté en ajoutant une section à la page du projet où les bailleurs de fonds peuvent s’informer sur l’utilisation de l’IA dans le projet, avec les propres mots du créateur.
Kickstarter a indiqué pour la première fois qu’il envisageait un changement de politique concernant l’IA générative en décembre, lorsqu’il a déclaré qu’il réévaluerait si les médias possédés ou créés par d’autres dans les données d’entraînement d’un algorithme constituaient une copie ou une imitation de l’œuvre d’un artiste.
Depuis, la plateforme a progressé par à-coups vers une nouvelle politique.
Vers la fin de l’année dernière, Kickstarter a interdit Unstable Diffusion, un groupe qui tentait de financer un projet artistique d’IA générative qui n’incluait pas de filtres de sécurité, laissant les utilisateurs générer n’importe quelle œuvre d’art, y compris pornographique. Kickstarter a justifié le retrait en partie en laissant entendre que le projet exploitait particulièrement les communautés et mettait les gens en danger.
Plus récemment, Kickstarter a approuvé, puis supprimé, un projet qui utilisait l’intelligence artificielle pour plagier une bande dessinée originale, ce qui met en évidence les difficultés liées à la modération des travaux sur l’intelligence artificielle.