Alors que de plus en plus de créateurs se tournent vers l’IA pour leur expression artistique, on assiste également à une poussée de transparence quant à l’implication de l’IA dans la création du contenu. Pour répondre à cette préoccupation, TikTok a annoncé aujourd’hui le lancement d’un nouvel outil qui permettra aux créateurs d’étiqueter leur contenu généré par l’IA et commencera à tester d’autres moyens d’étiqueter automatiquement le contenu généré par l’IA.
L’entreprise explique qu’elle a ressenti le besoin d’introduire l’étiquetage de l’IA parce que le contenu généré par l’IA peut potentiellement confondre ou induire en erreur les téléspectateurs. Bien entendu, TikTok avait déjà mis à jour sa politique en matière de médias synthétiques, qui exige que les utilisateurs étiquettent les contenus générés par l’IA qui contiennent des images, du son ou des vidéos réalistes, comme les deepfakes, afin d’aider les spectateurs à replacer la vidéo dans son contexte et d’empêcher la diffusion d’informations trompeuses. La politique de TikTok lui permet de supprimer les images d’IA réalistes qui ne sont pas divulguées.
Toutefois, en dehors du cas extrême de l’utilisation de l’IA pour tromper intentionnellement les utilisateurs, certains contenus générés par l’IA peuvent se situer entre le vrai et le faux. Dans cette zone grise, une plus grande transparence est généralement appréciée par les utilisateurs finaux afin qu’ils sachent si le contenu qu’ils visualisent a été lourdement édité ou créé par l’IA.
Crédits d’image : TikTok
Le nouvel outil mis en place par TikTok permettra non seulement aux créateurs de se conformer plus facilement à la politique existante en matière de médias synthétiques, mais aussi d’étiqueter tout autre contenu entièrement généré à l’aide de l’IA ou modifié de manière significative à l’aide de l’IA. L’outil sera mis à la disposition des créateurs lors du téléchargement de la vidéo, et TikTok ne s’attend pas à ce que les créateurs reviennent en arrière pour étiqueter à nouveau leurs anciennes vidéos.
Lorsque le créateur utilise le nouvel outil, TikTok affiche un message sous le nom d’utilisateur de la vidéo indiquant que le créateur a étiqueté la vidéo comme étant générée par l’IA.
Toutefois, TikTok ne pénalisera pas les créateurs qui n’auront pas étiqueté leur contenu généré par l’IA et qui ne relève pas de la politique existante en matière de médias synthétiques.
Crédits image : TikTok
En outre, TikTok indique qu’il travaille à la mise au point d’un moyen de détecter et d’étiqueter automatiquement le contenu généré par l’IA. Cette semaine, il commencera à tester un label « généré par l’IA » qui s’appliquera à terme à tout contenu dont il détecte qu’il a été édité ou créé à l’aide de l’IA.
L’entreprise n’a pas voulu donner de détails sur la manière dont sa technologie recherchera un éventuel contenu généré par l’IA, car cela pourrait permettre à des acteurs malveillants de contourner ses capacités de détection. Cependant, TikTok a indiqué qu’elle testerait différents modèles de détection de l’IA et qu’elle « évaluait » des partenariats de provenance conçus pour aider les plateformes à mieux détecter l’IA en intégrant des étiquettes d’IA dans le contenu lui-même.
L’étiquetage de l’IA devient une pratique de plus en plus courante pour les grandes plateformes, OpenAI et Google ayant annoncé leurs propres capacités de détection de l’IA au cours des derniers mois. Instagram semble également travailler sur une fonctionnalité qui met en évidence lorsque le contenu a été créé ou édité avec l’IA. Par ailleurs, l’Union européenne fait pression pour que les plateformes étiquettent les contenus issus de l’IA de manière générale, dans le cadre de sa lutte contre la désinformation.
Dans le cadre de sa nouvelle politique de transparence, TikTok va désormais renommer tous ses effets utilisant l’IA en incluant explicitement le terme « IA » dans leur nom. C’est quelque chose qu’elle refusait auparavant de divulguer. En fait, lorsque le filtre Bold Glamor de TikTok est devenu viral en raison de la prouesse technique qu’il représentait en termes de transformation des visages des utilisateurs, certains ont soupçonné que le filtre n’utilisait pas la RA (réalité augmentée), mais l’IA. Toutefois, TikTok a refusé de répondre aux demandes de la presse qui souhaitait savoir si le produit était basé sur l’IA à l’époque.
Avec les nouveaux changements d’étiquetage, les utilisateurs pourront désormais déterminer en un coup d’œil quels filtres de TikTok utilisent l’IA. L’entreprise affirme que ses nouvelles directives pour les créateurs d’Effect House leur demanderont de faire de même.
TikTok indique avoir consulté ses conseils consultatifs de sécurité lors de l’élaboration de ses nouveaux labels d’IA, ainsi que des experts du secteur, notamment le Dr David G. Rand du MIT, dont les recherches ont porté sur la manière dont les utilisateurs réagissent à différents types de labels d’IA. À cette fin, TikTok a décidé que le terme « généré par l’IA » était largement compris par tous les groupes démographiques.
Dans les semaines à venir, TikTok diffusera également des vidéos éducatives et d’autres ressources d’éducation aux médias afin d’aider les utilisateurs à mieux comprendre l’IA.
Ces mises à jour font suite à d’autres initiatives prises par TikTok concernant l’IA dans les médias, notamment son engagement en février en faveur des Pratiques responsables pour les médias synthétiques du Partenariat sur l’IA, un code des meilleures pratiques de l’industrie pour la transparence de l’IA et l’innovation responsable, a déclaré l’entreprise. En août, TikTok s’est également associé à l’organisation à but non lucratif Digital Moment pour organiser des tables rondes avec des jeunes afin de connaître leur point de vue sur les progrès de l’IA en ligne.
Les labels d’IA commenceront à être déployés aujourd’hui, mais il se peut que vous ne les voyiez pas immédiatement jusqu’à ce que le déploiement soit terminé.