Common Sense, une organisation à but non lucratif bien connue qui se consacre à la protection de la vie privée des consommateurs, à la citoyenneté numérique et à l’évaluation des médias pour les parents qui souhaitent évaluer les applications, les jeux, les podcasts, les émissions de télévision, les films et les livres que leurs enfants consomment, a annoncé ce matin qu’elle allait introduire un nouveau type de produit dans son système d’évaluation et d’examen : Les produits technologiques d’IA. L’organisation indique qu’elle va mettre en place un nouveau système de notation qui évaluera les produits d’IA en fonction d’un certain nombre de critères, notamment le fait que la technologie tire parti de « pratiques d’IA responsables » et qu’elle soit adaptée aux enfants.
Les nouvelles évaluations des produits d’IA se concentreront particulièrement sur ceux qui sont utilisés par les enfants et les éducateurs, note Common Sense.
La décision d’inclure des produits d’IA dans sa gamme a été prise à la suite d’une enquête menée conjointement avec Impact Research, qui a révélé que 82 % des parents recherchaient un système d’évaluation qui les aiderait à déterminer si les nouveaux produits d’IA, tels que ChatGPT, étaient appropriés pour les enfants. Plus des trois quarts des personnes interrogées (77 %) ont également déclaré être intéressées par des produits alimentés par l’IA qui pourraient aider les enfants à apprendre, mais seulement 40 % ont déclaré connaître une ressource fiable qu’ils pourraient utiliser pour en savoir plus sur le caractère approprié des produits d’IA pour leurs enfants.
Le nouveau système sera conçu avec l’aide d’experts dans le domaine de l’intelligence artificielle et visera également à informer les efforts législatifs et réglementaires à venir en matière de sécurité en ligne pour les mineurs, a déclaré l’organisation.
En règle générale, le système indépendant de classification et d’évaluation des médias de Common Sense, que l’on trouve sur commonsensemedia.org, fournit une classification selon l’âge ainsi que des mesures de la quantité de contenu positif ou négatif que le média peut contenir, dans des domaines tels que les modèles et les messages positifs et la représentation diversifiée, ou, du côté plus négatif, des choses telles que la violence, la vulgarité, l’effroi, la consommation de drogues et plus encore. On ne sait pas encore comment Common Sense prévoit d’évaluer les produits d’intelligence artificielle dans le cadre du nouveau système.
Toutefois, dans un document de synthèse publié en avril 2023, Common Sense a mis en garde contre plusieurs problèmes liés à l’IA moderne, notamment l’absence de « garde-fous significatifs » qui pourrait la rendre dangereuse pour les enfants. En outre, il a averti que les technologies d’IA générative, comme le ChatGPT d’OpenAI, pouvaient être sujettes à des biais dans leurs données d’apprentissage, qui comprennent de grands ensembles de données tels que des sites web, des livres et des articles – comme du contenu récupéré sur Internet.
« Au-delà des préoccupations relatives aux droits d’auteur, la quantité de données nécessaires pour entraîner les modèles génératifs garantit presque que tout modèle génératif a été entraîné dans une certaine mesure sur des informations biaisées, des stéréotypes et des informations erronées, qui peuvent tous être propagés ou reproduits lors de la production de résultats », note l’article.
Common Sense n’a pas donné de calendrier pour le lancement de son nouveau système d’évaluation et d’avis sur l’IA, mais a souligné l’urgence de la mise en place d’une telle ressource.
« Nous devons agir maintenant pour que les parents, les éducateurs et les jeunes soient informés des dangers et des possibilités de l’IA et de produits comme ChatGPT », a déclaré James P. Steyer, fondateur et PDG de Common Sense Media, dans un communiqué. « Il est essentiel de disposer d’un système d’évaluation fiable et indépendant pour informer le public et les décideurs politiques de l’impact incroyable de l’IA. Ces dernières années, un certain nombre d’entreprises technologiques ont fait passer leurs profits avant le bien-être des enfants et des familles. Nous avons déjà vu ce film, avec l’émergence des médias sociaux et l’incapacité subséquente à réglementer ces plateformes, et, malheureusement, nous savons comment cette version se termine. Nous ne devons tout simplement pas commettre les mêmes erreurs avec l’IA, qui aura des conséquences encore plus graves pour les enfants et la société », a-t-il ajouté.
En plus de son classement des médias, la filiale à but lucratif de l’organisation, Common Sense Networks, s’est inspirée de ses recommandations pour les enfants en lançant un service de streaming appelé Sensical en 2921. Ce service propose des vidéos adaptées à l’âge des enfants de 2 à 10 ans.