OpenAI espère gagner la confiance des parents – et des décideurs politiques – en s’associant à des organisations qui s’efforcent de minimiser les effets néfastes de la technologie et des médias sur les enfants, les préadolescents et les adolescents.
Par exemple, OpenAI a annoncé aujourd’hui un partenariat avec Common Sense Media, l’organisation à but non lucratif qui examine et classe l’adéquation de divers médias et technologies pour les enfants, afin de collaborer à l’élaboration de lignes directrices sur l’IA et de matériel éducatif pour les parents, les éducateurs et les jeunes adultes.
Dans le cadre de ce partenariat, OpenAI travaillera avec Common Sense Media pour sélectionner des GPT « adaptés à la famille » – des applications de chatbot alimentées par les modèles GenAI d’OpenAI – dans le GPT Store, la place de marché GPT d’OpenAI, sur la base des normes de notation et d’évaluation de Common Sense, explique Sam Altman, PDG d’OpenAI.
« L’IA offre des avantages incroyables aux familles et aux adolescents, et notre partenariat avec Common Sense renforcera encore notre travail sur la sécurité, en veillant à ce que les familles et les adolescents puissent utiliser nos outils en toute confiance », a ajouté M. Altman dans un communiqué.
Le lancement de ce partenariat intervient après qu’OpenAI a déclaré qu’elle participerait au nouveau cadre de Common Sense, lancé en septembre, pour les évaluations et les examens destinés à évaluer la sécurité, la transparence, l’utilisation éthique et l’impact des produits d’IA. Selon James Steyer, cofondateur et PDG de Common Sense, le cadre de Common Sense vise à produire une « étiquette nutritionnelle » pour les applications alimentées par l’IA, afin de faire la lumière sur les contextes dans lesquels les applications sont utilisées et de mettre en évidence les domaines d’opportunités et de dommages potentiels par rapport à un ensemble de principes de « bon sens ».
Le logo OpenAI s’affiche sur l’écran d’un téléphone portable devant l’écran d’un ordinateur avec le logo de ChatGPT. Crédits d’image : Didem Mente/Anadolu Agency / Getty Images
Dans un communiqué de presse, M. Steyer a fait allusion au fait que les parents d’aujourd’hui restent généralement moins bien informés sur les outils de la GenAI – par exemple, le chatbot viral d’OpenAI alimenté par l’IA, ChatGPT – que les générations plus jeunes. Un sondage Impact Research commandé par Common Sense Media à la fin de l’année dernière a révélé que 58 % des étudiants âgés de 12 à 18 ans ont utilisé ChatGPT, contre 30 % des parents d’enfants d’âge scolaire.
« Ensemble, Common Sense et OpenAI travailleront pour s’assurer que l’IA a un impact positif sur tous les adolescents et toutes les familles », a déclaré M. Steyer dans un communiqué envoyé par courriel. « Nos guides et notre curation seront conçus pour éduquer les familles et les éducateurs sur l’utilisation sûre et responsable des (outils OpenAI comme) ChatGPT, afin que nous puissions collectivement éviter toute conséquence involontaire de cette technologie émergente. »
OpenAI subit la pression des autorités de régulation pour démontrer que ses applications basées sur la GenAI, y compris ChatGPT, sont une bénédiction pour la société et non un préjudice. L’été dernier, la Commission fédérale du commerce des États-Unis a ouvert une enquête sur OpenAI pour savoir si ChatGPT avait porté préjudice aux consommateurs en collectant des données et en publiant de fausses déclarations sur des individus. Les autorités européennes chargées de la protection des données ont également exprimé leur inquiétude quant au traitement des informations privées par OpenAI.
Les outils d’OpenAI, comme tous les outils de GenAI, ont tendance à inventer en toute confiance des choses et à se tromper sur des faits fondamentaux. De plus, ils sont biaisés, ce qui est le reflet des données utilisées pour les former.
Les enfants et les adolescents, conscients ou non des limites des outils, se tournent de plus en plus vers eux pour obtenir de l’aide, non seulement pour leurs travaux scolaires, mais aussi pour leurs problèmes personnels. Selon un sondage du Center for Democracy and Technology, 29 % des enfants déclarent avoir utilisé ChatGPT pour gérer leur anxiété ou leurs problèmes de santé mentale, 22 % pour des problèmes avec leurs amis et 16 % pour des conflits familiaux.