Les appareils Echo d’Amazon permettront désormais aux enfants d’avoir des conversations interactives avec une Alexa alimentée par l’IA grâce à une nouvelle fonctionnalité appelée « Explore with Alexa ». Annoncé pour la première fois en septembre, cet ajout à l’abonnement au contenu Amazon Kids+ permet aux enfants d’avoir des conversations adaptées aux enfants avec Alexa, alimentée par l’IA générative, mais d’une manière protégée conçue pour garantir que l’expérience reste sûre et appropriée.
Bien qu’il existe déjà des expériences d’IA destinées aux jeunes utilisateurs, comme les chatbots de Character.ai et d’autres sociétés, dont Meta, Amazon est l’une des premières à se tourner spécifiquement vers l’IA générative pour développer une expérience conversationnelle pour les enfants de moins de 13 ans.
Toutefois, cette démarche s’accompagne de contraintes, car l’IA générative peut s’égarer ou « halluciner » des réponses, tandis que les enfants peuvent poser des questions inappropriées. Pour faire face à ces problèmes potentiels, Amazon a mis en place des garde-fous concernant l’utilisation de l’IA générative pour les enfants.
Pour commencer, l’équipe scientifique d’Alexa Kids a restreint la nouvelle expérience, qui exploite la technologie LLM (large language model) d’Alexa, pour n’inclure que des faits amusants et des questions anecdotiques adaptés aux enfants. Dans un premier temps, le contenu proviendra de deux partenaires seulement, le World Wildlife Fund et A-Z animals. À terme, l’équipe souhaiterait étendre l’IA à d’autres domaines intéressant les enfants, comme l’espace, la musique, les jeux vidéo et le sport.
En outre, et c’est peut-être le plus important, l’expérience de l’IA générative ne se déroule pas en temps réel sur l’appareil.
« C’est pourquoi nous ne nous contentons pas de connecter l’expérience à un LLM au moment de l’exécution et de laisser les enfants s’en charger », explique Arjun Venkataswamy, chef de produit senior pour Alexa Kids, dans une interview accordée à TechCrunch. « La façon dont nous avons intégré un LLM ici est que nous l’utilisons pour générer du contenu à l’échelle hors ligne, puis passer par un processus de révision qui inclut à la fois les humains et l’IA, puis prendre ce contenu révisé et l’intégrer dans notre expérience », dit-il.
En d’autres termes, les enfants n’utilisent pas l’IA générative à la volée lorsqu’ils conversent avec Alexa, et le contenu est pré-révisé et provient d’un petit ensemble de données comprenant uniquement des faits et des sources sur les animaux.
Cependant, comme l’IA peut générer des dizaines de milliers de réponses potentielles, toutes les réponses ne peuvent pas être examinées par un humain avant d’être ajoutées à l’expérience. À cette fin, Amazon utilise également l’IA pour l’aider à examiner les documents qu’elle utilise pour « Explore with Alexa ».
« Ce que fait notre IA, c’est prendre du contenu fiable et déterminer ce qui est amusant, regarder ce qui est amusant, le transformer en une question triviale – elle fait donc des choses utiles pour nous à grande échelle que nous n’aurions pas pu faire sans cet outil… mais nous sommes très satisfaits des garde-fous qui sont en place en ce moment en termes de contenu », dit Venkataswamy.
Pour accéder à cette nouvelle expérience, les enfants peuvent déclencher les faits ou les anecdotes générés par l’IA de deux manières. Ils peuvent soit prononcer une phrase particulière qui lance « Explorer avec Alexa », comme « Alexa, explorons les animaux » ou « Alexa, raconte-moi un fait sur les animaux ». Mais la façon la plus intéressante d’utiliser cette fonctionnalité est de faire en sorte que les enfants s’engagent dans des conversations organiques avec Alexa où ce sujet peut être abordé. Par exemple, un enfant pourrait demander « À quoi ressemble le rugissement d’un lion ? » ou « À quelle vitesse peut courir un guépard ? ». Cela permettrait également aux enfants d’entrer dans l’expérience plus conversationnelle des questions-réponses.
De plus, au cours des prochains mois, Alexa invitera parfois les enfants à lui demander s’ils veulent entendre quelque chose d’intéressant sur les animaux.
Contrairement aux conversations traditionnelles avec Alexa, l’expérience de l’IA fonctionne dans les deux sens. En effet, les enfants ne se contentent pas de poser une question à Alexa et de recevoir une réponse.
« L’une des choses que nous trouvons vraiment intéressantes dans ce paradigme, c’est que les enfants ne se contentent pas de poser des questions à Alexa et d’obtenir des réponses – Alexa pose maintenant des questions aux enfants », explique M. Venkataswamy. En d’autres termes, Alexa pourrait poser aux enfants une question anecdotique telle que « Quel est l’animal le plus rapide de la planète ?
Tous les enseignants vous le diront : si les enfants essaient d’abord de penser à la réponse, celle-ci restera mieux ancrée dans leur esprit lorsqu’ils entendront la réponse.
« Pour l’instant, c’est étroit. Alexa pose des questions anecdotiques aux enfants », poursuit M. Venkataswamy. « Mais nous voulons continuer à développer cela et à le rendre plus interactif ».
À terme, Amazon souhaite intégrer cette expérience d’IA générative en cours d’exécution pour les enfants et les adultes, mais elle sait qu’elle doit procéder avec prudence, en particulier avec les premiers.
« Nous voulons intégrer un LLM en cours d’exécution d’une manière plus protégée que pour les adultes… Cependant, cette approche nous permet d’itérer et de trouver les bons moyens d’obtenir un contenu sûr et agréable à partir du LLM pour les enfants », déclare Venkataswamy.
Amazon se prépare également à lancer, dans le courant de l’année, une expérience Alexa « Let’s Chat » alimentée par l’IA pour les adultes, basée sur la même pile LLM.
En termes de protection de la vie privée, l’entreprise précise qu’elle ne forme pas son LLM sur les réponses des enfants. En outre, l’expérience « Explore with Alexa » et toutes les futures fonctionnalités soutenues par le LLM continueront à suivre les mêmes politiques de traitement des données que « l’Alexa classique » (Alexa sans IA). Cela signifie que l’application Alexa comprendra une liste des questions posées par les enfants du foyer (ceux qui ont un profil d’enfant) et la réponse fournie par Alexa. Cet historique peut être stocké ou supprimé manuellement ou automatiquement, en fonction de vos paramètres.
Crédits images : Amazon
Parallèlement au lancement de « Explore with Alexa », les nouvelles enceintes Echo Pop Kids seront également disponibles à l’achat, à partir de 49,99 $ aux États-Unis.
Les Echo Pop Kids seront disponibles dans deux nouveaux designs : Marvel’s Avengers et Disney Princess, qui reprennent les thèmes des personnages correspondants. Les enfants peuvent utiliser les appareils pour entendre un message d’accueil, un fait amusant ou une blague sur un Avenger ou une Princesse Disney, en accord avec le thème. Les deux appareils comprennent également six mois d’accès au service d’abonnement Amazon Kids+, qui, en plus d' »Explorer avec Alexa », offre une gamme de jeux, d’applications, de livres, de vidéos et bien plus encore, y compris des thèmes Alexa personnalisés.
Cependant, vous n’avez pas besoin d’un appareil « Kids » spécifique pour utiliser « Explore with Alexa ». La fonction fonctionne sur n’importe quel appareil réglé en mode enfant ou sur n’importe quel appareil familial commun, si les parents ont configuré l’identifiant vocal de leurs enfants.
Dans un premier temps, « Explore with Alexa » sera disponible en anglais uniquement, mais l’internationalisation est prévue plus tard.
Il est cependant plus difficile pour Amazon d’estimer quand une telle fonction d’intelligence artificielle sera disponible pour les enfants.
« Je ne peux pas vous donner de calendrier, car nous n’avons pas encore de réponse concrète sur ce que nous allons faire exactement, bien que nous ayons des plans et des expériences que nous prévoyons d’étudier », déclare Venkataswamy. « Nous travaillons en étroite collaboration avec l’équipe Family Trust d’Amazon, qui est en relation avec diverses institutions de recherche aux États-Unis… Nous voulons être en mesure d’obtenir l’assurance de partenaires externes que notre approche est la bonne », ajoute-t-il.