Il est difficile de nouer et d’entretenir des relations, et le COVID-19 n’a certainement pas aidé. De nombreuses études ont montré que les adultes se sentent encore plus seuls depuis le début de la pandémie.
Les fondateurs tentent de trouver des solutions technologiques. De nombreuses startups cherchent à combattre la solitude – certaines ont été créées des années avant la pandémie – notamment ElliQ et Replika, qui créent un compagnon IA, et Pi, un robot de soutien émotionnel d’Infection AI, qui s’adressent aux personnes âgées. Mais un nouveau venu a vraiment attiré mon attention cette semaine : Amorai.
La startup a construit un coach relationnel IA pour aider les gens à se développer et à favoriser les connexions dans la vie réelle en offrant des conseils et des réponses aux questions sur les relations. La société a été fondée par l’ancien PDG de Tinder, Renate Nyborg, et a été incubée dans le AI Fund d’Andrew Ng. L’entreprise vient de lever un montant non divulgué de financement de pré-amorçage qui n’a pris que 24 heures, a déclaré Nyborg au podcast Recode Media de Vox en avril dernier.
Bien que la lutte contre la solitude soit une excellente mission – et que certains groupes de personnes soient plus enclins à discuter avec un robot qu’avec un humain – il semble que cela puisse très vite mal tourner. Mais qu’est-ce que j’en sais ? J’ai donc interrogé un expert.
Il s’avère que je ne suis pas le seul à me méfier de ce concept. Maarten Sap, professeur à l’université Carnegie Mellon et chercheur à l’institut d’IA à but non lucratif Allen Institute, partage mon inquiétude. Les recherches de M. Sap portent sur l’intégration du bon sens social et de l’intelligence sociale dans l’IA. Il a également mené des recherches sur le développement de modèles d’apprentissage du langage profond qui aident à comprendre la cognition humaine. En résumé, il en sait long sur la manière dont l’IA interagit avec les humains.
Sap m’a dit que l’idée de créer une solution technologique pour favoriser les relations dans la vie réelle est admirable, et qu’il existe des preuves tangibles que l’IA pourra être utilisée pour lutter contre ce type de problèmes, mais que celle-ci le fait hésiter.
« Je dis cela avec un esprit ouvert, mais je ne pense pas que cela fonctionnera », a-t-il déclaré. « Ont-ils fait les études qui montrent comment cela fonctionnera ? Est-ce que (Amorai) augmente les compétences sociales (des utilisateurs) ? Parce que oui, je ne sais pas dans quelle mesure ces choses se transposent ».
Ce qui l’inquiète le plus, dit-il, c’est que ce type d’application donnera à tous ses utilisateurs les mêmes conseils, bons ou mauvais, et qu’il sera difficile pour l’IA de saisir les nuances de certaines relations. De plus, les gens feraient-ils confiance aux conseils de l’IA plutôt qu’à ceux d’une autre personne ?
« L’idée des dragueurs m’est venue à l’esprit », a déclaré M. Sap. « Est-ce que cela va vous donner des conseils pour dire à un groupe d’hommes hétérosexuels de harceler les femmes ou d’essayer de coucher avec elles ? Ou y a-t-il des garde-fous à ce sujet ? »
Si le modèle est conçu pour apprendre de lui-même, il pourrait créer une chambre d’écho basée sur les types de questions que les gens posent. Cela pourrait orienter le modèle vers une direction problématique s’il n’est pas contrôlé. Les utilisateurs de Bing l’ont peut-être déjà appris à leurs dépens lorsque l’IA leur a dit qu’ils étaient malheureux dans leur mariage.
Sap a déclaré que l’un des moyens de faire fonctionner cette application serait d’y ajouter une touche humaine. Une surveillance humaine pour s’assurer que l’application donne les bons conseils aux bonnes personnes pourrait en faire un outil puissant. Mais nous ne savons pas si c’est le cas, car l’entreprise ne répond pas aux questions et n’accepte pas d’interviews.
Ce tour de table met également en évidence l’ampleur de l’engouement pour l’IA. Quelqu’un qui fait des recherches dans ce domaine tous les jours ne voit pas comment cette entreprise pourrait vraiment fonctionner, et pourtant Amorai a obtenu des fonds en 24 heures de pré-lancement dans un marché difficile.
Bien sûr, les investisseurs en savent plus sur l’entreprise que ce qui est publié, et bien sûr, ces préoccupations peuvent servir de retour d’information pour la startup. Mais comme beaucoup de startups d’IA, je dois supposer qu’elle construit avec de bonnes intentions, même si je n’ai rien de concret pour le prouver.
Je ne pense pas non plus qu’il s’agisse d’un petit tour de pré-amorçage – ce que je suppose généralement lorsqu’une entreprise ne divulgue pas le montant total du financement ; s’il était important, vous voudriez que les gens le sachent – mais dans ce cas, je pense que c’est probablement l’inverse. Il y a beaucoup de pression à lever beaucoup d’argent avant d’exécuter ou de trouver l’adéquation produit-marché.
« Lorsque j’entends parler de ce type d’idées et de startups, cela part d’un bon sentiment, mais il s’agit souvent d’un état d’esprit de solutionniste technologique », a déclaré M. Sap.