Afin de rester pertinent dans le domaine en pleine explosion de l’IA, Meta lance une nouvelle organisation, la Open Innovation AI Research Community, pour favoriser ce qu’elle décrit comme « la transparence, l’innovation et la collaboration » entre les chercheurs en IA.
Dans un premier temps, le groupe se concentrera sur la confidentialité, la sûreté et la sécurité des grands modèles de langage tels que le ChatGPT d’OpenAI, sur l’amélioration des modèles d’IA et sur l’établissement d’un programme de recherche pour l’avenir. Meta indique qu’elle s’attend à ce que ses propres chercheurs participent à l’organisation, mais la communauté de recherche Open Innovation AI sera « dirigée par les membres », le groupe de recherche et développement de Meta, Meta AI, ne jouant qu’un rôle de « facilitateur ».
« Le groupe deviendra une communauté de pratique défendant de grands modèles de fondation à source ouverte où les partenaires peuvent collaborer et s’engager les uns avec les autres, partager des apprentissages et soulever des questions sur la façon de construire des modèles de fondation responsables et sûrs », écrit Meta dans un article de blog. « Ils accéléreront également la formation de la prochaine génération de chercheurs.
Meta a l’intention de parrainer une série d’ateliers axés sur des « questions de recherche critiques ouvertes » et sur le « développement de lignes directrices pour le développement et la publication de modèles open source responsables ». Mais les détails restent vagues. Selon Meta, la communauté de recherche sur l’innovation ouverte en matière d’IA pourrait éventuellement avoir un site web, des canaux sociaux pour collaborer, et des soumissions de recherche à des conférences universitaires, mais il ne s’engage à rien de tout cela.
Les membres de la communauté de recherche sur l’innovation ouverte en matière d’IA sont probablement tenus de financer leur travail. Meta n’a pas indiqué qu’il mettrait de côté des capitaux ou des ordinateurs pour les efforts du groupe – en toute honnêteté, probablement pour éviter la perception d’une influence indue. Mais ce n’est pas gagné d’avance, si l’on tient compte des dépenses considérables associées à la recherche sur l’IA.
« Meta investit depuis longtemps dans le monde universitaire, en formant la prochaine génération de chercheurs et d’ingénieurs et en renforçant l’interaction entre les disciplines de l’IA qui peuvent traditionnellement être cloisonnées », a déclaré Joelle Pineau, vice-présidente de la recherche sur l’IA chez Meta, à TechCrunch par courrier électronique. « L’initiative Open Innovation AI Research Community est la prochaine étape de notre engagement continu à approfondir notre compréhension du développement responsable et du partage de grands modèles de langage aux côtés des chercheurs universitaires. Nous sommes impatients de partager plus d’informations à ce sujet prochainement. »
Franchement, l’initiative Open Innovation AI Research Community apparaît comme une performance de la part d’une entreprise qui a souvent flirté avec la controverse en ce qui concerne l’IA.
À la fin de l’année dernière, Meta a été contraint de retirer une démo d’IA après la publication de documents scientifiques racistes et inexacts. Des rapports ont qualifié l’équipe d’éthique de l’IA de Meta d’édentée et les outils anti-intelligence qu’elle a mis en place de « complètement insuffisants ». Entre-temps, des universitaires ont accusé Meta d’exacerber les inégalités socio-économiques dans ses algorithmes de diffusion de publicités et de faire preuve de partialité à l’égard des utilisateurs noirs dans ses systèmes de modération automatisés.
La communauté de recherche sur l’innovation ouverte en matière d’IA va-t-elle changer tout cela ? Cela semble peu probable. Meta encourage les « professeurs d’universités accréditées » ayant une « expérience pertinente en matière d’IA » à participer, mais cet auteur se demande pourquoi ils le feraient, compte tenu de l’existence de communautés de recherche ouvertes sur l’apprentissage automatique qui ne sont affiliées à aucune entreprise de la Big Tech.
Peut-être que je me tromperai. Peut-être que la communauté de recherche en innovation ouverte sur l’IA de Meta tiendra ses promesses, créant « un ensemble de dynamiques positives pour favoriser des modèles plus robustes et plus représentatifs », comme l’écrit Meta. Mais je m’interroge sur la sincérité et le niveau de dévouement de Meta – en particulier si l’on considère le peu de ressources engagées dès le départ.
La date limite de candidature à la Communauté de recherche sur l’IA en innovation ouverte est fixée au 10 septembre. Meta indique qu’elle accueille des candidats de « diverses disciplines de recherche » et de « capacités techniques pour poursuivre la recherche », et que plusieurs participants d’une même université peuvent se porter candidats.