Afin de donner aux femmes universitaires et autres spécialistes de l’IA un temps de parole bien mérité, TechCrunch lance une série d’entretiens sur des femmes remarquables qui ont contribué à la révolution de l’IA. Nous publierons des articles tout au long de l’année, à mesure que l’essor de l’IA se poursuivra, afin de mettre en lumière des travaux essentiels qui restent souvent méconnus. Lisez d’autres profils ici.
Emilia Gómez est chercheuse principale au Centre commun de recherche de la Commission européenne et coordinatrice scientifique d’AI Watch, l’initiative de la CE visant à surveiller les progrès, l’adoption et l’impact de l’IA en Europe.Son équipe contribue, par ses connaissances scientifiques et techniques, aux politiques communautaires en matière d’IA, notamment à la loi sur l’IA récemment proposée.
Les recherches de Mme Gómez sont ancrées dans le domaine de la musique informatique, où elle contribue à la compréhension de la manière dont les humains décrivent la musique et des méthodes par lesquelles elle est modélisée numériquement. À partir du domaine de la musique, Mme Gómez étudie l’impact de l’IA sur le comportement humain, en particulier les effets sur les emplois, les décisions et le développement cognitif et socio-émotionnel des enfants.
Q&A
En quelques mots, comment avez-vous commencé à travailler dans le domaine de l’IA ? Qu’est-ce qui vous a attiré dans ce domaine ?
J’ai commencé mes recherches en IA, en particulier dans le domaine de l’apprentissage automatique, en développant des algorithmes pour la description automatique des signaux audio musicaux en termes de mélodie, de tonalité, de similarité, de style ou d’émotion, qui sont exploités dans différentes applications allant des plateformes musicales à l’éducation. J’ai commencé à chercher comment concevoir de nouvelles approches d’apprentissage automatique pour traiter différentes tâches informatiques dans le domaine de la musique, et sur la pertinence du pipeline de données, y compris la création et l’annotation d’ensembles de données. Ce qui m’a plu à l’époque dans l’apprentissage automatique, ce sont ses capacités de modélisation et le passage d’une conception d’algorithme axée sur les connaissances à une conception axée sur les données – par exemple, au lieu de concevoir des descripteurs basés sur notre connaissance de l’acoustique et de la musique, nous utilisions désormais notre savoir-faire pour concevoir des ensembles de données, des architectures et des procédures d’entraînement et d’évaluation.
Grâce à mon expérience en tant que chercheur en apprentissage automatique et en voyant mes algorithmes « en action » dans différents domaines, des plateformes musicales aux concerts de musique symphonique, j’ai réalisé l’impact considérable de ces algorithmes sur les personnes (par exemple, les auditeurs, les musiciens) et j’ai orienté mes recherches vers l’évaluation de l’IA plutôt que vers le développement, en particulier sur l’étude de l’impact de l’IA sur le comportement humain et sur la manière d’évaluer les systèmes en termes d’équité, de supervision humaine ou de transparence. C’est le thème de recherche actuel de mon équipe au Centre commun de recherche.
De quel travail êtes-vous le plus fier (dans le domaine de l’IA) ?
Sur le plan académique et technique, je suis fier de mes contributions aux architectures d’apprentissage automatique spécifiques à la musique au sein du Music Technology Group à Barcelone, qui ont fait progresser l’état de l’art dans ce domaine, comme en témoignent mes citations. Par exemple, pendant mon doctorat, j’ai proposé un algorithme basé sur les données pour extraire la tonalité des signaux audio (par exemple, si un morceau de musique est en do majeur ou en ré mineur) qui est devenu une référence clé dans le domaine, et plus tard j’ai co-conçu des méthodes d’apprentissage automatique pour la description automatique des signaux musicaux en termes de mélodie (par exemple, utilisé pour rechercher des chansons en fredonnant), de tempo ou pour la modélisation des émotions dans la musique. La plupart de ces algorithmes sont actuellement intégrés dans Essentia, une bibliothèque open source pour l’analyse, la description et la synthèse audio et musicale, et ont été exploités dans de nombreux systèmes de recommandation.
Je suis particulièrement fier de Banda Sonora Vital (LifeSoundTrack), un projet récompensé par le prix de la Croix-Rouge pour les technologies humanitaires, dans le cadre duquel nous avons développé un système de recommandation musicale personnalisé adapté aux personnes âgées atteintes de la maladie d’Alzheimer. Il y a aussi PHENICX, un grand projet financé par l’Union européenne (UE) que j’ai coordonné sur l’utilisation de la musique et de l’IA pour créer des expériences musicales symphoniques enrichies.
J’aime la communauté de l’informatique musicale et j’ai été heureuse de devenir la première femme présidente de l’International Society for Music Information Retrieval, à laquelle j’ai contribué tout au long de ma carrière, avec un intérêt particulier pour l’augmentation de la diversité dans ce domaine.
Actuellement, dans mon rôle à la Commission, que j’ai rejoint en 2018 en tant que scientifique principal, je fournis un soutien scientifique et technique aux politiques d’IA élaborées dans l’UE, notamment la loi sur l’IA. De ce travail récent, qui est moins visible en termes de publications, je suis fier de mes humbles contributions techniques à l’AI Act – je dis « humbles » car vous pouvez deviner qu’il y a beaucoup de personnes impliquées ici ! Par exemple, j’ai contribué à de nombreux travaux sur l’harmonisation ou la traduction de termes juridiques et techniques (par exemple en proposant des définitions fondées sur la littérature existante) et sur l’évaluation de la mise en œuvre pratique des exigences légales, telles que la transparence ou la documentation technique pour les systèmes d’IA à haut risque, les modèles d’IA à usage général et l’IA générative.
Je suis également très fier du travail accompli par mon équipe pour soutenir la directive européenne sur la responsabilité en matière d’IA, dans le cadre de laquelle nous avons étudié, entre autres, les caractéristiques particulières qui rendent les systèmes d’IA intrinsèquement risqués, telles que l’absence de causalité, l’opacité, l’imprévisibilité ou leurs capacités d’auto-apprentissage et d’apprentissage continu, et évalué les difficultés associées lorsqu’il s’agit de prouver le lien de causalité.
Comment faites-vous pour relever les défis de l’industrie technologique dominée par les hommes et, par extension, de l’industrie de l’IA dominée par les hommes ?
Il n’y a pas que la technologie : je navigue aussi dans un domaine de recherche et de politique de l’IA dominé par les hommes ! Je n’ai pas de technique ou de stratégie, car c’est le seul environnement que je connaisse. Je ne sais pas ce qu’il en serait de travailler dans un environnement diversifié ou dominé par les femmes. Comme le dit la chanson des Beach Boys, « Wouldn’t it be nice » (ce serait bien, non ?). J’essaie honnêtement d’éviter la frustration et de m’amuser dans ce contexte difficile, en travaillant dans un monde dominé par des hommes très sûrs d’eux et en appréciant de collaborer avec d’excellentes femmes dans ce domaine.
Quels conseils donneriez-vous aux femmes qui souhaitent entrer dans le domaine de l’IA ?
Je leur dirais deux choses :
Nous avons grand besoin de vous – veuillez entrer dans notre domaine, car il y a un besoin urgent de diversité de visions, d’approches et d’idées. Par exemple, selon le projet divinAI – un projet que j’ai cofondé sur le suivi de la diversité dans le domaine de l’IA – seuls 23 % des noms d’auteurs à la Conférence internationale sur l’apprentissage automatique et 29 % à la Conférence internationale conjointe sur l’IA en 2023 étaient des femmes, quelle que soit leur identité de genre.
Vous n’êtes pas seule – il y a beaucoup de femmes, de collègues non binaires et d’alliés masculins dans le domaine, même si nous ne sommes pas si visibles ou reconnus. Recherchez-les et bénéficiez de leur mentorat et de leur soutien ! Dans ce contexte, il existe de nombreux groupes d’affinité dans le domaine de la recherche. Par exemple, lorsque je suis devenue présidente de l’International Society for Music Information Retrieval, j’ai été très active dans l’initiative Women in Music Information Retrieval, pionnière en matière de diversité dans l’informatique musicale et dotée d’un programme de mentorat très fructueux.
Quels sont les problèmes les plus urgents auxquels l’IA est confrontée au fur et à mesure de son évolution ?
À mon avis, les chercheurs devraient consacrer autant d’efforts au développement de l’IA qu’à son évaluation, car il y a actuellement un manque d’équilibre. La communauté des chercheurs est tellement occupée à faire progresser l’état de l’art en termes de capacités et de performances de l’IA et tellement enthousiaste à l’idée de voir ses algorithmes utilisés dans le monde réel qu’elle en oublie de procéder à des évaluations, à des études d’impact et à des audits externes adéquats. Plus les systèmes d’IA sont intelligents, plus leurs évaluations doivent l’être aussi. Le domaine de l’évaluation de l’IA est sous-étudié, ce qui est à l’origine de nombreux incidents qui donnent à l’IA une mauvaise réputation, par exemple les préjugés sexistes ou raciaux présents dans les ensembles de données ou les algorithmes.
Quels sont les problèmes dont les utilisateurs de l’IA devraient être conscients ?
Les citoyens qui utilisent des outils alimentés par l’IA, comme les robots de conversation, doivent savoir que l’IA n’est pas magique. L’intelligence artificielle est un produit de l’intelligence humaine. Ils doivent connaître les principes de fonctionnement et les limites des algorithmes d’IA pour pouvoir les remettre en question et les utiliser de manière responsable. Il est également important que les citoyens soient informés de la qualité des produits d’IA, de la manière dont ils sont évalués ou certifiés, afin qu’ils sachent à quels produits ils peuvent faire confiance.
Quelle est la meilleure façon de développer l’IA de manière responsable ?
Selon moi, la meilleure façon de développer des produits d’IA (avec un bon impact social et environnemental et de manière responsable) est de consacrer les ressources nécessaires à l’évaluation, à l’appréciation de l’impact social et à l’atténuation des risques – par exemple, pour les droits fondamentaux – avant de mettre un système d’IA sur le marché. Il en va de l’intérêt des entreprises et de la confiance dans les produits, mais aussi de la société.
L’IA responsable ou l’IA digne de confiance est une manière de construire des algorithmes où des aspects tels que la transparence, l’équité, la surveillance humaine ou le bien-être social et environnemental doivent être pris en compte dès le début du processus de conception de l’IA. En ce sens, la loi sur l’IA ne fixe pas seulement la barre pour la réglementation de l’intelligence artificielle au niveau mondial, mais elle reflète également l’accent mis par l’Europe sur la fiabilité et la transparence – permettant l’innovation tout en protégeant les droits des citoyens. Je pense que cela renforcera la confiance des citoyens dans le produit et la technologie.