Avec son nouveau programme de subventions, l’OpenAI vise à faire émerger la réglementation de l’IA par la foule.

Avec son nouveau programme de subventions, l’OpenAI vise à faire émerger la réglementation de l’IA par la foule.

L’OpenAI lance un programme d’attribution de dix bourses de 100 000 dollars pour financer des expériences de mise en place d’un processus démocratique permettant de décider des règles que les systèmes d’IA doivent suivre, « dans les limites définies par la loi ».

Le lancement du programme de subventions fait suite aux appels de l’OpenAI en faveur d’un organisme international de réglementation de l’IA, semblable à celui qui régit l’énergie nucléaire. Dans leur proposition, les cofondateurs de l’OpenAI, Sam Altman, Greg Brockman et Ilya Sutskever, ont fait valoir que le rythme de l’innovation dans le domaine de l’IA est si rapide que nous ne pouvons pas attendre des autorités existantes qu’elles contrôlent la technologie de manière adéquate – un sentiment que l’annonce d’aujourd’hui reflète également.

Concrètement, OpenAI indique qu’elle cherche à financer des individus, des équipes et des organisations pour développer des preuves de concept pour un « processus démocratique » qui pourrait répondre aux questions sur les garde-fous de l’IA. L’entreprise souhaite tirer des enseignements de ces expériences et les utiliser comme base pour un processus plus global – et plus ambitieux – à l’avenir.

« Bien que ces expériences initiales ne soient pas (du moins pour l’instant) destinées à être contraignantes pour les décisions, nous espérons qu’elles explorent des questions pertinentes pour les décisions et construisent de nouveaux outils démocratiques qui peuvent plus directement informer les décisions à l’avenir », a écrit l’entreprise dans un billet de blog publié aujourd’hui. « Cette subvention représente une étape dans la mise en place de processus démocratiques pour superviser la superintelligence.

A lire aussi  La concurrence dans le domaine de la production de vidéos d'IA s'intensifie avec la présentation de Haiper par les anciens élèves de Deepmind

Avec les subventions, fournies par l’organisation à but non lucratif d’OpenAI, OpenAI espère établir un processus reflétant l’idéal platonicien de la démocratie : un groupe « largement représentatif » de personnes échangeant des opinions, s’engageant dans des discussions « délibérées » et décidant finalement d’un résultat via un processus de prise de décision transparent. Idéalement, selon l’OpenAI, le processus permettra de répondre à des questions telles que « Dans quelles conditions les systèmes d’IA devraient-ils condamner ou critiquer des personnalités publiques, compte tenu des différentes opinions des groupes concernant ces personnalités ? » et « Comment les opinions divergentes devraient-elles être représentées dans les résultats de l’IA ? »

« L’objectif principal de cette subvention est d’encourager l’innovation dans les processus – nous avons besoin de méthodes démocratiques améliorées pour régir le comportement de l’IA », écrit l’OpenAI. « Nous pensons que les décisions concernant le comportement de l’IA devraient être façonnées par des perspectives diverses reflétant l’intérêt public. »

Dans l’annonce, OpenAI laisse entendre que le programme de subvention est entièrement dissocié de ses intérêts commerciaux. Mais c’est une pilule un peu dure à avaler, étant donné les récentes critiques d’Altman sur la proposition de réglementation de l’IA dans l’UE. Le moment semble également bien choisi, après la comparution d’Altman devant la commission du Congrès du Sénat américain la semaine dernière, où il a plaidé en faveur d’un type très spécifique de réglementation de l’IA qui aurait un effet minimal sur la technologie d’OpenAI telle qu’elle existe aujourd’hui.

Cependant, même si le programme finit par être intéressé, il s’agit d’une direction intéressante pour l’élaboration de politiques en matière d’IA (bien qu’elle fasse double emploi avec les efforts de l’UE à certains égards évidents). Pour ma part, je suis curieux de voir quels types d’idées de « processus démocratiques » émergeront – et quels candidats l’OpenAI finira par choisir.

A lire aussi  Microsoft lance un outil d'IA pour simplifier la création de sites web

Les gens peuvent poser leur candidature au programme de subventions de l’OpenAI à partir d’aujourd’hui – la date limite est le 24 juin à 21 heures (PDT). Une fois la période de candidature clôturée, OpenAI sélectionnera dix lauréats. Ces derniers devront présenter un concept impliquant au moins 500 participants, publier un rapport public sur leurs conclusions avant le 20 octobre et mettre en open source le code qui sous-tend leur travail.

IA