Alors que les cas d’utilisation de l’IA générative connaissent une adaptation explosive, la Chine a joué un rôle de premier plan dans la définition des modalités d’utilisation de cette technologie en évolution rapide, y compris un régime d’octroi de licences pour les fournisseurs de services.
Jeudi, le principal régulateur chinois du cyberespace a dévoilé un ensemble de règles provisoires pour régir les services d’IA générative, y compris les fournisseurs d’API, qui desservent les utilisateurs basés en Chine.
La question est donc de savoir si la réaction rapide de la Chine pour maîtriser l’IA générative et ses règles strictes ne vont pas étouffer l’innovation. Les décideurs politiques sont bien conscients de cette préoccupation, soulignant dans le document que les règles visent à « équilibrer le développement et la sécurité ».
Avant tout, les règles exigent des fournisseurs d’IA générative qu’ils adhèrent aux valeurs socialistes fondamentales, qui interdisent tout, de la pornographie au terrorisme en passant par le racisme et les contenus qui menacent la sécurité nationale de la Chine.
Les algorithmes susceptibles d’influencer l’opinion publique doivent être enregistrés auprès des autorités compétentes. Les fournisseurs de services d’IA générative doivent également obtenir une licence administrative conformément à la loi, bien que le document ne précise pas qui est tenu de le faire.
En ce qui concerne la protection des utilisateurs, les règles stipulent que les algorithmes ne doivent pas être discriminatoires sur la base de facteurs tels que l’appartenance ethnique, le sexe, l’âge, la profession ou la santé, et qu’ils ne doivent pas être utilisés à des fins anticoncurrentielles. Les fournisseurs de services sont encouragés à créer un système anti-dépendance pour les utilisateurs mineurs, similaire à ceux utilisés dans les jeux vidéo.
Les fournisseurs de services sont tenus d’identifier et d’arrêter le processus de génération de contenu illégal, puis de corriger les algorithmes et de signaler l’incident à l’autorité compétente. Cela signifie que les invites d’un générateur d’images ou d’un chatbot peuvent potentiellement entraîner des problèmes juridiques pour les individus.
En outre, les autorités de régulation ont le droit de connaître les spécificités d’un modèle d’IA génératif, y compris ses données d’apprentissage, sa taille, son type, ses règles de marquage et ses algorithmes.
Enfin, le développement de l’IA en Chine s’est fait du haut vers le bas. Le document appelle à la création d’une plateforme publique de formation aux données et au partage de la puissance de calcul. Des règles concrètes ont déjà été proposées à Pékin pour une plateforme centralisée, soutenue par l’État, qui alloue les ressources du nuage public en fonction des besoins des clients.
Comme pour d’autres industries essentielles, la Chine appelle à une « innovation autonome » en matière d’algorithmes, de cadres, de puces, de plateformes logicielles et d’autres infrastructures d’IA, tout en encourageant une coopération internationale « égale et mutuellement bénéfique ».