La Chine réglemente l'utilisation des IA génératives

Pour autant, l'ensemble des outils et contenus proposés à la population devront "être conformes aux valeurs socialistes fondamentales de la Chine", auxquels les développeurs devront adhérer, selon les termes de la déclaration de la CAC.Tout contenu constituant une menace pour la sécurité du pays ou subversif vis-à-vis du pouvoir de l'Etat et du système socialiste est interdit de création et de diffusion. Les développeurs d'iA génératives sont responsables devant l'Etat de la détection, du signalement et de la correction des contenus illégaux.

Des formalités administratives préventives doivent permettre de faire respecter ces règles : les outils susceptibles d'influencer l'opinion publique devront s'enregistrer auprès des autorités compétentes et les fournisseurs d'IA générative doivent obtenir une licence pour fonctionner. Les fournisseurs de services ont l'obligation de faire des évaluation de sécurité de leur produit et de s'assurer que les données personnelles des utilisateurs sont sécurisées.

L'administration chinoise du cyberespace prévoit également que toute discrimination fondée sur l'origine ethnique, le sexe, l'âge, la profession ou l'état de santé est interdite pour les IA .Elle recommande par ailleurs aux fournisseurs de services de créer un système protégeant les personnes mineures contre la dépendance. 

Par ailleurs, la Chine réglemente pour la première fois l'utilisation des contenus protégés par le droit d'auteur en spécifiant : "Les fournisseurs de services devront s'assurer que les droits de propriété intellectuelle ne sont pas enfreints", et en conseillant d'utiliser des sources de données légitimes, qui ne violent pas les droits de propriété intellectuelle. Enfin, certaines règles organisent la transparence et l'étiquetage des contenus générés par les outils d'IA.

La Chine tente d'imaginer ici un équilibre périlleux entre les principes fondamentaux du parti communiste et sa volonté de devenir d'ici 2030 le leader mondial des technologies d'IA. Tel qu'il est imaginé par cette déclaration de la CAC, il impose aux outils d'IA générative chinois soit de restreindre les données d'entraînement à celles qui sont conformes aux lignes politiques du parti, soit de biaiser les réponses aux requêtes en soumettant les résultats à une grille de censure. La perte de puissance qui en découlera devra cependant être la moins importante possible pour éviter que dans ce jeu de concurrence entre les Etats, la Chine ne sorte économiquement perdante.