Les avertissements récents des responsables américains de l'IA ont donné l'impression que le monde commence seulement à prendre conscience des dangers de l'intelligence artificielle avancée.
Dario Amodei, directeur général de la société technologique Anthropic, a appelé les gouvernements à intervenir pour ralentir le développement de modèles d'IA.
Sa proposition commence par l'intégration d'évaluateurs indépendants au sein des entreprises d'IA, se poursuit par la réglementation et aboutit à une coordination gouvernementale entre les États démocratiques.
En définitive, elle vise à conclure des accords mondiaux avec la Chine sur les tests des systèmes d'IA, les applications dangereuses de cette technologie et le rythme de développement de l'IA.
Il subsiste pourtant une lacune dans ce récit, celle de la Chine. La superpuissance asiatique est dépeinte comme le dernier acteur difficile à intégrer dans un système de gouvernance que les États-Unis et leurs alliés doivent d'abord mettre en place.
En réalité, la Chine a déjà mis en place un système étendu de règles, d'évaluation, de déclaration, de normes techniques et de contrôle gouvernemental en matière d'IA. Voici comment le système de gouvernance de l'IA en Chine s'est développé par étapes, parallèlement à l'évolution de la technologie elle-même.
La réglementation de Pékin de 2022 sur les services de recommandation algorithmique s'applique aux technologies qui sélectionnent, classent, filtrent ou recommandent des contenus en ligne aux utilisateurs.
Elles obligent les entreprises qui utilisent des algorithmes à examiner leur fonctionnement, à protéger les informations personnelles des utilisateurs, à leur donner certains contrôles et à mettre en place des mesures de protection pour les travailleurs, les consommateurs, les enfants et les personnes âgées.
chinoise sur la synthèse profonde, entrée en vigueur en janvier 2023, étend la réglementation aux textes, images, fichiers audio et vidéo synthétiques (ou générés par l'IA). Les entreprises spécialisées en IA doivent authentifier les utilisateurs, protéger les données, conserver les enregistrements pertinents, évaluer leurs systèmes et identifier les contenus synthétiques susceptibles d'être confondus avec des contenus authentiques.
Les mesures transitoires relatives aux services d'intelligence artificielle générative ont été introduites en août 2023.Elles ont ajouté des règles pour l'IA générative destinée au public, en particulier celles qui peuvent influencer l'opinion publique ou persuader les utilisateurs d'autres manières.
Ces mesures concernent la légalité et la qualité des données d'entraînement, les données personnelles des utilisateurs, la propriété intellectuelle et la discrimination fondée sur des caractéristiques protégées. Elles portent également sur la transparence des entreprises spécialisées en IA ainsi que sur la précision et la fiabilité de leurs produits.
Conformément à la réglementation, les entreprises doivent remédier aux problèmes identifiés dans leurs services. Ces services doivent faire l'objet d'une évaluation de sécurité afin d'examiner leurs risques et leur conformité à la législation chinoise. Les entreprises doivent également transmettre aux autorités chinoises des informations relatives à leurs algorithmes.
Ces mécanismes ne sont pas identiques aux évaluateurs indépendants qui seraient intégrés aux entreprises d'IA, comme l'a proposé Amodei. Mais ils remplissent certaines des mêmes fonctions.
Risques frontaliers
Le dernier ensemble de mesures de Pékin s'intitule « Cadre de gouvernance de la sécurité de l'IA 3.0 », publié en septembre 2026. Il définit une approche globale pour identifier, évaluer et gérer les risques tout au long du cycle de vie des systèmes d'IA.
S’appuyant sur les versions précédentes, ce cadre couvre les risques liés aux modèles d’IA et aux données, les vulnérabilités des modèles open source (ceux qui peuvent être librement modifiés par les utilisateurs), les effets de l’IA sur l’emploi et la société, ainsi que les systèmes de plus en plus autonomes.
Il comprend un mécanisme dédié à la gestion des risques associés au développement rapide des agents d'IA (systèmes qui exécutent des tâches en réponse aux instructions d'un utilisateur).
Ce cadre aborde certains des dangers qui suscitent actuellement l'inquiétude dans la Silicon Valley, notamment les systèmes hautement autonomes, le détournement des technologies chimiques, biologiques et nucléaires, et le risque de perte de contrôle des intelligences artificielles avancées par l'humain. Il propose des évaluations de sécurité continues, des mesures de protection fondées sur les risques, le maintien du contrôle humain et des mécanismes d'intervention d'urgence.
Une analyse indépendante du groupe de réflexion américain Carnegie Endowment for International Peace a décrit ce cadre comme une tentative de la Chine de « faire progresser la sécurité des frontières sans avoir recours à des interventions réglementaires autoritaires ».
Conséquences juridiques
Cela ne signifie en aucun cas que les règles chinoises en matière d'IA devraient être transposées ailleurs. Ses institutions, ses traditions réglementaires et ses priorités technologiques sont différentes.
De nombreuses fonctions présentées aujourd'hui comme des aspirations urgentes aux États-Unis, notamment l'évaluation, la responsabilité des entreprises d'IA, la classification des risques pour les systèmes d'IA, le dépôt réglementaire, les normes techniques et la surveillance gouvernementale, sont déjà intégrées à l'architecture de gouvernance de l'autre superpuissance mondiale de l'IA.
Les États-Unis sont libres de conclure qu'un système régi par le marché sert au mieux leurs intérêts économiques et stratégiques. L'administration Trump a privilégié une « peu contraignante » en matière d'IA et a cherché à limiter les réglementations étatiques plus exigeantes.
Mais un modèle axé sur le marché ne saurait signifier privatiser les bénéfices de l'IA tout en exportant ses risques. Les entreprises américaines pourraient ainsi capter les gains commerciaux, tandis que les gouvernements d'autres pays devraient enquêter sur les incidents de sécurité, protéger les systèmes publics et absorber les coûts plus importants en cas de défaillance de ces technologies. L'agent OpenAI qui a accédé sans autorisation au système de santé public australien illustre ce phénomène d'exportation des risques liés à l'IA.
Si Washington refuse d'imposer des contrôles rigoureux avant la mise en service des systèmes, les États-Unis ont besoin d'un cadre juridique crédible pour déterminer les responsabilités en cas de dommages causés par ces modèles d'IA. À défaut, les pays dépendants de systèmes d'IA étrangers seront confrontés à des choix de plus en plus difficiles quant aux technologies auxquelles faire confiance et aux conditions de cette confiance.
L'éthique qui règne dans la Silicon Valley a longtemps été celle de « l'innovation rapide et du risque de dérapage ». Ce principe a toujours été discutable pour des technologies profondément ancrées dans la sphère publique. Il est intenable pour des entreprises dont les propres dirigeants avertissent désormais que leurs produits pourraient avoir des conséquences catastrophiques.
Pékin a déjà encadré son secteur de l'IA par des obligations publiques, un contrôle réglementaire et un cadre d'évaluation des risques en constante évolution. Un débat international qui considère une telle gouvernance comme un objectif futur devrait au moins reconnaître qu'un pays est déjà en avance sur son temps.
Madeline Carr, professeure de politique mondiale et de cybersécurité à l'UCL.
Cet article est republié de The Conversation sous licence Creative Commons. Lire l' article original.
