Las recientes advertencias de los líderes estadounidenses en inteligencia artificial han creado la impresión de que el mundo apenas está comenzando a afrontar los peligros de la inteligencia artificial avanzada.
Dario Amodei, director ejecutivo de la empresa tecnológica Anthropic, ha pedido a los gobiernos que intervengan para frenar el desarrollo de modelos de IA.
Su propuesta comienza con evaluadores independientes integrados en las empresas de IA, continúa con la regulación y avanza hacia la coordinación respaldada por el gobierno entre los estados democráticos.
En definitiva, busca acuerdos globales con China sobre las pruebas de sistemas de IA, las aplicaciones peligrosas de la tecnología y el ritmo de desarrollo de la IA.
Sin embargo, existe una laguna en esta narrativa: China. La superpotencia asiática es retratada como el participante final y difícil en un sistema de gobernanza que Estados Unidos y sus aliados deben crear primero.
De hecho, China ya ha establecido un extenso sistema de normas, evaluación, registro, estándares técnicos y supervisión gubernamental para la IA. A continuación, se describe cómo el sistema de gobernanza de la IA en China se ha desarrollado por etapas, paralelamente al desarrollo de la propia tecnología.
Las normas de Pekín de 2022 sobre servicios de recomendación algorítmica se aplican a las tecnologías que seleccionan, clasifican, filtran o recomiendan contenido en línea a los usuarios.
Obligan a las empresas que utilizan algoritmos a examinar cómo funcionan, a proteger la información personal de los usuarios, a otorgarles ciertos controles y a introducir medidas de protección para los trabajadores, los consumidores, los niños y las personas mayores.
chinas sobre síntesis profunda, vigentes desde enero de 2023, extendieron la regulación a textos, imágenes, audio y video sintéticos (o generados por IA). Las empresas de IA deben autenticar a los usuarios, proteger los datos, conservar los registros pertinentes, evaluar sus sistemas e identificar el material sintético que podría confundirse con contenido auténtico.
Las medidas provisionales para los servicios de inteligencia artificial generativa se introdujeron en agosto de 2023.Estas medidas añadieron normas para la IA generativa orientada al público, en particular para aquellas que pueden influir en la opinión pública o persuadir a los usuarios de otras maneras.
Las medidas se aplican a la legalidad y calidad de los datos de entrenamiento, la información personal de los usuarios, la propiedad intelectual y la discriminación basada en características protegidas. Las normas también abarcan la transparencia de las empresas de IA y la precisión y fiabilidad de los productos.
Según la normativa, las empresas deben solucionar los problemas detectados en sus servicios. Estos servicios deben someterse a una evaluación de seguridad para analizar sus riesgos y su conformidad con la legislación china. Asimismo, las empresas deben presentar información sobre sus algoritmos ante las autoridades chinas.
Estos mecanismos no son idénticos a los evaluadores independientes que se integrarían en las empresas de IA, como ha propuesto Amodei. Sin embargo, cumplen algunas de las mismas funciones.
Riesgos fronterizos
El último conjunto de medidas de Pekín se denomina Marco de gobernanza de seguridad de la IA 3.0, publicado en septiembre de 2026. Este marco establece un enfoque amplio para identificar, clasificar y responder a los riesgos a lo largo del ciclo de vida de los sistemas de IA.
Partiendo de versiones anteriores, el marco abarca los riesgos de los modelos y los datos de IA, las vulnerabilidades de los modelos de código abierto (aquellos que pueden ser modificados libremente por los usuarios), los efectos de la IA en el empleo y la sociedad, y los sistemas cada vez más autónomos.
Incluye un mecanismo específico para gestionar los riesgos asociados al rápido desarrollo de agentes de IA (sistemas que realizan tareas en respuesta a las instrucciones de un usuario).
El marco aborda algunos de los mismos peligros que ahora generan alarma en Silicon Valley, incluidos los sistemas altamente autónomos, el uso indebido de tecnologías químicas, biológicas y nucleares, y la posibilidad de que los humanos pierdan el control de la IA avanzada. Propone evaluaciones de seguridad continuas, medidas de protección basadas en el riesgo, supervisión humana y mecanismos de intervención de emergencia.
Un análisis independiente realizado por el grupo de expertos estadounidense Carnegie Endowment for International Peace ha descrito este marco como un intento de China de "promover la seguridad en las fronteras sin necesidad de intervenciones regulatorias enérgicas".
Consecuencias legales
Nada de esto significa que las normas chinas sobre IA deban trasplantarse a otros lugares. Sus instituciones, tradiciones regulatorias y prioridades tecnológicas son diferentes.
Muchas funciones que ahora se presentan como aspiraciones urgentes en los EE. UU., incluyendo la evaluación, la rendición de cuentas de las empresas de IA, la clasificación de riesgos para los sistemas de IA, la presentación de informes regulatorios, los estándares técnicos y la supervisión gubernamental, ya están integradas en la arquitectura de gobernanza de la otra superpotencia mundial de la IA.
Estados Unidos es libre de concluir que un sistema regido por el mercado es el que mejor se ajusta a sus intereses económicos y estratégicos. La administración Trump ha favorecido un que minimice las restricciones y ha buscado limitar las regulaciones estatales más estrictas.
Pero un modelo impulsado por el mercado no puede significar privatizar los beneficios de la IA mientras se exportan sus riesgos. Las empresas estadounidenses pueden acaparar las ganancias comerciales, mientras que los gobiernos de otros países se ven obligados a investigar incidentes de seguridad, proteger los sistemas públicos y absorber los costos generales cuando estas tecnologías fallan. El agente de OpenAI que obtuvo acceso no autorizado al servicio de salud estatal de Australia demuestra cómo se están exportando los riesgos de la IA.
Si Washington rechaza la imposición de controles exhaustivos antes del lanzamiento de los sistemas, Estados Unidos necesita un marco jurídico creíble para determinar la responsabilidad por los daños causados por esos modelos de IA. De lo contrario, los países que dependen de sistemas de IA extranjeros se enfrentarán a decisiones cada vez más difíciles sobre en qué tecnología confiar y en qué condiciones.
La filosofía que rige Silicon Valley siempre ha sido la de "avanzar rápido y romper esquemas". Este principio siempre ha sido cuestionable para tecnologías tan arraigadas en la vida pública. Resulta insostenible para empresas cuyos propios líderes advierten ahora que sus productos podrían causar daños catastróficos.
Pekín ya ha dotado a su sector de IA de obligaciones públicas, supervisión regulatoria y un marco de evaluación de riesgos en constante evolución. Un debate global que considere dicha gobernanza como una aspiración futura debería, como mínimo, reconocer que un país ya lleva la delantera.
Madeline Carr, catedrática de Política Global y Ciberseguridad de la UCL
Este artículo se republica de The Conversation bajo una licencia Creative Commons. Lea el artículo original.
