Os recentes alertas de líderes americanos em IA criaram a impressão de que o mundo está apenas a começar a enfrentar os perigos da inteligência artificial avançada.
Dario Amodei, diretor executivo da empresa tecnológica Anthropic, pediu aos governos que intervenham para abrandar o desenvolvimento de modelos de IA.
A sua proposta começa com avaliadores independentes inseridos em empresas de IA, passa pela regulamentação e avança para a coordenação entre estados democráticos com apoio governamental.
Em última análise, procura acordos globais com a China sobre testes de sistemas de IA, aplicações perigosas da tecnologia e o ritmo de desenvolvimento da IA.
No entanto, existe uma lacuna em forma de China nesta narrativa. A superpotência asiática é retratada como a participante final e difícil num sistema de governação que os EUA e os seus aliados devem primeiro criar.
Na verdade, a China já estabeleceu um extenso sistema de regras, avaliação, registo, normas técnicas e supervisão governamental para a IA. Veja como o sistema de governação de IA da China se desenvolveu por etapas, acompanhando o desenvolvimento da própria tecnologia.
As regras de Pequim de 2022 sobre serviços de recomendação algorítmica aplicam-se a tecnologias que selecionam, classificam, filtram ou recomendam conteúdos online aos utilizadores.
Obrigam as empresas que utilizam algoritmos a examinar o seu funcionamento, a proteger as informações pessoais dos utilizadores, a conceder aos utilizadores determinados controlos e a introduzir medidas de segurança para trabalhadores, consumidores, crianças e idosos.
da China sobre a síntese profunda, em vigor desde janeiro de 2023, alargaram a regulamentação aos textos, imagens, áudios e vídeos sintéticos (ou gerados por IA). As empresas de IA devem autenticar os utilizadores, proteger os dados, manter registos relevantes, avaliar os seus sistemas e identificar material sintético que possa ser confundido com conteúdo autêntico.
As medidas provisórias para os serviços de inteligência artificial generativa foram introduzidas em agosto de 2023.Estas medidas acrescentaram regras para a IA generativa orientada para o público, particularmente aquelas que podem influenciar a opinião pública ou persuadir os utilizadores de outras formas.
As medidas aplicam-se à legalidade e qualidade dos dados de formação, às informações pessoais dos utilizadores, à propriedade intelectual e à discriminação com base em características protegidas. As regras também abrangem a transparência das empresas de IA e a precisão e fiabilidade dos produtos.
De acordo com as normas, as empresas devem resolver os problemas encontrados nos seus serviços. Estes serviços devem passar por uma avaliação de segurança para examinar os seus riscos e a conformidade com a legislação chinesa. As empresas devem também fornecer informações sobre os seus algoritmos às autoridades chinesas.
Estes mecanismos não são idênticos aos avaliadores independentes que seriam incorporados nas empresas de IA, como proposto por Amodei. Mas desempenham algumas das mesmas funções.
Riscos de fronteira
O conjunto mais recente de medidas de Pequim é denominado IA 3.0 Security Governance Framework, publicado em setembro de 2026. Estabelece uma abordagem abrangente para identificar, classificar e responder aos riscos ao longo do ciclo de vida dos sistemas de IA.
Com base em versões anteriores, a estrutura abrange riscos de modelos e dados de IA, vulnerabilidades em modelos de código aberto (aqueles que podem ser modificados livremente pelos utilizadores), os efeitos da IA no emprego e na sociedade, e sistemas cada vez mais autónomos.
Inclui um mecanismo específico para gerir os riscos associados ao rápido desenvolvimento de agentes de IA (sistemas que executam tarefas em resposta a instruções do utilizador).
A estrutura aborda alguns dos mesmos perigos que agora geram alarme em Silicon Valley, incluindo sistemas altamente autónomos, o uso indevido de tecnologias químicas, biológicas e nucleares e a possibilidade de os humanos perderem o controlo da IA avançada. Propõe avaliações contínuas de segurança, salvaguardas baseadas no risco, humanos no comando e mecanismos de intervenção de emergência.
Uma análise independente realizada pelo think tank norte-americano Carnegie Endowment for International Peace descreveu a estrutura como uma tentativa da China de "promover a segurança das fronteiras sem a necessidade de intervenções regulatórias autoritárias".
Consequências legais
Nada disto significa que as regras chinesas de IA devam ser transplantadas para outros locais. As suas instituições, tradições regulatórias e prioridades tecnológicas são diferentes.
Muitas funções agora apresentadas como aspirações urgentes nos EUA, incluindo a avaliação, a responsabilização das empresas de IA, a classificação de risco para os sistemas de IA, o registo regulamentar, as normas técnicas e a supervisão governamental, já estão incorporadas na arquitetura de governação da outra superpotência mundial em IA.
Os EUA têm a liberdade de concluir que um sistema orientado para o mercado serve melhor os seus interesses económicos e estratégicos. A administração Trump tem favorecido uma "minimamente onerosa" à IA e procurado limitar as regulamentações estaduais mais rigorosas.
Mas um modelo orientado pelo mercado não pode significar privatizar os lucros da IA enquanto se exportam os seus riscos. As empresas americanas podem captar os ganhos comerciais, enquanto os governos de outros países ficam encarregues de investigar incidentes de segurança, proteger os sistemas públicos e absorver os custos mais amplos quando estas tecnologias falham. O agente da OpenAI que obteve acesso não autorizado ao serviço público de saúde da Austrália demonstra como os riscos da IA estão a ser exportados.
Se Washington rejeitar controlos extensivos antes da libertação dos sistemas, os EUA precisam de um regime jurídico credível para avaliar quem é responsável pelos danos causados por estes modelos de IA. Caso contrário, os países dependentes de sistemas de IA estrangeiros enfrentarão escolhas cada vez mais difíceis sobre em que tecnologia confiar e em que termos.
O princípio que rege o Silicon Valley há muito tempo é "agir rapidamente e quebrar paradigmas". Este princípio sempre foi questionável para tecnologias tão presentes na vida pública. É insustentável para as empresas cujos próprios líderes alertam agora que os seus produtos podem causar danos catastróficos.
Pequim já cercou o seu sector de IA com obrigações públicas, supervisão regulamentar e uma estrutura em constante evolução para a avaliação de riscos. Um debate global que trate esta governação como uma aspiração futura deveria, no mínimo, reconhecer que um país já está à frente neste aspecto.
Madeline Carr, Professora de Política Global e Cibersegurança, UCL.
Este artigo foi republicado do The Conversation sob uma licença Creative Commons. Leia o artigo original.
