Durante o fim de semana, o CEO da Anthropic, Dario Amodei, pediu às empresas de inteligência artificial (IA), incluindo a sua própria, que abrandassem o ritmo de trabalho. Sam Altman e Elon Musk, líderes das concorrentes OpenAI e xAI, respetivamente, concordaram.
A medida reflete a preocupação generalizada na indústria da IA e, de forma mais ampla, sobre os perigos de sistemas novos e em rápida evolução. Incidentes recentes de grande impacto, como agentes de IA da OpenAI a invadir o sistema de outra empresa e a sequestrar um site público, demonstraram que os sistemas atuais podem ultrapassar os limites de segurança — e sistemas ainda mais capazes estão em desenvolvimento.
A tensão entre segurança e desempenho complica ainda mais a segurança da IA. As empresas hesitarão em limitar o desempenho dos seus modelos em nome da segurança, por receio de perder terreno para a concorrência. O presidente dos EUA, Donald Trump, também rejeitou os apelos para uma desaceleração, por receio de perder terreno para a China.
Isto significa que qualquer esforço bem-sucedido para "acelerar o ritmo do avanço das capacidades para que a prevenção de riscos tenha tempo para acompanhar", como afirma Amodei, exigirá uma cooperação significativa entre as empresas concorrentes – e as nações.
minimização de riscos
As novas tecnologias trazem frequentemente novos riscos e novas preocupações. Muitas vezes, os governos, os investigadores e as empresas encontram formas de gerir estes riscos.
Em 1975, a conferência de Asilomar sobre as então novas tecnologias de ADN contribuiu muito para garantir que a investigação não ultrapassasse a nossa compreensão sobre a segurança e os riscos. Da mesma forma, na década de 1990, o governo dos EUA tentou construir um consenso sobre a limitação da criptografia e da segurança informática.
A situação da IA tem um pormenor adicional: o setor está em plena corrida ao ouro. Os rivais científicos podem até conseguir conter-se, mas os concorrentes comerciais raramente se retraem.
Há precedentes claros de falhas na auto-regulação face à pressão competitiva. No desastre do Boeing 737 Max em 2018, por exemplo, a pressão para chegar à rival Airbus levou a Boeing a ocultar as limitações do Max, o que acabou por custar vidas.
Na corrida da IA, a escala da tensão competitiva é ainda maior. a Anthropic como a OpenAI competem para estabelecer o domínio do mercado antes de procurarem a abertura de capital, que poderá gerar dezenas ou centenas de milhares de milhões de dólares.
E, no âmbito dos Estados-nação, os riscos são ainda maiores, com os EUA e a China a esperarem utilizar a nova tecnologia para obter vantagens geopolíticas.
A política de uma pausa
A proposta de Amodei para abrandar o desenvolvimento assenta num plano de três etapas: incorporar revisores de segurança independentes, estabelecer padrões de segurança coordenados para a indústria nos países democráticos e, por fim, garantir acordos globais. Isto incluiria limites rigorosos às exportações de chips de IA para empresas e países que não concordem em dar prioridade à segurança da IA.
A Anthropic e a OpenAI já concordaram com a primeira fase deste plano, apesar do seu historial de processos judiciais, insultos públicos e sabotagens mútuas na busca pelo domínio do mercado.
Embora os recentes ataques cibernéticos de grande impacto possam tê-las forçado a agir, as principais empresas de IA podem beneficiar de uma pausa ou abrandamento no desenvolvimento. Por um lado, isto poderia adiar legislação rigorosa, como a proposta do senador norte-americano Bernie Sanders de proibir a superinteligência artificial. Por outro lado, ao criar normas de segurança dispendiosas e ao limitar as exportações de chips, poderia impedir que os concorrentes mais pequenos — especialmente empresas chinesas como a DeepSeek e a Alibaba — as alcançassem.
Uma pausa também daria aos laboratórios de investigação de ponta, que estão sobrecarregados, a hipótese de recuperar, reerguer-se e concentrar-se nos lucros em vez do progresso.
Estes laboratórios de IA investiram enormes quantias para produzir os seus modelos atuais, que precisam de ser reembolsadas. Ao mesmo tempo, o progresso enfrenta obstáculos, uma vez que novos dados de formação de alta qualidade são cada vez mais difíceis de encontrar, e a construção da enorme infraestrutura de data centers necessária para sustentar o desenvolvimento é um desafio por si só.
Uma pausa coordenada por motivos de segurança poderá ser uma justificação pública conveniente para uma estabilização no desempenho dos modelos de IA.
O que pode ser feito
Tornar a IA segura não será fácil. A governação do software é notoriamente difícil, como demonstraram as tentativas anteriores de legislar sobre o software de criptografia
No entanto, ao contrário de outros softwares, a IA depende de hardware físico relativamente escasso. Precisa de chips de silício avançados e dos enormes centros de dados necessários para os alimentar.
É aqui que os governos têm verdadeira influência. Aqui têm meios de monitorizar e controlar o desenvolvimento da IA, se conseguirem encontrar a vontade legislativa necessária.
Entretanto, existem medidas que as empresas e os governos podem tomar para minimizar a nossa exposição aos danos causados pela IA. Isto deve incluir a garantia de que as infraestruturas críticas de segurança – como as redes eléctricas, o abastecimento de água e os sistemas militares – não só estão isoladas da IA, como também, potencialmente, completamente isoladas da internet.
E a questão da responsabilidade também é importante. Não podem ser apenas os utilizadores de sistemas de IA que enfrentam riscos legais por atos auxiliados por IA, mas também as pessoas responsáveis pela criação destes sistemas.
Fundamentalmente, os danos causados pela IA – mesmo pelos sistemas de IA “autónomos” – não são um subproduto tecnológico abstrato. São o resultado direto de decisões tomadas tanto por quem cria a IA como por quem a utiliza.
Andrew Cullen, Investigador Sénior, Escola de Computação e Sistemas de Informação, Universidade de Melbourne.
Este artigo foi republicado do The Conversation sob uma licença Creative Commons. Leia o artigo original.
