No ano passado, participei de um painel sobre IA generativa na educação. Em um momento memorável, um dos palestrantes perguntou: “Qual é a grande novidade? IA generativa é como uma calculadora. É apenas uma ferramenta.”
A analogia é cada vez mais comum. O próprio diretor executivo da OpenAI, Sam Altman, referiu-se ao ChatGPT como " uma calculadora para palavras " e comparou os comentários sobre a nova tecnologia às reações à chegada da calculadora.
As pessoas disseram: 'Precisamos proibir isso porque as pessoas vão colar na lição de casa. Se as pessoas não precisarem mais calcular uma função seno manualmente [...] então a educação matemática acabou.'
No entanto, os sistemas de IA generativa não são calculadoras. Tratá-los como calculadoras obscurece o que são, o que fazem e a quem servem. Essa analogia simplista banaliza uma tecnologia controversa e ignora cinco diferenças cruciais em relação às tecnologias do passado.
1. Calculadoras não provocam alucinações nem persuadem
As calculadoras realizam cálculos a partir de entradas claramente definidas. Você digita 888 ÷ 8 e obtém uma resposta correta: 111.
Este resultado é limitado e imutável. Calculadoras não fazem inferências, suposições, alucinações ou persuasão.
Eles não acrescentam elementos falsos ou indesejados à resposta. Eles não fabricam processos judiciais nem dizem às pessoas para " por favor, morrerem ".
2. As calculadoras não apresentam dilemas éticos fundamentais
Calculadoras não levantam dilemas éticos fundamentais.
A criação do ChatGPT envolveu trabalhadores no Quênia , por exemplo, que tinham que vasculhar conteúdo irreversivelmente traumatizante em troca de um ou dois dólares por hora. Calculadoras não precisavam disso.
Após a crise financeira na Venezuela, uma empresa de rotulagem de dados por IA viu uma oportunidade de aproveitar a mão de obra barata com modelos de emprego exploratórios . As calculadoras também não precisavam disso.
As calculadoras não exigiram a construção de novas e vastas usinas de energia competiram com os humanos por água, como fazem os centros de dados com IA em algumas das regiões mais secas do mundo .
Não foi necessária a de novas infraestruturas para a fabricação de calculadoras. A indústria de calculadoras não presenciou um grande impulso de mineração como o que atualmente impulsiona a extração desenfreada de cobre e lítio nas terras dos Atacameños , no Chile.
3. As calculadoras não comprometem a autonomia
As calculadoras não tinham o potencial de se tornarem um " preenchimento automático para a vida ". Elas nunca se ofereceram para tomar todas as decisões por você, desde o que comer e para onde viajar até quando beijar seu(sua) namorado(a).
As calculadoras não desafiavam nossa capacidade de pensamento crítico. A IA generativa, no entanto, demonstrou corroer o raciocínio independente e aumentar a " descarga cognitiva ". Com o tempo, a dependência desses sistemas corre o risco de colocar o poder de tomar decisões cotidianas nas mãos de sistemas corporativos opacos.
4. As calculadoras não apresentam viés social e linguístico
Calculadoras não reproduzem as hierarquias da linguagem e cultura humanas. A IA generativa, por outro lado, é treinada com dados que refletem séculos de relações de poder desiguais, e seus resultados espelham essas desigualdades.
Os modelos linguísticos herdam e reforçam o prestígio das formas linguísticas dominantes, ao mesmo tempo que marginalizam ou apagam as menos privilegiadas.
Ferramentas como o ChatGPT lidam com o inglês padrão , mas rotineiramente reformulam, rotulam incorretamente ou apagam outras variedades do inglês encontradas no mundo .
Embora projetos que tentam combater a exclusão de vozes minoritárias do desenvolvimento tecnológico, o viés da IA generativa em relação ao inglês padrão é preocupantemente acentuado.
5. Calculadoras não são "máquinas para tudo"
Diferentemente das calculadoras, os modelos de linguagem não operam dentro de um domínio restrito como a matemática. Em vez disso, eles têm o potencial de se entrelaçarem em tudo: percepção, cognição, afeto e interação.
Os modelos de linguagem podem ser “agentes”, “companheiros”, “influenciadores”, “terapeutas” e “namorados”. Essa é uma diferença fundamental entre a IA generativa e as calculadoras.
Conteúdo de nossos parceiros
Enquanto as calculadoras auxiliam em operações aritméticas, a IA generativa pode desempenhar funções tanto transacionais quanto interacionais. Em uma única sessão, um chatbot pode ajudá-lo a editar seu romance, escrever o código para um novo aplicativo e fornecer um perfil psicológico de alguém de quem você gosta.
Manter o senso crítico
A analogia com a calculadora faz com que os modelos de linguagem e os chamados "copilotos", "tutores" e "agentes" pareçam inofensivos. Ela dá permissão para a adoção acrítica e sugere que a tecnologia pode resolver todos os desafios que enfrentamos como sociedade.
Também se adequa perfeitamente às plataformas que criam e distribuem sistemas de IA generativa. Uma ferramenta neutra não precisa de prestação de contas, auditorias ou governança compartilhada.
Mas, como vimos, a IA generativa não é como uma calculadora. Ela não se limita a processar números ou produzir resultados limitados.
Para entender como é realmente a IA generativa, é preciso um pensamento crítico rigoroso. O tipo de pensamento que nos capacita a confrontar as consequências de " agir rápido e quebrar coisas ". O tipo de pensamento que nos ajuda a decidir se o custo dessa quebra vale a pena.
Celeste Rodriguez Louro , Professora Associada, Chefe do Departamento de Linguística e Diretora do Laboratório de Linguagem da Universidade da Austrália Ocidental.
Este artigo foi republicado do The Conversation sob uma licença Creative Commons. Leia o artigo original .
