Ano passado, participei de um painel sobre IA generativa na educação. Em um momento memorável, um palestrante perguntou: "Qual é o problema? IA generativa é como uma calculadora. É só uma ferramenta."
A analogia é cada vez mais comum. O próprio presidente-executivo da OpenAI, Sam Altman, referiu-se ao ChatGPT como " uma calculadora para palavras " e comparou os comentários sobre a nova tecnologia às reações à chegada da calculadora.
As pessoas diziam: "Temos que proibir isso porque as pessoas vão colar na lição de casa. Se as pessoas não precisarem mais calcular uma função seno à mão […] então a educação matemática acabou."
No entanto, sistemas de IA generativa não são calculadoras. Tratá-los como calculadoras obscurece o que eles são, o que fazem e a quem servem. Essa analogia fácil simplifica uma tecnologia controversa e ignora cinco diferenças cruciais em relação às tecnologias do passado.
1. Calculadoras não alucinam nem persuadem
Calculadoras calculam funções a partir de entradas claramente definidas. Você digita 888 ÷ 8 e obtém uma resposta correta: 111.
Esta saída é limitada e imutável. Calculadores não inferem, adivinham, alucinam ou persuadem.
Eles não acrescentam elementos falsos ou indesejados à resposta. Não inventam casos legais nem dizem às pessoas para " por favor, morram ".
2. As calculadoras não colocam dilemas éticos fundamentais
Calculadoras não levantam dilemas éticos fundamentais.
A criação do ChatGPT envolveu trabalhadores no Quênia vasculhando conteúdo irreversivelmente traumático por um ou dois dólares por hora, por exemplo. Calculadoras não precisavam disso.
Após a crise financeira na Venezuela, uma empresa de rotulagem de dados de IA viu uma oportunidade de atrair mão de obra barata com modelos de emprego exploratórios . Calculadoras também não precisavam disso.
As calculadoras não exigiam a construção de novas e enormes usinas de energia competiam com os humanos pela água, como os centros de dados de IA estão fazendo em algumas das partes mais secas do mundo .
Calculadoras não precisaram nova infraestrutura . A indústria de calculadoras não viu um grande impulso na mineração, como o que atualmente impulsiona a extração voraz de cobre e lítio nas terras dos atacameños , no Chile.
3. As calculadoras não comprometem a autonomia
As calculadoras não tinham o potencial de se tornarem um " preenchimento automático para a vida ". Elas nunca se ofereceram para tomar todas as decisões por você, desde o que comer e para onde viajar até quando beijar seu par.
Calculadoras não desafiaram nossa capacidade de pensar criticamente. A IA generativa, no entanto, demonstrou corroer o raciocínio independente e aumentar a " descarregamento cognitivo ". Com o tempo, a dependência desses sistemas corre o risco de colocar o poder de tomar decisões cotidianas nas mãos de sistemas corporativos opacos.
4. As calculadoras não têm preconceitos sociais e linguísticos
Calculadoras não reproduzem as hierarquias da linguagem e da cultura humanas. A IA generativa, no entanto, é treinada com base em dados que refletem séculos de relações desiguais de poder, e seus resultados refletem essas desigualdades.
Os modelos de linguagem herdam e reforçam o prestígio das formas linguísticas dominantes, ao mesmo tempo em que marginalizam ou apagam as menos privilegiadas.
Ferramentas como o ChatGPT lidam com o inglês tradicional , mas rotineiramente reformulam, rotulam incorretamente ou apagam o inglês de outros países .
Embora projetos que tentam combater a exclusão de vozes minoritárias do desenvolvimento tecnológico, o viés da IA generativa em relação ao inglês convencional é preocupantemente pronunciado.
5. Calculadoras não são 'máquinas que fazem tudo'
Ao contrário das calculadoras, os modelos de linguagem não operam dentro de um domínio restrito como a matemática. Em vez disso, eles têm o potencial de se enredar em tudo: percepção, cognição, afeto e interação.
Modelos de linguagem podem ser "agentes", "companheiros", "influenciadores", "terapeutas" e "namorados". Esta é uma diferença fundamental entre IA generativa e calculadoras.
Conteúdo de nossos parceiros
Enquanto calculadoras ajudam com cálculos aritméticos, a IA generativa pode realizar funções transacionais e interativas. De uma só vez, um chatbot pode ajudar você a editar seu romance, escrever código para um novo aplicativo e fornecer um perfil psicológico de alguém de quem você acha que gosta.
Mantendo-se crítico
A analogia com a calculadora faz com que modelos de linguagem e os chamados "copilotos", "tutores" e "agentes" pareçam inofensivos. Ela permite a adoção acrítica e sugere que a tecnologia pode resolver todos os desafios que enfrentamos como sociedade.
Também se adapta perfeitamente às plataformas que criam e distribuem sistemas de IA generativa. Uma ferramenta neutra não precisa de responsabilização, auditorias ou governança compartilhada.
Mas, como vimos, a IA generativa não é como uma calculadora. Ela não se limita a processar números ou produzir resultados limitados.
Entender como a IA generativa realmente é exige um pensamento crítico rigoroso. O tipo que nos equipa para enfrentar as consequências de " agir rápido e quebrar coisas ". O tipo que pode nos ajudar a decidir se a quebra vale o custo.
Celeste Rodriguez Louro , Professora Associada, Chefe de Linguística e Diretora do Laboratório de Línguas da Universidade da Austrália Ocidental.
Este artigo foi republicado do The Conversation sob uma licença Creative Commons. Leia o artigo original .
