El año pasado asistí a un panel sobre IA generativa en educación. En un momento memorable, un ponente preguntó: "¿Cuál es el problema? La IA generativa es como una calculadora. Es solo una herramienta"
Esta analogía es cada vez más común. El propio Sam Altman, director ejecutivo de OpenAI, se ha referido a ChatGPT como "una calculadora para palabras" y ha comparado los comentarios sobre la nueva tecnología con las reacciones ante la llegada de la calculadora.
La gente decía: «Tenemos que prohibir esto porque la gente simplemente hará trampa en sus tareas. Si la gente no necesita calcular una función seno a mano otra vez […] entonces la educación matemática está acabada»
Sin embargo, los sistemas de IA generativa no son calculadoras. Tratarlos como calculadoras oscurece lo que son, lo que hacen y a quién sirven. Esta sencilla analogía simplifica una tecnología controvertida e ignora cinco diferencias cruciales con respecto a las tecnologías del pasado.
1. Las calculadoras no alucinan ni persuaden
Las calculadoras calculan funciones a partir de entradas claramente definidas. Introduces 888 ÷ 8 y obtienes una respuesta correcta: 111.
Esta salida es acotada e inmutable. Las calculadoras no infieren, adivinan, alucinan ni persuaden.
No añaden elementos falsos o no deseados a la respuesta. No fabrican casos legales ni le dicen a la gente que “por favor, muera”.
2. Las calculadoras no plantean dilemas éticos fundamentales
Las calculadoras no plantean dilemas éticos fundamentales.
, para crear ChatGPT, trabajadores en Kenia que revisar contenido irremediablemente traumático a cambio de uno o dos dólares la hora. Las calculadoras no necesitaban eso.
Tras la crisis financiera en Venezuela, una empresa de etiquetado de datos mediante IA vio la oportunidad de aprovecharse de la mano de obra barata mediante modelos de empleo explotadores. Las calculadoras tampoco necesitaban eso.
Las calculadoras no requirieron nuevas y enormes centrales eléctricas la construcción de compitieron con los humanos por el agua como lo hacen los centros de datos de IA en algunas de las zonas más áridas del mundo.
Las calculadoras no requerían nuevas infraestructuras . La industria de las calculadoras no experimentó un auge minero masivo como el que actualmente impulsa la extracción desmedida de cobre y litio en las tierras de los Atacameños en Chile.
3. Las calculadoras no socavan la autonomía
Las calculadoras no tenían el potencial de convertirse en un "autocompletado para la vida". Nunca se ofrecieron a tomar todas las decisiones por ti, desde qué comer y adónde viajar hasta cuándo besar a tu cita.
Las calculadoras no desafiaron nuestra capacidad de pensamiento crítico. Sin embargo, se ha demostrado que la IA generativa erosiona el razonamiento independiente y aumenta la "descarga cognitiva". Con el tiempo, la dependencia de estos sistemas conlleva el riesgo de depositar el poder de tomar decisiones cotidianas en manos de sistemas corporativos opacos.
4. Las calculadoras no tienen sesgo social ni lingüístico
Las calculadoras no reproducen las jerarquías del lenguaje y la cultura humanos. Sin embargo, la IA generativa se entrena con datos que reflejan siglos de relaciones de poder desiguales, y sus resultados reflejan esas desigualdades.
Los modelos lingüísticos heredan y refuerzan el prestigio de las formas lingüísticas dominantes, al tiempo que marginan o borran las menos privilegiadas.
Herramientas como ChatGPT manejan el inglés convencional, pero rutinariamente reformulan, etiquetan incorrectamente o borran otros idiomas del mundo entero.
Si bien proyectos que intentan abordar la exclusión de las voces minoritarias del desarrollo tecnológico, el sesgo de la IA generativa hacia el inglés estándar es preocupantemente pronunciado.
5. Las calculadoras no son «máquinas para todo»
A diferencia de las calculadoras, los modelos lingüísticos no operan en un ámbito limitado como las matemáticas. En cambio, tienen el potencial de integrarse en todo: percepción, cognición, afecto e interacción.
Los modelos lingüísticos pueden ser «agentes», «compañeros», «influencers», «terapeutas» y «novios». Esta es una diferencia clave entre la IA generativa y las calculadoras.
Mientras que las calculadoras ayudan con la aritmética, la IA generativa puede realizar funciones tanto transaccionales como interactivas. En una sola sesión, un chatbot puede ayudarte a editar tu novela, escribir el código de una nueva aplicación y proporcionarte un perfil psicológico de alguien que crees que te gusta.
Mantenerse crítico
La analogía de la calculadora hace que los modelos lingüísticos y los llamados «copilotos», «tutores» y «agentes» parezcan inofensivos. Permite su adopción acrítica y sugiere que la tecnología puede resolver todos los desafíos que enfrentamos como sociedad.
También se adapta perfectamente a las plataformas que crean y distribuyen sistemas de IA generativa. Una herramienta neutral no requiere rendición de cuentas, auditorías ni gobernanza compartida.
Pero, como hemos visto, la IA generativa no es como una calculadora. No se limita a procesar números ni a producir resultados limitados.
Para comprender qué es realmente la IA generativa, se requiere un pensamiento crítico riguroso. Un pensamiento que nos permita afrontar las consecuencias deactuar con rapidez y sin pensar en las consecuencias. Un pensamiento que nos ayude a decidir si el riesgo justifica el precio.
Celeste Rodríguez Louro, Profesora Asociada, Cátedra de Lingüística y Directora del Laboratorio de Idiomas de la Universidad de Australia Occidental.
Este artículo se republica de The Conversation bajo una licencia Creative Commons. Lea el artículo original.
