El año pasado asistí a un panel sobre IA generativa en educación. En un momento memorable, un ponente preguntó: "¿Cuál es el problema? La IA generativa es como una calculadora. Es solo una herramienta".
La analogía es cada vez más común. El propio director ejecutivo de OpenAI, Sam Altman, se ha referido a ChatGPT como « una calculadora de palabras » y ha comparado los comentarios sobre la nueva tecnología con las reacciones a la llegada de la calculadora.
La gente decía: «Tenemos que prohibir esto porque la gente simplemente hará trampa en sus tareas. Si la gente no necesita calcular una función seno a mano otra vez […] entonces la educación matemática está acabada».
Sin embargo, los sistemas de IA generativa no son calculadoras. Tratarlos como calculadoras oscurece lo que son, lo que hacen y a quién sirven. Esta sencilla analogía simplifica una tecnología controvertida e ignora cinco diferencias cruciales con respecto a las tecnologías del pasado.
1. Las calculadoras no alucinan ni persuaden.
Las calculadoras calculan funciones a partir de datos claramente definidos. Introduces 888 ÷ 8 y obtienes una respuesta correcta: 111.
Esta salida es limitada e inmutable. Las calculadoras no infieren, adivinan, alucinan ni persuaden.
No añaden elementos falsos ni indeseados a la respuesta. No inventan casos legales ni le dicen a la gente que " muera, por favor ".
2. Las calculadoras no plantean dilemas éticos fundamentales
Las calculadoras no plantean dilemas éticos fundamentales.
Crear ChatGPT implicó que trabajadores en Kenia filtraran contenido irreversiblemente traumatizante por uno o dos dólares la hora, por ejemplo. Las calculadoras no necesitaban eso.
Tras la crisis financiera en Venezuela, una empresa de etiquetado de datos con inteligencia artificial vio la oportunidad de captar mano de obra barata con modelos de empleo explotadores . Las calculadoras tampoco necesitaban eso.
Las calculadoras no requirieron la construcción de nuevas y enormes plantas de energía competir con los humanos por el agua, como lo están haciendo los centros de datos de IA en algunas de las partes más secas del mundo .
Las calculadoras no necesitaron nueva infraestructura . La industria de las calculadoras no experimentó un gran impulso minero como el que actualmente impulsa la extracción desmedida de cobre y litio en las tierras atacameñas de Chile.
3. Las calculadoras no socavan la autonomía
Las calculadoras no tenían el potencial de convertirse en un " autocompletador de por vida ". Nunca te ofrecieron tomar todas las decisiones, desde qué comer y adónde viajar hasta cuándo besar a tu cita.
Las calculadoras no desafiaron nuestra capacidad de pensamiento crítico. Sin embargo, se ha demostrado que la IA generativa erosiona el razonamiento independiente y aumenta la " descarga cognitiva ". Con el tiempo, la dependencia de estos sistemas corre el riesgo de dejar el poder de tomar decisiones cotidianas en manos de sistemas corporativos opacos.
4. Las calculadoras no tienen sesgos sociales ni lingüísticos.
Las calculadoras no reproducen las jerarquías del lenguaje y la cultura humanos. Sin embargo, la IA generativa se entrena con datos que reflejan siglos de relaciones de poder desiguales, y sus resultados reflejan esas desigualdades.
Los modelos lingüísticos heredan y refuerzan el prestigio de las formas lingüísticas dominantes, al tiempo que marginan o borran las menos privilegiadas.
Herramientas como ChatGPT manejan el inglés convencional , pero rutinariamente reformulan, etiquetan incorrectamente o borran otros idiomas del mundo entero .
Si bien proyectos que intentan abordar la exclusión de las voces minoritarias del desarrollo tecnológico, el sesgo de la IA generativa hacia el inglés convencional es preocupantemente pronunciado.
5. Las calculadoras no son «máquinas para todo»
A diferencia de las calculadoras, los modelos lingüísticos no operan en un ámbito limitado como las matemáticas. En cambio, tienen el potencial de integrarse en todo: la percepción, la cognición, el afecto y la interacción.
Los modelos lingüísticos pueden ser «agentes», «compañeros», «influencers», «terapeutas» y «novios». Esta es una diferencia clave entre la IA generativa y las calculadoras.
Contenido de nuestros socios
Mientras que las calculadoras ayudan con la aritmética, la IA generativa puede realizar funciones tanto transaccionales como interactivas. En una sola sesión, un chatbot puede ayudarte a editar tu novela, programar una nueva aplicación y proporcionar un perfil psicológico de alguien que crees que te gusta.
Mantenerse crítico
La analogía de la calculadora hace que los modelos lingüísticos y los llamados «copilotos», «tutores» y «agentes» parezcan inofensivos. Permite su adopción acrítica y sugiere que la tecnología puede resolver todos los desafíos que enfrentamos como sociedad.
También se adapta perfectamente a las plataformas que crean y distribuyen sistemas de IA generativa. Una herramienta neutral no requiere rendición de cuentas, auditorías ni gobernanza compartida.
Pero, como hemos visto, la IA generativa no es como una calculadora. No se limita a procesar números ni a producir resultados limitados.
Comprender cómo es realmente la IA generativa requiere un pensamiento crítico riguroso. El que nos capacita para afrontar las consecuencias de " moverse rápido y romper cosas ". El que nos ayuda a decidir si la rotura vale la pena.
Celeste Rodríguez Louro , Profesora Asociada, Cátedra de Lingüística y Directora del Laboratorio de Idiomas de la Universidad de Australia Occidental.
Este artículo se republica de The Conversation bajo una licencia Creative Commons. Lea el artículo original .
