Cuando interactúas con un modelo de lenguaje extenso (LLM, por sus siglas en inglés), uno de los sistemas que sustentan chatbots como ChatGPT y Claude, puedes tener la sensación de estar en contacto con otra mente consciente. Pero, ¿es realmente así?
Algunos científicos prominentes, como Geoff Hinton y Richard Dawkins, afirman que sí. Pero la mayoría de los expertos siguen siendo escépticos, argumentando que las impresionantes capacidades cognitivas de los LLM se producen en ausencia de consciencia.
La semana pasada, investigadores de Anthropic, la empresa creadora de Claude, se sumaron a este debate con un hallazgo interesante. Afirman que Claude posee un conjunto de representaciones de información normalmente invisibles que guían su razonamiento interno y su expresión verbal.
Aquí es donde la cosa se pone interesante. Los investigadores argumentan que este hallazgo puede entenderse en términos de una influyente teoría de la conciencia llamada teoría del espacio de trabajo global.
¿Qué es la teoría del espacio de trabajo global?
propuesta inicialmente por el psicólogo Bernard Baars en 1998 y desarrollada posteriormente por el neurocientífico Stanislas Dehaene y sus colaboradores, sostiene que la conciencia implica la actividad de un "espacio de trabajo global". Se trata de una especie de centro de procesamiento en la mente o el cerebro que integra y difunde información, permitiendo su uso para el razonamiento, el control del comportamiento y el habla.
En un vídeo de gran calidad que explica la obra, Anthropic representa el contenido del "espacio de trabajo global" de Claude como barcos de vela navegando en un vasto mar de actividad mental inconsciente.
¿Cómo debemos reaccionar ante estos avances? ¿Aportan pruebas de la existencia de conciencia artificial? De ser así, ¿cuán sólidas son esas pruebas?
¿Qué es un espacio de trabajo global?
Podemos comenzar preguntándonos si Claude realmente tiene un “espacio de trabajo global”. Esto no es sencillo, ya que la teoría no ofrece una definición formal de espacio de trabajo global.
Esta noción se caracteriza solo de manera informal. La suposición (generalmente implícita) es que cualquier espacio de trabajo computacional "lo suficientemente similar" al de un ser humano calificará como un "espacio de trabajo global". Pero, ¿qué tan similar es "lo suficientemente similar"?
Es cierto que el espacio de trabajo de Claude puede tener mucho en común con el nuestro, pero también parece haber diferencias.
Por ejemplo, el espacio de trabajo del cerebro se mantiene mediante bucles recurrentes: señales que circulan repetidamente por los mismos circuitos a lo largo del tiempo. En cambio, el espacio de trabajo de Claude evoluciona en un único recorrido por la red.
Una diferencia relacionada radica en cómo las representaciones ingresan al espacio de trabajo. Los defensores de la teoría del espacio de trabajo global han argumentado durante mucho tiempo que, en los humanos, se produce un proceso llamado "ignición" en el cual un proceso no lineal amplifica y mantiene las representaciones neuronales, permitiéndoles ingresar al espacio de trabajo. Hasta donde sabemos, no ocurre nada comparable en el caso de Claude.
¿Importan estas diferencias? La respuesta no es clara. La teoría del espacio de trabajo global se basa en datos extraídos de adultos. Surgen dudas sobre hasta qué punto se puede —o se debe— extender este concepto.
¿Un espacio de trabajo global implica consciencia?
Pero supongamos que Claude sí tiene un espacio de trabajo global. Para determinar si eso sería evidencia de que Claude es consciente, debemos considerar el estado de la teoría del espacio de trabajo global de la conciencia.
No cabe duda de que es una de las más influyentes sobre la conciencia, pero dista mucho de estar exenta de controversia entre los expertos. (En una afirmación bastante eufemística, el artículo de Anthropic señala que «el modelo del espacio de trabajo global no es universalmente aceptado»).
Muchos expertos en consciencia sostienen que las propiedades computacionales por sí solas son suficientes para la consciencia. Incluso entre quienes piensan que la consciencia es inherentemente computacional, la teoría del espacio de trabajo global es solo una de las muchas opciones.
«Acceso consciente» y experiencia subjetiva
Es más, existen dudas sobre si la teoría del espacio de trabajo global es realmente una teoría de la conciencia en el sentido pertinente.
En un influyente artículo sobre la conciencia artificial, el neurocientífico Dehaene y sus colaboradores presentan la teoría como una explicación de lo que denominan «acceso consciente»: la disponibilidad de información para su recuperación, el control voluntario del comportamiento y la comunicación verbal. Fundamentalmente, dejan abierta la cuestión de si la teoría del espacio de trabajo global debe entenderse como una explicación de los componentes subjetivos o experienciales de la conciencia.
Pero si la teoría del espacio de trabajo global se reduce a una teoría del «acceso consciente», entonces sus implicaciones para el debate sobre la conciencia artificial pierden gran parte de su relevancia. Cuando nos preguntamos si Claude es consciente, no queremos saber si tiene «acceso consciente», sino si, subjetivamente hablando, existe alguna experiencia en el ser Claude. La teoría del espacio de trabajo global no responde a esta pregunta si la consideramos simplemente una explicación del «acceso consciente».
¿Ha llegado, pues, la conciencia artificial?
Aun teniendo en cuenta estas complicaciones, no cabe duda de que las conclusiones de Anthropic son destacables. La teoría del espacio de trabajo global puede entenderse como una teoría de la experiencia subjetiva, y es posible que Claude, en efecto, posea algo similar a un «espacio de trabajo global».
Nada de esto demuestra que la conciencia artificial haya llegado. Pero no es descabellado pensar que estos hallazgos sí influyen, aunque sea mínimamente, en el debate sobre la conciencia artificial.
Pero si eso es cierto, entonces resulta desconcertante que Anthropic se muestre tan optimista ante estos avances. Como reconoce Anthropic, la creación de conciencia artificial sería un acontecimiento trascendental con amplias ramificaciones sociales, éticas, políticas y legales.
Si los chatbots fueran conscientes, tendríamos que tomar en serio sus intereses. Ya no sería admisible tratarlos como meras máquinas; en cambio, tendríamos que considerar su bienestar.
¿Debería alguien siquiera intentar hacer esto?
Anthropic comenta que “es hora de empezar a pensar si deberíamos construir máquinas conscientes”.
Estoy de acuerdo en que debemos tener esa conversación, pero también deberíamos pausar el desarrollo de máquinas que potencialmente podrían ser conscientes. Si Anthropic hablara en serio, seguramente dejaría de trabajar en lugar de seguir adelante con su intento de desarrollar IA consciente.
Una moratoria en la investigación de IA que pudiera conducir a una IA consciente sería, por supuesto, una tarea compleja. Surgen dudas sobre el alcance de la investigación y quién la haría cumplir. Pero si no tomamos medidas ahora, podríamos encontrarnos con que ya es demasiado tarde.
Tim Bayne, profesor de filosofía de la Universidad de Monash.
Este artículo se republica de The Conversation bajo una licencia Creative Commons. Lea el artículo original.
