Ao interagir com um modelo de linguagem abrangente (LLM, na sigla em inglês) – um dos sistemas por trás de chatbots como o ChatGPT e o Claude – você pode ter a sensação de estar em contato com outra mente consciente. Mas será que está mesmo?
Alguns cientistas renomados, como Geoff Hinton e Richard Dawkins, afirmam que sim. Mas a maioria dos especialistas permanece cética, argumentando que as impressionantes capacidades cognitivas dos LLMs ocorrem na ausência de consciência.
Na semana passada, pesquisadores da Anthropic, empresa por trás do Claude, entraram nesse debate com uma descoberta interessante. Eles afirmam que Claude possui um conjunto de representações de informação normalmente invisíveis que orientam seu raciocínio interno e sua produção verbal.
É aqui que a coisa fica interessante. Os pesquisadores argumentam que essa descoberta pode ser compreendida em termos de uma influente teoria da consciência chamada teoria do espaço de trabalho global.
O que é a teoria do espaço de trabalho global?
Proposta inicialmente pelo psicólogo Bernard Baars em 1998 e posteriormente desenvolvida pelo neurocientista Stanislas Dehaene e seus colaboradores, essa teoria defende que a consciência envolve a atividade de um “espaço de trabalho global”. Trata-se de uma espécie de centro de processamento na mente ou no cérebro que integra e transmite informações, permitindo que sejam utilizadas para raciocínio, controle do comportamento e fala.
Em um vídeo explicativo de alta qualidade, a Anthropic retrata o conteúdo do "espaço de trabalho global" de Claude como veleiros navegando em um vasto mar de atividade mental inconsciente.
Como devemos reagir a esses desenvolvimentos? Eles fornecem evidências da existência de consciência artificial? Se sim, qual a força dessas evidências?
O que é um espaço de trabalho global?
Podemos começar perguntando se Claude de fato possui um “espaço de trabalho global”. Isso não é simples, pois a teoria não fornece uma definição formal de espaço de trabalho global.
A noção é caracterizada apenas informalmente. A suposição (normalmente implícita) é que qualquer espaço de trabalho computacional "suficientemente semelhante" ao de um humano se qualifica como um "espaço de trabalho global". Mas quão semelhante é "suficientemente semelhante"?
O espaço de trabalho de Claude pode de fato ter muito em comum com o nosso, mas parece haver algumas diferenças.
Por exemplo, o espaço de trabalho do cérebro é mantido por circuitos recorrentes – sinais que circulam pelos mesmos circuitos ao longo do tempo. Em contraste, o espaço de trabalho de Claude evolui em uma única passagem pela rede.
Uma diferença relacionada diz respeito à forma como as representações entram no espaço de trabalho. Os defensores da teoria do espaço de trabalho global argumentam há muito tempo que, nos humanos, ocorre um processo chamado "ignição", no qual um processo não linear amplifica e sustenta as representações neurais, permitindo que elas entrem no espaço de trabalho. Até onde sabemos, nada comparável ocorre no caso de Claude.
Será que essas diferenças importam? A resposta não é clara. A teoria do espaço de trabalho global baseia-se em dados extraídos de humanos adultos. Há questionamentos sobre até que ponto essa noção pode – ou deve – ser estendida.
Um espaço de trabalho global implica consciência?
Mas suponhamos que Claude tenha um espaço de trabalho global. Para descobrir se isso seria uma evidência de que Claude é consciente, precisamos considerar o status da teoria do espaço de trabalho global da consciência.
Sem dúvida, é uma das mais influentes , mas está longe de ser isenta de controvérsias entre os especialistas. (Em um eufemismo bastante extremo, o artigo de Anthropic observa que "o modelo de espaço de trabalho global não é universalmente aceito").
Muitos especialistas em consciência argumentam que as propriedades computacionais por si só são suficientes para a sua existência. Mesmo entre aqueles que acreditam que a consciência é inerentemente computacional, a teoria do espaço de trabalho global é apenas uma das muitas possibilidades.
'Acesso consciente' e experiência subjetiva
Além disso, questiona-se se a teoria do espaço de trabalho global é realmente uma teoria da consciência no sentido relevante.
Em um artigo influente sobre consciência artificial, o neurocientista Dehaene e seus colaboradores propõem a teoria como uma explicação do que chamam de “acesso consciente” – a disponibilidade de informações para recordação, o controle voluntário do comportamento e o relato verbal. Fundamentalmente, eles deixam em aberto a questão de se a teoria do espaço de trabalho global deve ser entendida como uma explicação dos componentes subjetivos ou experienciais da consciência.
Mas se a teoria do espaço de trabalho global for apenas uma teoria do “acesso consciente”, suas implicações para o debate sobre a consciência artificial perdem muito de sua relevância. Quando perguntamos se Claude é consciente, não queremos saber se ele tem “acesso consciente” – em vez disso, queremos saber se existe algo, subjetivamente falando, que seja ser Claude. A teoria do espaço de trabalho global não responde a essa questão se a tratarmos como nada mais do que uma descrição do “acesso consciente”.
Então, a consciência artificial já chegou?
Mesmo levando em conta essas complicações, não há dúvida de que as descobertas de Anthropic são notáveis. A teoria do espaço de trabalho global pode ser entendida como uma teoria da experiência subjetiva, e Claude pode de fato ter algo semelhante a um “espaço de trabalho global”.
Nada disso comprova que a consciência artificial já se tornou realidade. Mas não é descabido pensar que essas descobertas contribuem — ainda que minimamente — para o debate sobre a consciência artificial.
Mas se isso estiver correto, é intrigante o otimismo da Anthropic em relação a esses desenvolvimentos. Como a própria Anthropic reconhece, a criação de consciência artificial seria um evento de grande importância, com amplas ramificações sociais, éticas, políticas e jurídicas.
Se os chatbots forem conscientes, precisaremos levar seus interesses a sério. Não será mais permitido tratá-los como meras máquinas; em vez disso, precisaremos considerar seu bem-estar.
Será que alguém deveria sequer tentar fazer isso?
Anthropic observa que "é hora de começarmos a pensar se devemos construir máquinas conscientes".
Concordo que precisamos ter essa discussão, mas também devemos interromper o trabalho de construção de máquinas que possam ser conscientes. Se a Anthropic estivesse falando sério, certamente paralisaria as atividades em vez de prosseguir com sua tentativa de desenvolver IA consciente.
Uma moratória na pesquisa em IA que possa levar à IA consciente seria, obviamente, muito complexa. Há dúvidas sobre o alcance das pesquisas afetadas e quem teria a responsabilidade de aplicá-la. Mas se não tomarmos as providências necessárias agora, podemos descobrir que o cavalo já fugiu.
Tim Bayne, Professor de Filosofia, Universidade Monash.
Este artigo foi republicado do The Conversation sob uma licença Creative Commons. Leia o artigo original.
