Lorsque vous interagissez avec un modèle de langage étendu (LLM) – l'un des systèmes qui sous-tendent les chatbots tels que ChatGPT et Claude – vous pouvez avoir l'impression d'être en contact avec une autre conscience. Mais l'est-ce vraiment ?
Certains scientifiques de renom, comme Geoff Hinton et Richard Dawkins, l'affirment. Mais la plupart des experts restent sceptiques, arguant que les impressionnantes capacités cognitives des LLM se manifestent en l'absence de conscience.
La semaine dernière, des chercheurs d'Anthropic, la société à l'origine de Claude, ont alimenté ce débat avec une découverte intéressante. Ils affirment que Claude possède un ensemble de représentations d'informations normalement invisibles qui guident son raisonnement interne et sa production verbale.
C’est là que ça devient intéressant. Les chercheurs affirment que cette découverte peut s’expliquer par une théorie influente de la conscience appelée la théorie de l’espace de travail global.
Qu’est-ce que la théorie de l’espace de travail global ?
Proposée initialement par le psychologue Bernard Baars en 1998, puis développée par le neuroscientifique Stanislas Dehaene et ses collaborateurs, cette théorie postule que la conscience implique l'activité d'un « espace de travail global ». Il s'agit d'une sorte de centre de traitement au sein du cerveau qui intègre et diffuse l'information, permettant ainsi son utilisation pour le raisonnement, le contrôle du comportement et la parole.
Dans une vidéo soignée expliquant l'œuvre, Anthropic représente le contenu de « l'espace de travail global » de Claude comme des voiliers dérivant sur une vaste mer d'activité mentale inconsciente.
Comment devons-nous réagir face à ces développements ? Apportent-ils la preuve de l’existence d’une conscience artificielle ? Si oui, quelle est la solidité de cette preuve ?
Qu'est-ce qu'un espace de travail global ?
On peut commencer par se demander si Claude possède effectivement un « espace de travail global ». La question n'est pas simple, car la théorie ne donne aucune définition formelle de ce qu'est un espace de travail global.
Cette notion n'est caractérisée que de manière informelle. L'hypothèse (généralement implicite) est que tout espace de travail informatique « suffisamment similaire » à celui d'un humain peut être considéré comme un « espace de travail global ». Mais à quel point est-il « suffisamment similaire » ?
L'espace de travail de Claude a certes beaucoup de points communs avec le nôtre, mais il semble y avoir des différences.
Par exemple, l'espace de travail du cerveau est maintenu par des boucles récurrentes – des signaux qui circulent en boucle dans les mêmes circuits au fil du temps. En revanche, l'espace de travail de Claude évolue en un seul passage à travers le réseau.
Une autre différence importante concerne la manière dont les représentations intègrent l'espace de travail. Les partisans de la théorie de l'espace de travail global soutiennent depuis longtemps que chez l'humain, un processus appelé « activation » se produit : un processus non linéaire amplifie et maintient les représentations neuronales, leur permettant ainsi d'intégrer l'espace de travail. À notre connaissance, rien de comparable ne se produit chez Claude.
Ces différences ont-elles une importance ? La réponse n’est pas claire. La théorie de l’espace de travail global repose sur des données recueillies auprès d’adultes. On peut se demander jusqu’où cette notion peut – ou devrait – être étendue.
Un espace de travail global implique-t-il une conscience ?
Supposons toutefois que Claude possède un espace de travail global. Pour déterminer si cela constitue une preuve de sa conscience, il nous faut examiner le statut de la théorie de l'espace de travail global de la conscience.
Il ne fait aucun doute qu'il s'agit de l'une des les plus influentes , mais elle est loin de faire l'unanimité parmi les experts. (Dans un euphémisme pour le moins extrême, l'article d'Anthropic remarque que « le modèle de l'espace de travail global n'est pas universellement accepté ».)
De nombreux spécialistes de la conscience affirment que les propriétés computationnelles suffisent à elles seules à expliquer la conscience. Même parmi ceux qui considèrent que la conscience est intrinsèquement computationnelle, la théorie de l'espace de travail global n'est qu'une option parmi d'autres.
« Accès conscient » et expérience subjective
De plus, on peut se demander si la théorie de l'espace de travail global est réellement une théorie de la conscience au sens pertinent du terme.
Dans un article influent sur la conscience artificielle, le neuroscientifique Dehaene et ses collaborateurs présentent cette théorie comme une explication de ce qu'ils appellent « l'accès conscient » : la disponibilité de l'information pour la remémoration, le contrôle volontaire du comportement et la restitution verbale. Point crucial, ils laissent ouverte la question de savoir si la théorie de l'espace de travail global doit être comprise comme une explication des composantes subjectives ou expérientielles de la conscience.
Mais si la théorie de l'espace de travail global se réduit à une simple théorie de l'« accès conscient », alors ses implications dans le débat sur la conscience artificielle perdent beaucoup de leur importance. Lorsque nous nous demandons si Claude est conscient, nous ne cherchons pas à savoir s'il a un « accès conscient » ; nous voulons plutôt savoir s'il existe, subjectivement parlant, une expérience vécue par Claude. La théorie de l'espace de travail global ne répond pas à cette question si nous la réduisons à une simple description de l'« accès conscient ».
La conscience artificielle est-elle donc arrivée ?
Même en tenant compte de ces complications, les conclusions d'Anthropic sont indéniablement remarquables. La théorie de l'espace de travail global peut être appréhendée comme une théorie de l'expérience subjective, et il se pourrait bien que Claude possède un espace de travail comparable à un « espace de travail global ».
Rien de tout cela ne prouve que la conscience artificielle est une réalité. Mais il n'est pas déraisonnable de penser que ces découvertes font évoluer, même légèrement, le débat sur la conscience artificielle.
Mais si cela s'avère exact, l'optimisme affiché par Anthropic face à ces développements est pour le moins surprenant. Comme le reconnaît Anthropic, la création d'une conscience artificielle constituerait un événement majeur aux vastes répercussions sociales, éthiques, politiques et juridiques.
Si les chatbots sont conscients, nous devrons prendre leurs intérêts au sérieux. Il ne sera plus possible de les traiter comme de simples machines ; nous devrons au contraire prendre en compte leur bien-être.
Est-ce même envisageable ?
Anthropic remarque qu’«il est temps de commencer à réfléchir à la question de savoir si nous devrions construire des machines conscientes».
Je suis d'accord, cette discussion est nécessaire, mais nous devrions aussi suspendre le développement de machines potentiellement conscientes. Si Anthropic était sérieuse, elle arrêterait certainement ses activités plutôt que de persévérer dans sa tentative de développer une IA consciente.
Un moratoire sur la recherche en IA susceptible de mener à une IA consciente serait, bien entendu, loin d'être simple. Des questions se posent quant à l'étendue des recherches concernées et aux autorités chargées de son application. Mais si nous n'agissons pas maintenant, il sera peut-être déjà trop tard.
Tim Bayne, professeur de philosophie à l'université Monash.
Cet article est republié de The Conversation sous licence Creative Commons. Lire l' article original.
