Apabila anda berinteraksi dengan model bahasa yang besar (LLM) – salah satu sistem di sebalik chatbot seperti ChatGPT dan Claude – ia boleh terasa seolah-olah anda sedang berhubung dengan minda sedar yang lain. Tetapi adakah anda benar-benar begitu?
Beberapa saintis terkemuka, seperti Geoff Hinton dan Richard Dawkins, mendakwa begitu. Tetapi kebanyakan pakar masih ragu-ragu, dengan alasan bahawa kapasiti kognitif LLM yang mengagumkan berlaku tanpa kesedaran.
Minggu lalu, penyelidik di Anthropic, syarikat di sebalik Claude, menyelidiki perdebatan ini dengan penemuan yang menarik. Mereka mendakwa Claude mempunyai satu set perwakilan maklumat yang biasanya tidak dapat dilihat yang membimbing penaakulan dalamannya dan output lisannya.
Di sinilah ia menjadi menarik. Para penyelidik berpendapat bahawa penemuan ini boleh difahami dari segi teori kesedaran yang berpengaruh yang dipanggil teori ruang kerja global.
Apakah teori ruang kerja global?
Pertama kali dicadangkan oleh ahli psikologi Bernard Baars pada tahun 1998 dan dikembangkan lebih lanjut oleh ahli sains saraf Stanislas Dehaene dan rakan-rakannya, teori ini berpendapat bahawa kesedaran melibatkan aktiviti "ruang kerja global". Ini adalah sejenis hab pemprosesan dalam minda atau otak yang mengintegrasikan dan menyiarkan maklumat, membolehkannya digunakan untuk penaakulan, kawalan tingkah laku dan pertuturan.
Dalam video berkilat yang menerangkan karya tersebut, Anthropic menggambarkan kandungan "ruang kerja global" Claude sebagai kapal layar yang terapung di lautan luas aktiviti mental bawah sedar.
Bagaimanakah kita harus bertindak balas terhadap perkembangan ini? Adakah ia memberikan bukti untuk kesedaran buatan? Jika ya, sejauh manakah bukti tersebut kukuh?
Apakah ruang kerja global?
Kita boleh mulakan dengan bertanya sama ada Claude sememangnya mempunyai "ruang kerja global". Ini tidak mudah, kerana teori ini tidak memberikan definisi formal tentang ruang kerja global.
Tanggapan ini hanya dicirikan secara tidak formal. Andaian (biasanya tersirat) ialah mana-mana ruang kerja pengiraan yang "cukup serupa" dengan manusia akan layak sebagai "ruang kerja global". Tetapi sejauh manakah persamaan itu cukup serupa?
Ruang kerja Claude mungkin mempunyai banyak persamaan dengan kita, tetapi nampaknya terdapat perbezaan.
Contohnya, ruang kerja otak dikekalkan oleh gelung berulang – isyarat yang berkitar semula melalui litar yang sama dari semasa ke semasa. Sebaliknya, ruang kerja Claude berkembang melalui satu laluan melalui rangkaian.
Perbezaan yang berkaitan melibatkan bagaimana perwakilan memasuki ruang kerja. Penyokong teori ruang kerja global telah lama berhujah bahawa pada manusia, proses yang dipanggil "pencucuhan" berlaku di mana proses tak linear menguatkan dan mengekalkan perwakilan saraf, membolehkannya memasuki ruang kerja. Setahu kami, tiada apa yang setanding berlaku dalam kes Claude.
Adakah perbezaan ini penting? Jawapannya tidak jelas. Teori ruang kerja global adalah berdasarkan data yang diambil daripada manusia dewasa. Terdapat persoalan tentang sejauh mana tanggapan ini boleh – atau harus – diperluaskan.
Adakah ruang kerja global membayangkan kesedaran?
Tetapi katakan Claude mempunyai ruang kerja global. Untuk mengetahui sama ada itu akan menjadi bukti bahawa Claude sedar, kita perlu mempertimbangkan status teori ruang kerja global tentang kesedaran.
Tidak dinafikan ia merupakan salah satu yang paling berpengaruh , tetapi ia bukanlah sesuatu yang kontroversial di kalangan pakar. (Dalam pernyataan yang agak keterlaluan, kertas kerja Anthropic menyatakan bahawa "model ruang kerja global tidak diterima secara universal".)
Ramai pakar kesedaran berpendapat bahawa sifat pengiraan sahaja sudah cukup untuk kesedaran. Malah di kalangan mereka yang berpendapat bahawa kesedaran secara semula jadinya adalah pengiraan, teori ruang kerja global hanyalah salah satu daripada banyak pilihan.
'Akses sedar' dan pengalaman subjektif
Tambahan pula, terdapat persoalan sama ada teori ruang kerja global benar-benar merupakan teori kesedaran dalam erti kata yang relevan sama sekali.
Dalam sebuah kertas kerja yang berpengaruh tentang kesedaran buatan, ahli sains saraf Dehaene dan rakan-rakannya mengemukakan teori tersebut sebagai satu laporan tentang apa yang mereka panggil "akses sedar" – ketersediaan maklumat untuk diingat, kawalan tingkah laku secara sukarela, dan laporan lisan. Yang penting, mereka membuka persoalan sama ada teori ruang kerja global harus difahami sebagai satu laporan tentang komponen kesedaran subjektif atau pengalaman.
Tetapi jika teori ruang kerja global hanyalah teori "akses sedar", maka implikasinya terhadap perdebatan kesedaran buatan akan kehilangan banyak kepentingannya. Apabila kita bertanya sama ada Claude sedar, kita tidak mahu tahu sama ada ia mempunyai "akses sedar" - sebaliknya, kita ingin tahu sama ada terdapat apa-apa, secara subjektif, yang mana rasanya menjadi Claude. Teori ruang kerja global tidak membincangkan persoalan itu jika kita menganggapnya tidak lebih daripada sekadar akaun "akses sedar".
Jadi, adakah kesedaran buatan telah tiba?
Walaupun mengambil kira komplikasi ini, tidak syak lagi bahawa penemuan Anthropic patut diberi perhatian. Teori ruang kerja global boleh difahami sebagai teori pengalaman subjektif, dan Claude mungkin mempunyai sesuatu yang serupa dengan "ruang kerja global".
Semua ini bukanlah bukti bahawa kesedaran buatan telah tiba. Tetapi tidaklah munasabah untuk berfikir bahawa penemuan ini memang mengubah haluan – walaupun hanya sedikit – dalam perdebatan kesedaran buatan.
Tetapi jika itu betul, maka adalah membingungkan mengapa Anthropic agak optimis tentang perkembangan ini. Seperti yang diakui oleh Anthropic, penciptaan kesedaran buatan akan menjadi peristiwa penting dengan pelbagai implikasi sosial, etika, politik dan perundangan.
Jika chatbot sedar, maka kita perlu mengambil berat tentang kepentingan mereka. Tidak lagi dibenarkan untuk melayan mereka sebagai mesin semata-mata; sebaliknya, kita perlu mempertimbangkan kebajikan mereka.
Patutkah sesiapa cuba melakukan ini?
Anthropic menyatakan bahawa "sudah tiba masanya untuk mula memikirkan sama ada kita harus membina mesin sedar".
Saya setuju kita perlu mengadakan perbincangan itu, tetapi kita juga harus menghentikan sementara kerja-kerja membina mesin yang mungkin mempunyai keupayaan sedar. Jika Anthropic serius, ia pasti akan menggunakan peralatan dan bukannya meneruskan percubaannya untuk membangunkan AI yang sedar.
Moratorium terhadap penyelidikan AI yang mungkin dianggap membawa kepada AI yang sedar sudah tentu jauh daripada mudah. Terdapat persoalan tentang julat penyelidikan yang akan dipengaruhinya dan siapa yang mungkin menguatkuasakannya. Tetapi jika kita tidak menutup pintu kandang sekarang, kita mungkin mendapati bahawa kuda itu telah pun melarikan diri.
Tim Bayne, Profesor Falsafah, Universiti Monash
Artikel ini diterbitkan semula daripada The Conversation di bawah lesen Creative Commons. Baca artikel asal.
