Kapag nakikipag-ugnayan ka sa isang malaking modelo ng wika (LLM) – isa sa mga sistema sa likod ng mga chatbot tulad ng ChatGPT at Claude – parang nakikipag-ugnayan ka sa isa pang may malay na isip. Ngunit totoo ba?
May ilang kilalang siyentipiko, tulad nina Geoff Hinton at Richard Dawkins, na nagsasabing oo. Ngunit karamihan sa mga eksperto ay nananatiling may pag-aalinlangan, na nangangatwiran na ang kahanga-hangang mga kakayahang kognitibo ng mga LLM ay nangyayari sa kawalan ng kamalayan.
Noong nakaraang linggo, sinaliksik ng mga mananaliksik sa Anthropic, ang kumpanya sa likod ni Claude, ang debateng ito na may isang kawili-wiling natuklasan. Inaangkin nila na si Claude ay may karaniwang hindi nakikitang hanay ng mga representasyon ng impormasyon na gumagabay sa panloob na pangangatwiran at berbal na output nito.
Dito nagiging interesante ito. Ikinakatuwiran ng mga mananaliksik na ang natuklasang ito ay maaaring maunawaan sa mga tuntunin ng isang maimpluwensyang teorya ng kamalayan na tinatawag na teorya ng pandaigdigang espasyo sa trabaho.
Ano ang teorya ng pandaigdigang espasyo sa paggawa?
Unang iminungkahi ng sikologo na si Bernard Baars noong 1998 at higit pang binuo ng neuroscientist na si Stanislas Dehaene at ng kanyang mga kasamahan, ang teoryang ito ay naniniwala na ang kamalayan ay kinabibilangan ng aktibidad ng isang "pandaigdigang workspace". Ito ay isang uri ng processing hub sa isip o utak na nagsasama-sama at nagbo-broadcast ng impormasyon, na nagpapahintulot dito na magamit para sa pangangatwiran, pagkontrol sa pag-uugali, at pagsasalita.
Sa isang makintab na bidyo na nagpapaliwanag sa akda, inilalarawan ng Anthropic ang mga nilalaman ng "pandaigdigang espasyo sa trabaho" ni Claude bilang mga barkong naglalayag na nakalutang sa isang malawak na dagat ng walang malay na aktibidad ng pag-iisip.
Paano tayo dapat tumugon sa mga pag-unlad na ito? Nagbibigay ba ang mga ito ng ebidensya para sa artipisyal na kamalayan? Kung gayon, gaano katibay ang ebidensyang iyon?
Ano ang isang pandaigdigang workspace?
Maaari tayong magsimula sa pagtatanong kung mayroon nga bang "global workspace" si Claude. Hindi ito diretso, dahil ang teorya ay hindi nagbibigay ng pormal na kahulugan ng isang global workspace.
Ang paniwala ay inilalarawan lamang sa impormal na paraan. Ang (karaniwang ipinahihiwatig) palagay ay ang anumang computational workspace na "sapat na kapareho" sa isang tao ay maituturing na isang "global workspace". Ngunit gaano kapareho ang sapat na pagkakatulad?
Maaaring malaki nga ang pagkakatulad ng workspace ni Claude sa atin, ngunit tila may mga pagkakaiba.
Halimbawa, ang workspace ng utak ay pinapanatili ng mga paulit-ulit na loop – mga signal na bumabalik sa parehong mga circuit sa paglipas ng panahon. Sa kabaligtaran, ang workspace ni Claude ay nagbabago sa isang pagdaan lamang sa network.
Ang isang kaugnay na pagkakaiba ay tungkol sa kung paano pumapasok ang mga representasyon sa isang workspace. Matagal nang ikinakatuwiran ng mga tagapagtaguyod ng pandaigdigang teorya ng workspace na sa mga tao, isang prosesong tinatawag na "ignition" ang nangyayari kung saan ang isang hindi linear na proseso ay nagpapalaki at nagpapanatili ng mga neural na representasyon, na nagpapahintulot sa kanila na pumasok sa workspace. Sa pagkakaalam natin, walang maihahambing na nangyayari sa kaso ni Claude.
Mahalaga ba ang mga pagkakaibang ito? Hindi malinaw ang sagot. Ang pandaigdigang teorya ng workspace ay batay sa datos na kinuha mula sa mga nasa hustong gulang na tao. May mga tanong tungkol sa kung gaano kalayo maaaring – o dapat – palawakin ang paniwala.
Ang isang pandaigdigang workspace ba ay nagpapahiwatig ng kamalayan?
Ngunit ipagpalagay natin na si Claude ay mayroong pandaigdigang espasyo para sa trabaho. Upang malaman kung iyon ay magiging ebidensya para sa pagiging mulat ni Claude, kailangan nating isaalang-alang ang katayuan ng teorya ng kamalayan sa pandaigdigang espasyo para sa trabaho.
Walang duda na isa ito sa mga pinaka-maimpluwensyang teorya ng kamalayan, ngunit hindi ito kontrobersyal sa mga eksperto. (Sa isang labis na pagmamaliit, binanggit ng papel ng Anthropic na "ang pandaigdigang modelo ng workspace ay hindi tinatanggap ng lahat".)
Maraming eksperto sa kamalayan ang nangangatwiran na ang mga katangiang pangkomputasyonal lamang ay sapat na para sa kamalayan. Kahit sa mga nag-iisip na ang kamalayan ay likas na pangkomputasyonal, ang pandaigdigang teorya ng workspace ay isa lamang sa maraming mga opsyon.
'Malay na pag-access' at subhetibong karanasan
Bukod pa rito, may mga katanungan kung ang pandaigdigang teorya ng workspace ay talagang isang teorya ng kamalayan sa nauugnay na kahulugan.
Sa isang maimpluwensyang papel tungkol sa artipisyal na kamalayan, isinusulong ng neuroscientist na si Dehaene at ng kanyang mga kasama ang teorya bilang isang salaysay ng tinatawag nilang "conscious access" – ang pagkakaroon ng impormasyon para sa paggunita, ang boluntaryong pagkontrol sa pag-uugali, at berbal na ulat. Mahalaga, iniiwan nilang bukas ang tanong kung ang teorya ng pandaigdigang workspace ay dapat bang unawain bilang isang salaysay ng mga subhetibo o karanasang bahagi ng kamalayan.
Ngunit kung ang pandaigdigang teorya ng workspace ay isa lamang teorya ng "conscious access," kung gayon ang mga implikasyon nito para sa debate sa artipisyal na kamalayan ay nawawalan ng malaking kahalagahan. Kapag tinatanong natin kung si Claude ay may kamalayan, hindi natin gugustuhing malaman kung mayroon itong "conscious access" – sa halip, gusto nating malaman kung mayroong anumang bagay, sa subhetibong pagsasalita, na katulad ng pagiging Claude. Ang pandaigdigang teorya ng workspace ay hindi tumutugon sa tanong na iyan kung ituturing natin ito bilang isang salaysay lamang ng "conscious access".
Kaya dumating na ba ang artipisyal na kamalayan?
Kahit na isinasaalang-alang ang mga komplikasyong ito, walang duda na kapansin-pansin ang mga natuklasan ni Anthropic. Ang teorya ng pandaigdigang espasyo sa trabaho ay maaaring maunawaan bilang isang teorya ng subhetibong karanasan, at maaaring si Claude ay mayroong isang bagay na katulad ng isang "pandaigdigang espasyo sa trabaho".
Wala sa mga ito ang ebidensya na dumating na ang artipisyal na kamalayan. Ngunit hindi makatuwiran na isipin na ang mga natuklasang ito ay nagpapabago sa dial – kahit na kaunti lamang – sa debate tungkol sa artipisyal na kamalayan.
Ngunit kung tama iyan, nakakapagtaka kung bakit lubos na positibo ang Anthropic tungkol sa mga pag-unlad na ito. Gaya ng kinikilala ng Anthropic, ang paglikha ng artipisyal na kamalayan ay magiging isang mahalagang kaganapan na may malawak na saklaw na panlipunan, etikal, pampulitika at legal na mga implikasyon.
Kung ang mga chatbot ay may kamalayan, kakailanganin nating seryosohin ang kanilang mga interes. Hindi na sila maaaring ituring na mga makina lamang; sa halip, kakailanganin nating isaalang-alang ang kanilang kapakanan.
Dapat ba talagang may sumubok na gawin ito?
Binanggit ni Anthropic na “panahon na para simulang pag-isipan kung dapat ba tayong bumuo ng mga makinang may kamalayan.”
Sumasang-ayon ako na kailangan nating magkaroon ng talakayang iyan, ngunit dapat din nating ihinto ang paggawa ng mga makinang maaaring may kamalayan. Kung seryoso ang Anthropic, tiyak na gagamit ito ng mga kagamitan sa halip na ituloy ang pagtatangka nitong bumuo ng may kamalayang AI.
Ang isang moratorium sa pananaliksik sa AI na maaaring ituring na hahantong sa may kamalayang AI ay, siyempre, hindi magiging madali. May mga katanungan tungkol sa saklaw ng pananaliksik na maaapektuhan nito at kung sino ang maaaring magpatupad nito. Ngunit kung hindi natin isasara ang pinto ng kuwadra ngayon, maaaring matuklasan natin na nakatakas na ang kabayo.
Tim Bayne, Propesor ng Pilosopiya, Monash University.
Ang artikulong ito ay muling inilathala mula sa The Conversation sa ilalim ng lisensyang Creative Commons. Basahin ang orihinal na artikulo.
