Ang mga kamakailang babala mula sa mga pinuno ng American AI ay lumikha ng impresyon na ang mundo ay nagsisimula pa lamang harapin ang mga panganib ng advanced artificial intelligence.
Nanawagan si Dario Amodei, punong ehekutibo ng kompanyang pang-teknolohiya na Anthropic, sa mga pamahalaan na makialam upang mapabagal ang pag-unlad ng lalong lumalakas na mga modelo ng AI .
Ang kanyang panukala ay nagsisimula sa mga independiyenteng tagasuri na naka-embed sa loob ng mga kumpanya ng AI, nagpapatuloy sa regulasyon at umuusad sa koordinasyon na sinusuportahan ng gobyerno sa mga demokratikong estado.
Sa huli, hinihingi nito ang mga pandaigdigang kasunduan sa Tsina sa pagsubok ng mga sistema ng AI, mga mapanganib na aplikasyon ng teknolohiya at ang bilis ng pag-unlad ng AI.
Gayunpaman, mayroong butas na hugis-Tsina sa salaysay na ito. Ang superpower sa Asya ay inilalarawan bilang ang mahirap na huling kalahok sa isang sistema ng pamamahala na dapat munang likhain ng US at mga kaalyado nito.
Sa katunayan, nakapagtatag na ang Tsina ng malawak na sistema ng mga patakaran, pagtatasa, paghahain, mga teknikal na pamantayan, at pangangasiwa ng gobyerno sa AI. Narito kung paano umunlad nang paunti-unti ang sistema ng pamamahala ng AI ng Tsina kasabay ng mismong teknolohiya.
Ang mga patakaran ng Beijing sa 2022 tungkol sa mga serbisyo ng rekomendasyon sa algorithm ay nalalapat sa mga teknolohiyang pumipili, nagraranggo, nagfi-filter, o nagrerekomenda ng online na nilalaman sa mga gumagamit.
Hinihimok nila ang mga kumpanyang gumagamit ng mga algorithm na suriin kung paano gumagana ang mga ito, protektahan ang personal na impormasyon ng mga gumagamit, bigyan ang mga gumagamit ng ilang partikular na kontrol, at magpakilala ng mga pananggalang para sa mga manggagawa, mamimili, bata, at matatanda.
ng Tsina para sa malalim na sintesis, na epektibo simula Enero 2023, ay nagpalawak ng regulasyon sa sintetikong (o AI-generated) na teksto, mga imahe, audio at video. Dapat patunayan ng mga kumpanya ng AI ang mga gumagamit, protektahan ang data, panatilihin ang mga kaugnay na talaan, suriin ang kanilang mga sistema at tukuyin ang sintetikong materyal na maaaring mapagkamalang tunay na nilalaman.
Ang mga pansamantalang hakbang para sa mga serbisyo ng generative artificial intelligence ay ipinakilala noong Agosto 2023.Ang mga idinagdag na panuntunang ito para sa public-facing generative AI, lalo na iyong mga maaaring makaimpluwensya sa opinyon ng publiko o makahikayat ng mga paggamit sa ibang paraan.
Ang mga hakbang ay nalalapat sa legalidad at kalidad ng datos ng pagsasanay, personal na impormasyon ng mga gumagamit, intelektwal na ari-arian at diskriminasyon batay sa mga protektadong katangian. Saklaw din ng mga patakaran ang transparency ng mga kumpanya ng AI at ang katumpakan at pagiging maaasahan ng mga produkto.
Sa ilalim ng mga patakaran, dapat tugunan ng mga kumpanya ang mga problemang matatagpuan sa kanilang mga serbisyo. Ang mga serbisyong ito ay dapat sumailalim sa isang pagtatasa ng seguridad upang suriin ang kanilang mga panganib at pagsunod sa batas ng Tsina. Dapat ding maghain ng impormasyon ang mga kumpanya tungkol sa kanilang mga algorithm sa mga awtoridad ng Tsina.
Ang mga mekanismong ito ay hindi magkapareho sa mga independiyenteng tagasuri na ilalagay sa mga kumpanya ng AI, gaya ng iminungkahi ng Amodei. Ngunit ginagampanan nila ang ilan sa mga parehong tungkulin.
Mga panganib sa hangganan
Ang pinakabagong hanay ng mga hakbang ng Beijing ay tinatawag na AI safety governance framework 3.0, na inilathala noong Setyembre 2026. Nagtatakda ito ng isang malawak na pamamaraan sa pagtukoy, pag-uuri, at pagtugon sa mga panganib sa buong lifecycle ng mga sistema ng AI.
Batay sa mga naunang bersyon, sinasaklaw ng balangkas ang mga panganib sa modelo at datos ng AI, mga kahinaan sa mga open source na modelo (mga maaaring malayang baguhin ng mga gumagamit), mga epekto ng AI sa trabaho at lipunan at mga sistemang lalong nagsasarili.
Kabilang dito ang isang nakalaang mekanismo para sa pamamahala ng mga panganib na nauugnay sa mabilis na umuunlad na mga ahente ng AI (mga sistemang nagsasagawa ng mga gawain bilang tugon sa mga tagubilin ng isang gumagamit).
Tinutugunan ng balangkas ang ilan sa mga panganib na nagdudulot ngayon ng alarma sa Silicon Valley, kabilang ang mga sistemang lubos na nagsasarili, ang maling paggamit ng mga teknolohiyang kemikal, biyolohikal at nuklear, at ang posibilidad na mawalan ng kontrol ang mga tao sa advanced AI. Nagpapanukala ito ng patuloy na mga pagsusuri sa kaligtasan, mga pananggalang batay sa panganib, pagiging namamahala ng mga tao, at mga mekanismo ng interbensyong pang-emerhensya.
Inilarawan ng isang malayang pagsusuri ng US Carnegie Endowment for International Peace thinktank ang balangkas bilang pagtatangka ng Tsina na "isulong ang kaligtasan sa mga hangganan nang hindi nangangailangan ng mabibigat na interbensyon sa regulasyon".
Mga legal na kahihinatnan
Hindi nangangahulugan ito na dapat ilipat sa ibang lugar ang mga patakaran ng Chinese AI. Iba ang mga institusyon, tradisyon sa regulasyon, at mga prayoridad sa teknolohiya nito.
Maraming tungkulin na ngayon ay itinuturing na mga agarang mithiin sa US, kabilang ang pagsusuri, pananagutan para sa mga kumpanya ng AI, pag-uuri ng panganib para sa mga sistema ng AI, paghahain ng regulasyon, mga pamantayang teknikal, at pangangasiwa ng gobyerno, ay nakatanim na sa arkitektura ng pamamahala ng isa pang superpower ng AI sa mundo.
Malaya ang US na maghinuha na ang isang sistemang pinamumunuan ng merkado ay pinakamahusay na nagsisilbi sa mga interes nito sa ekonomiya at estratehiko. Mas pinaboran ng administrasyong Trump ang isang "minimally burdensome" at sinikap na limitahan ang mas mahigpit na regulasyon sa antas ng estado.
Ngunit ang isang modelong pinangungunahan ng merkado ay hindi maaaring mangahulugan ng pagsasapribado ng mga benepisyo ng AI habang iniluluwas ang mga panganib nito. Maaaring makuha ng mga kumpanyang Amerikano ang mga komersyal na pakinabang, habang ang mga pamahalaan sa ibang lugar ay naiiwan upang imbestigahan ang mga insidente sa seguridad, protektahan ang mga pampublikong sistema at sagutin ang mas malawak na mga gastos kapag nabigo ang mga teknolohiyang iyon. Ang ahente ng OpenAI na nakakuha ng hindi awtorisadong pag-access sa serbisyong pangkalusugan ng estado ng Australia ay nagpapakita kung paano iniluluwas ang mga panganib ng AI.
Kung tatanggihan ng Washington ang malawakang kontrol bago ilabas ang mga sistema, kakailanganin ng US ng isang kapani-paniwalang legal na rehimen para sa pagtatasa kung sino ang mananagot sa pinsalang dulot ng mga modelong AI na iyon. Kung hindi, ang mga bansang umaasa sa mga dayuhang sistema ng AI ay mahaharap sa lalong mahirap na mga pagpipilian tungkol sa kung kaninong teknolohiya ang pagkakatiwalaan, at sa anong mga tuntunin.
Matagal nang prinsipyo ng pamamahala sa Silicon Valley ang "kumilos nang mabilis at sirain ang mga bagay-bagay". Iyan ay palaging isang kaduda-dudang prinsipyo para sa mga teknolohiyang malalim na hinabi sa buhay publiko. Hindi ito katanggap-tanggap para sa mga kumpanyang ang sarili nilang mga pinuno ay nagbabala na ang kanilang mga produkto ay maaaring magdulot ng kapaha-pahamak na pinsala.
Pinalibutan na ng Beijing ang sektor ng AI nito ng mga obligasyong pampubliko, pangangasiwa sa regulasyon, at isang umuunlad na balangkas ng pagtatasa ng panganib. Ang isang pandaigdigang debate na tinatrato ang naturang pamamahala bilang isang mithiin sa hinaharap ay dapat kahit papaano ay kilalanin na ang isang bansa ay nangunguna na sa kurba.
Madeline Carr, Propesor ng Pandaigdigang Pulitika at Cybersecurity, UCL.
Ang artikulong ito ay muling inilathala mula sa The Conversation sa ilalim ng lisensyang Creative Commons. Basahin ang orihinal na artikulo.
