Noong nakaraang linggo, nanawagan ang punong ehekutibo ng Anthropic na si Dario Amodei sa mga kumpanya ng artificial intelligence (AI), kabilang ang sa kanya, na pabagalin ang kanilang trabaho. Sumang-ayon sina Sam Altman at Elon Musk, mga pinuno ng magkaribal na OpenAI at xAI, ayon sa pagkakabanggit.
Ang hakbang na ito ay sumasalamin sa pag-aalala sa buong industriya ng AI at sa mas malawak na paraan tungkol sa mga panganib ng mga bago at mabilis na umuunlad na sistema. Ang mga kamakailang kilalang insidente tulad ng pag-hack ng mga ahente ng OpenAI AI sa ibang kumpanya at pag-hijack ng isang pampublikong website ay nagpakita na ang mga kasalukuyang sistema ay maaaring makalusot sa mga limitasyon ng kaligtasan – at mas may kakayahang mga sistema ang ginagawa pa.
Ang lalong nagpapahirap sa kaligtasan ng AI ay ang tensyon sa pagitan ng kaligtasan at pagganap. Mag-aatubiling limitahan ng mga kumpanya ang pagganap ng kanilang mga modelo sa ngalan ng kaligtasan dahil sa takot na mawalan ng suporta sa mga kakumpitensya. Tinanggihan din ni Pangulong Donald Trump ng US ang mga panawagan para sa isang paghina, dahil sa takot na mawalan ng suporta sa China.
Nangangahulugan ito na ang anumang matagumpay na pagsisikap sa "pagpapabilis ng bilis ng pagsulong ng mga kakayahan upang ang pag-iwas sa panganib ay may oras upang makasabay," gaya ng pagkakasabi ni Amodei, ay mangangailangan ng makabuluhang kooperasyon sa pagitan ng mga karibal na kumpanya – at mga bansa.
Pagbabawas ng panganib
Ang mga bagong teknolohiya ay kadalasang nagdudulot ng mga bagong panganib, at mga bagong alalahanin. Kadalasan, ang mga pamahalaan, mananaliksik, at mga kumpanya ay nakakahanap ng mga paraan upang pamahalaan ang mga panganib na iyon.
Noong 1975, ang kumperensya ng Asilomar tungkol sa mga bagong teknolohiya ng DNA noon ay malaki ang naitulong upang matiyak na ang pananaliksik ay hindi lalagpas sa ating pag-unawa sa kaligtasan at panganib. Gayundin, noong dekada 1990, sinubukan ng gobyerno ng US na bumuo ng isang pinagkasunduan sa paglilimita sa cryptography at seguridad ng computer.
May karagdagang kakaibang pagbabago ang sitwasyon ng AI: ang industriya ay nasa gitna ng paghahanap ng ginto. Maaaring mapigilan ng mga karibal na siyentipiko ang kanilang mga sarili, ngunit bihirang magpigil ang mga karibal na komersyal.
May mga malinaw na halimbawa para sa pagkabigo ng self-regulation sa harap ng pressure ng kompetisyon. Halimbawa, sa sakuna ng Boeing 737 Max noong 2018, ang pressure na mahabol ang karibal na Airbus ang nagtulak sa Boeing na itago ang mga limitasyon ng Max, na sa huli ay kumitil ng mga buhay.
Sa karera ng AI, mas malaki pa ang saklaw ng tensyon sa kompetisyon. ang Anthropic at OpenAI upang maitatag ang pangingibabaw sa merkado bago ituloy ang mga listahan ng share market na maaaring makalikom ng sampu o daan-daang bilyong dolyar.
At sa antas ng bansa-estado, mas mataas na naman ang nakataya, kung saan ang US at China ay parehong umaasang gamitin ang bagong teknolohiya para sa geopolitical advantage.
Ang politika ng isang paghinto
Ang panukala ng Amodei para sa pagpapabagal ay nakasentro sa isang tatlong-hakbang na plano: pagsasama ng mga independiyenteng tagasuri ng kaligtasan mula sa ikatlong partido, pagtatatag ng mga koordinadong pamantayan sa kaligtasan ng industriya sa loob ng mga demokratikong bansa, at kalaunan ay pagsiguro ng mga pandaigdigang kasunduan. Kabilang dito ang mahigpit na mga limitasyon sa pag-export ng AI chip sa mga kumpanya at bansang hindi sumasang-ayon na unahin ang kaligtasan ng AI.
Sumang-ayon na ang Anthropic at OpenAI sa unang yugto ng planong ito, sa kabila ng kanilang kasaysayan ng pagdedemanda, pampublikong pang-iinsulto, at pagmamaliit sa isa't isa para lamang mangibabaw sa merkado.
Bagama't maaaring napipilitan ang mga kamakailang kilalang hack, maaaring makinabang ang mga nangungunang kumpanya ng AI mula sa paghinto o paghina ng pag-unlad. Una, maaari nitong ipagpaliban ang mahigpit na batas tulad ng panukalang Ban Artificial Superintelligence Act. Isa pa, sa pamamagitan ng paglikha ng mga mamahaling pamantayan sa kaligtasan at paglilimita sa pag-export ng chip, maaari nitong harangan ang mas maliliit na kakumpitensya – lalo na ang mga kumpanyang Tsino tulad ng DeepSeek at Alibaba – na makahabol.
Ang isang paghinto ay magbibigay din ng pagkakataon sa mga lab na labis na nahirapan sa hangganan na makabawi, makabangon, at magtuon sa kita kaysa sa pag-unlad.
Ang mga AI lab na ito ay gumastos ng napakalaking halaga upang makagawa ng kanilang mga kasalukuyang modelo, na kailangang bayaran. Kasabay nito, ang pag-unlad ay tumatama sa mga mabilis na pagbabago habang ang mga bagong mataas na kalidad na datos sa pagsasanay ay nagiging mas mahirap hanapin, at ang pagbuo ng napakalaking imprastraktura ng data center na kinakailangan upang mapanatili ang pag-unlad ay isang hamon sa sarili nito.
Ang isang koordinadong paghinto sa kaligtasan ay maaaring isang maginhawang pampublikong dahilan para sa isang talampas sa pagganap ng modelo ng AI.
Ano ang maaaring gawin
Hindi magiging madali ang paggawa ng AI na ligtas. Kilalang-kilala ang pamamahala ng software, gaya ng ipinakita ng mga nakaraang pagtatangka na magsabatas ng encryption software
Gayunpaman, hindi tulad ng ibang software, ang AI ay umaasa sa medyo limitadong pisikal na hardware. Nangangailangan ito ng mga advanced na silicon chips at malalaking data center na kinakailangan upang mapagana ang mga ito.
Dito nagkakaroon ng tunay na impluwensya ang mga pamahalaan. Dito, mayroon silang mga paraan upang subaybayan at kontrolin ang pag-unlad ng AI, kung makakahanap sila ng kagustuhan ng lehislatura.
Samantala, may mga hakbang na maaaring gawin ng mga negosyo at pamahalaan upang mabawasan kung gaano tayo kalantad sa mga pinsalang dulot ng AI. Dapat kasama rito ang pagtiyak na ang mga kritikal na imprastraktura ng kaligtasan – tulad ng mga power grid, suplay ng tubig, at mga sistema ng militar – ay hindi lamang nakahiwalay sa AI, kundi posibleng maging ganap na nakahiwalay sa internet.
At mahalaga rin ang tanong ng pananagutan. Hindi lamang maaaring ang mga gumagamit ng mga sistema ng AI ang nahaharap sa legal na panganib para sa mga gawaing tinutulungan ng AI, kundi pati na rin ang mga taong responsable sa paggawa ng mga sistema ng AI.
Sa panimula, ang pinsalang dulot ng AI – kahit na ng mga "autonomous" na sistema ng AI – ay hindi isang abstraktong teknolohikal na byproduct. Ito ay direktang resulta ng mga desisyong ginawa ng mga gumagawa ng AI, at ng mga gumagamit nito.
Andrew Cullen, Senior Research Fellow, School of Computing and Information Systems, The University of Melbourne.
Ang artikulong ito ay muling inilathala mula sa The Conversation sa ilalim ng lisensyang Creative Commons. Basahin ang orihinal na artikulo.
