Noong nakaraang taon dumalo ako sa isang panel sa generative AI sa edukasyon. Sa isang di malilimutang sandali, nagtanong ang isang nagtatanghal: "Ano ang malaking bagay? Ang Generative AI ay parang calculator. Ito ay isang tool lamang."
Ang pagkakatulad ay lalong karaniwan. Ang punong ehekutibo ng OpenAI na si Sam Altman ay tinukoy mismo ang ChatGPT bilang " isang calculator para sa mga salita " at inihambing ang mga komento sa bagong teknolohiya sa mga reaksyon sa pagdating ng calculator.
Sinabi ng mga tao, 'Kailangan nating ipagbawal ang mga ito dahil dadayain lang ng mga tao ang kanilang takdang-aralin. Kung hindi na kailangan ng mga tao na kalkulahin muli ang isang function ng sine sa pamamagitan ng kamay [...] tapos na ang edukasyon sa matematika.'
Gayunpaman, ang mga generative AI system ay hindi mga calculator. Ang pagtrato sa kanila na parang mga calculator ay nakakubli kung ano sila, kung ano ang kanilang ginagawa, at kung sino ang kanilang pinaglilingkuran. Ang madaling pagkakatulad na ito ay pinapasimple ang isang kontrobersyal na teknolohiya at binabalewala ang limang mahahalagang pagkakaiba mula sa mga teknolohiya ng nakaraan.
1. Ang mga calculator ay hindi nagha-hallucinate o nanghihikayat
Kinakalkula ng mga calculator ang mga function mula sa malinaw na tinukoy na mga input. Punch ka sa 888 ÷ 8 at makakuha ng isang tamang sagot: 111.
Ang output na ito ay may hangganan at hindi nababago. Ang mga calculator ay hindi naghihinuha, nanghuhula, nagha-hallucinate o nanghihikayat.
Hindi sila nagdaragdag ng mga pekeng o hindi gustong mga elemento sa sagot. Hindi sila gumagawa ng mga legal na kaso o sinasabi sa mga tao na “ mangyari ay mamatay ”.
2. Ang mga calculator ay hindi nagpapakita ng mga pangunahing problema sa etika
Ang mga calculator ay hindi nagtataas ng mga pangunahing etikal na dilemma.
Ang paggawa ng ChatGPT ay nagsasangkot ng mga manggagawa sa Kenya na nagsasala sa hindi maibabalik na nakakatrauma na nilalaman sa loob ng isang dolyar o dalawa bawat oras, halimbawa. Hindi iyon kailangan ng mga calculator.
Pagkatapos ng krisis sa pananalapi sa Venezuela, nakakita ng pagkakataon ang isang AI data-labelling company na kumuha ng murang paggawa gamit ang mga mapagsamantalang modelo ng trabaho . Hindi rin iyon kailangan ng mga calculator.
Hindi kailangan ng mga calculator na magtayo ng malalaking bagong power plant makipagkumpitensya sa mga tao para sa tubig gaya ng ginagawa ng mga AI data center sa ilan sa mga pinakatuyong bahagi ng mundo .
Ang mga calculator ay hindi nangangailangan ng bagong imprastraktura upang maitayo. Ang industriya ng calculator ay hindi nakakita ng malaking pagtulak sa pagmimina tulad ng kasalukuyang nagtutulak ng marahas na pagkuha ng tanso at lithium tulad ng sa mga lupain ng mga Atacameño sa Chile.
3. Hindi sinisira ng mga calculator ang awtonomiya
Ang mga calculator ay walang potensyal na maging isang " autocomplete habang-buhay ". Hindi sila kailanman nag-alok na gawin ang bawat desisyon para sa iyo, mula sa kung ano ang kakainin at kung saan pupunta kung kailan hahalikan ang iyong ka-date.
Hindi hinamon ng mga calculator ang aming kakayahang mag-isip nang kritikal. Ang Generative AI, gayunpaman, ay ipinakita na nakakasira ng independiyenteng pangangatwiran at nagpapataas ng " cognitive offloading ". Sa paglipas ng panahon, ang pag-asa sa mga sistemang ito ay nanganganib na maglagay ng kapangyarihang gumawa ng pang-araw-araw na mga pagpapasya sa mga kamay ng mga opaque na corporate system.
4. Ang mga calculator ay walang sosyal at linguistic bias
Ang mga calculator ay hindi nagpaparami ng mga hierarchy ng wika at kultura ng tao. Ang Generative AI, gayunpaman, ay sinanay sa data na nagpapakita ng mga siglo ng hindi pantay na ugnayan sa kapangyarihan, at ang mga output nito ay sumasalamin sa mga hindi pagkakapantay-pantay.
Ang mga modelo ng wika ay namamana at nagpapatibay sa prestihiyo ng mga nangingibabaw na anyo ng linggwistika, habang isinasantabi o binubura ang mga hindi gaanong pribilehiyo.
Ang mga tool tulad ng ChatGPT ay pinangangasiwaan ang mainstream na English , ngunit regular na nagre-reword, maling label, o nagbubura ng ibang mga English sa mundo .
Bagama't ang mga proyekto na nagtatangkang harapin ang pagbubukod ng mga minoridad na boses mula sa teknolohikal na pag-unlad, ang generative na pagkiling ng AI para sa mainstream na Ingles ay nakababahala na binibigkas.
5. Ang mga calculator ay hindi 'lahat ng mga makina'
Hindi tulad ng mga calculator, ang mga modelo ng wika ay hindi gumagana sa loob ng isang makitid na domain gaya ng matematika. Sa halip ay may potensyal silang isali ang kanilang mga sarili sa lahat ng bagay: perception, cognition, affect and interaction.
Ang mga modelo ng wika ay maaaring maging "mga ahente", "mga kasama", "mga influencer", "mga therapist", at "mga kasintahan". Ito ay isang pangunahing pagkakaiba sa pagitan ng generative AI at mga calculator.
Nilalaman mula sa aming mga kasosyo
Bagama't tumutulong ang mga calculator sa arithmetic, maaaring makisali ang generative AI sa parehong transactional at interactional na function. Sa isang upuan, matutulungan ka ng chatbot na i-edit ang iyong nobela, magsulat ng code para sa isang bagong app, at magbigay ng detalyadong sikolohikal na profile ng isang taong sa tingin mo ay gusto mo.
Pananatiling kritikal
Ginagawa ng analogy ng calculator na hindi nakakapinsala ang mga modelo ng wika at tinatawag na "copilots", "tutor", at "ahente". Nagbibigay ito ng pahintulot para sa hindi kritikal na pag-aampon at nagmumungkahi na kayang ayusin ng teknolohiya ang lahat ng hamon na kinakaharap natin bilang isang lipunan.
Perpektong nababagay din ito sa mga platform na gumagawa at namamahagi ng mga generative AI system. Ang isang neutral na tool ay hindi nangangailangan ng pananagutan, walang mga pag-audit, walang nakabahaging pamamahala.
Ngunit tulad ng nakita natin, ang generative AI ay hindi tulad ng isang calculator. Hindi ito basta-basta nag-crunch ng mga numero o gumagawa ng mga bounded na output.
Ang pag-unawa kung ano talaga ang generative AI ay nangangailangan ng mahigpit na kritikal na pag-iisip. Ang uri na nagbibigay sa atin ng kakayahan upang harapin ang mga kahihinatnan ng " mabilis na paggalaw at pagsira ng mga bagay ". Ang uri na makakatulong sa amin na magpasya kung ang pagkasira ay katumbas ng halaga.
Celeste Rodriguez Louro , Associate Professor, Chair of Linguistics at Direktor ng Language Lab, The University of Western Australia
Ang artikulong ito ay muling nai-publish mula sa The Conversation sa ilalim ng lisensya ng Creative Commons. Basahin ang orihinal na artikulo .
