Noong nakaraang taon, dumalo ako sa isang panel tungkol sa generative AI sa edukasyon. Sa isang di-malilimutang sandali, nagtanong ang isang presenter: “Ano ang mahalaga? Ang generative AI ay parang calculator. Isa lamang itong kagamitan.”
Ang pagkakatulad ay nagiging karaniwan na. Mismong ang punong ehekutibo ng OpenAI na si Sam Altman ay tinukoy ang ChatGPT bilang " isang calculator para sa mga salita " at inihambing ang mga komento sa bagong teknolohiya sa mga reaksyon sa pagdating ng calculator.
Sabi ng mga tao, 'Kailangan nating ipagbawal ang mga ito dahil manloloko lang ang mga tao sa kanilang takdang-aralin. Kung hindi na kailangang kalkulahin muli ng mga tao ang isang sine function gamit ang kamay […] tapos na ang edukasyon sa matematika.'
Gayunpaman, ang mga generative AI system ay hindi mga calculator. Ang pagtrato sa mga ito na parang mga calculator ay nagpapalabo sa kung ano sila, ano ang kanilang ginagawa, at kung sino ang kanilang pinaglilingkuran. Pinapasimple ng madaling pagkakatulad na ito ang isang kontrobersyal na teknolohiya at binabalewala ang limang mahahalagang pagkakaiba mula sa mga teknolohiya noong nakaraan.
1. Ang mga calculator ay hindi nagha-hallucinate o nanghihikayat
Kinakalkula ng mga calculator ang mga function mula sa malinaw na tinukoy na mga input. Ilalagay mo ang 888 ÷ 8 at makakakuha ka ng isang tamang sagot: 111.
Ang output na ito ay may hangganan at hindi mababago. Ang mga calculator ay hindi naghihinuha, nanghuhula, nagha-hallucinate o nanghihikayat.
Hindi sila nagdadagdag ng mga peke o hindi kanais-nais na elemento sa sagot. Hindi sila gumagawa-gawa ng mga kasong legal o nagsasabi sa mga tao na " mamatay ka na sana ".
2. Ang mga calculator ay hindi nagdudulot ng mga pangunahing etikal na problema
Hindi nagbabangon ang mga calculator ng mga pangunahing etikal na problema.
ang paggawa ng ChatGPT ay kinasangkutan ng mga manggagawa sa Kenya na sinusuri ang mga hindi na mababawi na nakaka-trauma na nilalaman sa halagang isa o dalawang dolyar kada oras. Hindi iyon kailangan ng mga calculator noon.
Matapos ang krisis sa pananalapi sa Venezuela, isang kumpanya ng AI data-labeling ang nakakita ng pagkakataon na kumuha ng murang lakas-paggawa gamit ang mga mapagsamantalang modelo ng trabaho . Hindi rin iyon kailangan ng mga calculator.
Hindi na kinailangan ng mga calculator ang pagtatayo ng malalaking bagong planta ng kuryente ang pakikipagkumpitensya sa mga tao para sa tubig gaya ng ginagawa ng mga AI data center sa ilan sa mga pinakamatuyong bahagi ng mundo .
Hindi na kailangan ng mga calculator bagong imprastraktura . Ang industriya ng calculator ay hindi nakaranas ng malaking pagsulong sa pagmimina tulad ng kasalukuyang nagtutulak sa matakaw na pagkuha ng tanso at lithium tulad ng sa mga lupain ng mga Atacameño sa Chile.
3. Hindi sinisira ng mga calculator ang awtonomiya
Ang mga calculator noon ay walang potensyal na maging isang " autocomplete habang buhay ". Hindi sila kailanman nag-alok na gumawa ng lahat ng desisyon para sa iyo, mula sa kung ano ang kakainin at saan pupunta hanggang sa kung kailan hahalikan ang iyong ka-date.
Hindi hinamon ng mga calculator ang ating kakayahang mag-isip nang kritikal. Gayunpaman, ipinakita ng generative AI na nakakabawas ito sa malayang pangangatwiran at nagpapataas ng " cognitive offloading ". Sa paglipas ng panahon, ang pag-asa sa mga sistemang ito ay nanganganib na ilagay ang kapangyarihang gumawa ng mga pang-araw-araw na desisyon sa mga kamay ng mga malabong sistema ng korporasyon.
4. Ang mga calculator ay walang panlipunan at lingguwistikong pagkiling
Hindi nire-reproduce ng mga calculator ang mga hirarkiya ng wika at kultura ng tao. Gayunpaman, ang Generative AI ay sinasanay sa datos na sumasalamin sa mga siglo ng hindi pantay na ugnayan ng kapangyarihan, at ang mga output nito ay sumasalamin sa mga hindi pagkakapantay-pantay na iyon.
Minamana at pinatitibay ng mga modelo ng wika ang prestihiyo ng mga nangingibabaw na anyong lingguwistika, habang isinasantabi o binubura ang mga hindi gaanong may pribilehiyo.
Ang mga kagamitang gaya ng ChatGPT ay humahawak sa mainstream na Ingles , ngunit regular na binabago ang mga salita, binibigyang-mali ang mga label, o binubura ang ibang mga Ingles sa mundo .
Bagama't mga proyektong nagtatangkang tugunan ang pagbubukod ng mga minoryang tinig mula sa pag-unlad ng teknolohiya, ang pagkiling ng generative AI para sa mainstream na Ingles ay nakababahala.
5. Ang mga calculator ay hindi 'lahat ng makina'
Hindi tulad ng mga calculator, ang mga modelo ng wika ay hindi gumagana sa loob ng isang makitid na sakop tulad ng matematika. Sa halip, mayroon silang potensyal na makisali sa lahat ng bagay: persepsyon, kognisyon, emosyon at interaksyon.
Ang mga modelo ng wika ay maaaring "mga ahente", "mga kasama", "mga influencer", "mga therapist", at "mga kasintahan". Ito ang isang pangunahing pagkakaiba sa pagitan ng generative AI at mga calculator.
Nilalaman mula sa aming mga kasosyo
Bagama't nakakatulong ang mga calculator sa aritmetika, ang generative AI ay maaaring magsagawa ng parehong transactional at interactional na mga tungkulin. Sa isang upuan lang, matutulungan ka ng isang chatbot na i-edit ang iyong nobela, magsulat ng code para sa isang bagong app, at magbigay ng detalyadong sikolohikal na profile ng isang taong sa tingin mo ay gusto mo.
Pananatiling kritikal
Dahil sa analohiya ng calculator, tila hindi nakakapinsala ang mga modelo ng wika at ang mga tinatawag na "copilots", "tutors", at "agent". Nagbibigay ito ng pahintulot para sa hindi kritikal na pag-aampon at nagmumungkahi na kayang ayusin ng teknolohiya ang lahat ng hamong kinakaharap natin bilang isang lipunan.
Perpekto rin itong nababagay sa mga platapormang gumagawa at namamahagi ng mga generative AI system. Ang isang neutral na kagamitan ay hindi nangangailangan ng pananagutan, walang mga audit, walang pinagsasaluhang pamamahala.
Ngunit gaya ng nakita na natin, ang generative AI ay hindi parang calculator. Hindi lamang ito basta nagko-crunch ng mga numero o gumagawa ng mga bounded output.
Ang pag-unawa sa kung ano talaga ang generative AI ay nangangailangan ng mahigpit na kritikal na pag-iisip. 'Yung tipong magbibigay sa atin ng kakayahan na harapin ang mga bunga ng " mabilis na pagkilos at pagsira ng mga bagay-bagay ". 'Yung tipong makakatulong sa atin na magdesisyon kung sulit ba ang gastos sa pagkasira.
Celeste Rodriguez Louro , Associate Professor, Tagapangulo ng Linguistics at Direktor ng Language Lab, The University of Western Australia.
Ang artikulong ito ay muling inilathala mula sa The Conversation sa ilalim ng lisensyang Creative Commons. Basahin ang orihinal na artikulo .
