Gunigunihin ang isang sistema ng artificial intelligence na mahusay na gumagana sa loob ng ilang buwan. Halos palaging tama ang mga rekomendasyon nito, at natutunan ng empleyadong sumusuri sa mga ito na bihirang baguhin ng masusing pagsusuri ang resulta. Pagkatapos ay may nangyayaring hindi pangkaraniwan. Ang AI ay nagkakamali o hindi makapagpatuloy at nangangailangan ng interbensyon ng tao. Inaasahang kikilos ang empleyado at mananatiling responsable para sa resulta.
Pero alam ba ng empleyado kung paano gawin ang gawain?
Ako ay isang propesor ng mga sistema ng impormasyon sa pamamahala at ang akademikong direktor ng Center for Applied AI & Business Analytics ng Drexel University. Sa aking pananaliksik tungkol sa mga ugnayan ng tao-AI, tinatawag ko itong nakatagong panganib: ang posibilidad na mawalan ng mga kakayahan ang mga tao na inaasahan pa rin sa kanila ng kanilang mga organisasyon.
Maaaring patuloy na gumana nang maayos ang AI habang ang mga taong nangangasiwa dito ay nagiging hindi gaanong sanay sa paggamit ng malayang pagpapasya at hindi gaanong handang makialam. Nagiging nakatago ang panganib kapag ang organisasyon ay umaasa pa rin sa kakayahang iyon ng tao na makialam ngunit walang gaanong dahilan upang mapansin na ang kakayahang iyon ay maaaring humihina.
Hindi naman bago ang alalahaning ito. Ang ideya ng latent risk ay nakabatay sa mga dekada ng pananaliksik kung paano tumutugon ang mga tao sa automation. Halimbawa, mga pag-aaral tungkol sa automation bias na maaaring makaligtaan ng mga tao ang mga problema o sundin ang mga automated na rekomendasyon kahit na iminumungkahi ng ibang ebidensya na hindi nila dapat ito pansinin.
Ang naiiba ngayon ay ang papel na ginagampanan ng AI sa mga organisasyon. Nagsisimula na itong gampanan ang mas malalaking bahagi ng pagsusuri at paggawa ng desisyon na dating ginagawa ng mga tao.
Ang kabalintunaan ng tagumpay
Habang nagiging mas mahusay ang AI, mas nagbabago ang uri ng trabaho ng tao. Ang trabahong dating nangangailangan ng pagsusuri ng isang empleyado ng isang problema at paggawa ng desisyon ay maaaring gawin na lamang ng AI, na hahayaan ang empleyado na suriin ang rekomendasyon nito. Hindi na ginagawa ng empleyado ang parehong trabaho sa tulong ng AI – sa halip, ang kanilang trabaho ay lumipat mula sa paggawa ng trabaho patungo sa pangangasiwa sa ginagawa ng AI.
Nagsisimula nang baguhin ng pagbabagong ito ang paraan ng pagsasanay ng ilang kumpanya sa mga empleyado. Halimbawa, ang higanteng kompanya ng accounting na Deloitte ay muling idinisenyo ang pagsasanay nito sa graduate audit habang kinukuha ng AI ang ilan sa mga manu-manong gawaing tradisyonal na ginagawa ng mga junior auditor. Nagpapakilala ang kompanya ng mga simulation upang ang mga trainee ay mapaunlad pa rin ang kanilang pagpapasya na kakailanganin nila habang sila ay pumapasok sa mas kumplikadong trabaho.
Mahigit apat na dekada na ang nakalilipas, inilarawan ng cognitive psychologist na si Lisanne Bainbridge ang isa sa mga "irony ng automation": Habang ang mga sistema ang kumukuha ng mas maraming trabaho, sa halip na basta na lamang gumaan ang kanilang mga trabaho, ang mga tao ay maaaring maiwang nahaharap sa mga bagong hamon sa pagsubaybay sa mga sistema at paghawak sa mga hindi pangkaraniwang sitwasyon na hindi kayang gawin ng mga sistema. Natuklasan ng mga pag-aaral sa mga sumunod na pag-aaral ang isa pang problema: Habang ang mga tao ay nagiging hindi gaanong kasangkot sa isang gawain, maaari silang maging hindi gaanong handa na makialam kung kinakailangan. Tinawag ito ng mga mananaliksik na out-of-the-loop na problema sa pagganap.
Ang nabawasang pakikilahok na ito ay maaaring makaapekto sa higit pa sa kahandaan ng isang tao na makialam. Maaari nitong baguhin ang mga kakayahang magagamit ng organisasyon.
Ang natitirang trabaho para sa mga tao ay hindi nangangahulugang nagiging mas madali. Maaari itong maging mas mahirap. Ito ang mga sitwasyon kung saan pinakamahalaga ang karanasan at malayang paghatol. Ang resulta ay isang kabalintunaan: Ang mga tao ay maaaring tawaging gumamit ng malayang paghatol nang mas madalang, kahit na ang mga paghatol na iniiwan sa kanila ay nagiging mas mahirap.
Ang problema sa pananagutan
Ang pananagutan ay maaaring hindi magbago nang kasing bilis ng pagbabago ng trabaho kapag nag-deploy ang mga organisasyon ng mga sistema ng AI. Maaari na ngayong pangasiwaan ng isang empleyado ang mas maraming desisyon kaysa sa kanilang ginagawa sa kanilang sarili, habang nananatiling responsable para sa mga resulta. Ang mga inaasahan ng organisasyon ay maaari pa ring sumasalamin kung paano hinati ang trabaho bago gumanap ang AI ng mas malaking papel. Samakatuwid, maaaring papanagutin ng organisasyon ang mga tao para sa mga desisyong wala silang gaanong kontrol.
Lumilikha ito ng hindi pagtutugma. Ang pananaliksik sa makabuluhang kontrol ng tao ay nagmumungkahi na ang responsibilidad ay dapat tumugma sa awtoridad at kakayahang kumilos ng isang tao. Maaaring mapanatili ng isang empleyado ang awtoridad na pawalang-bisa ang isang rekomendasyon ng AI at manatiling responsable para sa resulta, ngunit mawalan ng kakayahang gawin ito. Ang awtoridad, responsibilidad, at kakayahan ay maaaring magsimulang maghiwalay.
Ang nakatagong panganib ay nagiging isang problema sa disenyo ng organisasyon, hindi lamang isang problema sa pagganap ng tao.
Ang problema sa pagsukat
Karaniwang hinuhusgahan ng mga organisasyon ang mga prosesong pinapagana ng AI sa pamamagitan ng mga sukat tulad ng katumpakan at produktibidad. Ang mga numerong iyon ay maaaring magmukhang maganda kahit na nagbabago ang papel ng tao. Ipagpalagay na ang mga empleyado ay hindi gaanong madalas na nagpapawalang-bisa sa mga rekomendasyon ng AI sa paglipas ng panahon. Isa ba itong senyales ng lumalaking pagdepende? Marahil.
Ngunit maaari rin itong mangahulugan na ang AI ay naging mas tumpak at mas kaunti na ang dahilan para makialam. Ang bilang ng mga override pa lamang ay kakaunti ang nagsasabi kung ang mga empleyado ay nananatiling handa na gamitin ang kanilang sariling paghatol.
Ang susi ay ang pag-unawa kung paano nagbabago ang paghahati ng trabaho sa pagitan ng mga tao at AI. Aling mga desisyon ang lumipat mula sa mga tao patungo sa AI? Anong mga responsibilidad ang nananatili sa mga tao? Ang pagtingin sa pagganap ng empleyado o ng AI nang hiwalay ay maaaring makaligtaan kung ano ang nagbabago sa pagitan nila.
Ang problema sa pamamahala
Ang pamamahala ng organisasyon – na tumutukoy sa mga tungkulin at responsibilidad – ay nasa ilalim din ng presyon mula sa AI.
Maaaring manatiling pormal na nakakaalam ang isang tao tungkol sa isang sistema ng AI kahit na nagbabago ang kanilang aktwal na tungkulin. Ang pagtukoy sa mga tungkulin ng tao at AI kapag ipinakilala ang isang sistema ay panimulang punto lamang. Habang bumubuti ang AI at nasasanay ang mga tao sa paggamit nito, malamang na magbabago ang mga tungkuling iyon sa paglipas ng panahon. Walang likas na mali sa pagbabagong iyon.
Ang problema ay lumilitaw kapag nagbabago ang ugnayan ngunit ang mga palagay na nakapaligid dito ay hindi. Mahalaga para sa mga organisasyon na paminsan-minsang magtanong: Anong ugnayan sa pagitan ng mga tao at AI ang dinisenyo natin, at anong ugnayan talaga ang mayroon tayo ngayon?
Sa madaling salita, ang pamamahala ng organisasyon ay kailangang maging dinamiko.
Pagpapanatili ng sandata ng tao
Hindi lahat ng kakayahan ng tao ay kailangang pangalagaan. Kung kayang gampanan nang maayos ng AI ang isang gawain, halos walang dahilan para hilingin sa mga tao na patuloy na gawin ang parehong gawain. Kailangang magdesisyon ang mga organisasyon kung aling mga kakayahan ang inaasahan pa rin nilang taglayin ng mga tao kapag kinakailangan ang pagpapasya ng tao. Kung maaaring kailanganin pa rin ang mga tao na gamitin ang isang kakayahan, kailangan itong mapanatili.
Ang pangangasiwa sa AI ay hindi katulad ng paggamit ng malayang pagpapasya. Kung ang mga tao ay bihirang gumawa ng desisyon para sa kanilang sarili, hindi maaaring ipagpalagay ng organisasyon na handa na sila kapag kailangan nila. Ang isang paraan upang masubukan ito ay paminsan-minsang hilingin sa mga empleyado na gumawa ng desisyon nang hindi muna tinitingnan ang rekomendasyon ng AI. Kailangang malaman ng organisasyon na ang suportang pantao na inaasahan nito ay talagang gagana kapag kinakailangan.
Habang dumarami ang trabahong kinakaharap ng AI, ang ilang kakayahan ng tao ay hindi maiiwasang madalang gamitin. Ang ilan ay maaaring hindi na mahalaga. Ang iba ay maaaring mahalaga pa rin kapag naabot na ng AI ang limitasyon nito. Ang hamon ay ang pag-alam sa pagkakaiba at ang paggawa ng pagpiling iyon nang may pag-iisip.
Para sa akin, ang pangunahing tanong ay ito: Aling mga kakayahan ng tao ang inaasahan pa rin ng isang organisasyon, at nariyan ba ang mga ito kapag kinakailangan?
Murugan Anandarajan, Propesor ng Mga Agham ng Pagpapasya at Mga Sistema ng Impormasyon sa Pamamahala, Drexel University.
Ang artikulong ito ay muling inilathala mula sa The Conversation sa ilalim ng lisensyang Creative Commons. Basahin ang orihinal na artikulo.
