Bayangkan sebuah sistem kecerdasan buatan yang telah berfungsi dengan andal selama berbulan-bulan. Cadangannya hampir selalu betul, dan pekerja yang menyemaknya telah mengetahui bahawa penelitian yang teliti jarang sekali mengubah hasilnya. Kemudian sesuatu yang luar biasa berlaku. AI membuat kesilapan atau tidak dapat meneruskan dan memerlukan intervensi manusia. Pekerja dijangka campur tangan dan tetap bertanggungjawab atas hasilnya.
Tetapi adakah pekerja itu tahu bagaimana untuk melakukan tugas itu?
Saya seorang profesor sistem maklumat pengurusan dan pengarah akademik Pusat AI Gunaan & Analisis Perniagaan, Universiti Drexel. Dalam kajian saya tentang hubungan manusia-AI, saya menggelarnya sebagai risiko terpendam: kemungkinan orang ramai mungkin kehilangan keupayaan yang masih bergantung pada organisasi mereka untuk dilaksanakan.
AI boleh terus berfungsi dengan baik sementara orang yang menyelianya menjadi kurang terlatih dalam melaksanakan pertimbangan bebas dan kurang bersedia untuk campur tangan. Risiko menjadi terpendam apabila organisasi masih bergantung pada keupayaan manusia untuk campur tangan tetapi mempunyai sedikit sebab untuk menyedari bahawa keupayaan itu mungkin semakin lemah.
Kebimbangan ini bukanlah sesuatu yang baharu sepenuhnya. Idea risiko terpendam dibina berdasarkan kajian selama beberapa dekad tentang bagaimana orang ramai bertindak balas terhadap automasi. Contohnya, kajian tentang bias automasi telah menunjukkan bahawa orang ramai boleh terlepas pandang masalah atau mengikuti cadangan automatik walaupun bukti lain menunjukkan bahawa mereka tidak sepatutnya.
Apa yang berbeza hari ini ialah peranan AI yang mula dimainkan dalam organisasi. Ia mula mengambil bahagian yang lebih besar dalam analisis dan pembuatan keputusan yang dilakukan oleh orang ramai sebelum ini.
Paradoks kejayaan
Semakin baik AI, semakin banyak perubahan dalam sifat kerja manusia. Kerja yang dahulunya memerlukan pekerja untuk menganalisis masalah dan mencapai keputusan mungkin sebaliknya dilakukan oleh AI, membiarkan pekerja menyemak semula cadangannya. Pekerja tidak lagi melakukan kerja yang sama dengan bantuan AI – sebaliknya, tugas mereka telah beralih daripada melakukan kerja kepada menyelia apa yang dilakukan oleh AI.
Perubahan ini sudah mula mengubah cara sesetengah syarikat melatih pekerja. Syarikat gergasi perakaunan Deloitte, sebagai contoh, sedang mereka bentuk semula latihan audit siswazahnya memandangkan AI mengambil alih beberapa kerja manual yang secara tradisinya dilakukan oleh juruaudit junior. Firma itu memperkenalkan simulasi supaya pelatih masih boleh membangunkan pertimbangan yang mereka perlukan semasa mereka beralih kepada kerja yang lebih kompleks.
Lebih empat dekad yang lalu, ahli psikologi kognitif Lisanne Bainbridge menggambarkan salah satu " ironi automasi ": Apabila sistem mengambil alih lebih banyak kerja, bukannya sekadar beban kerja mereka diringankan, orang ramai boleh menghadapi cabaran baharu dalam memantau sistem dan mengendalikan situasi luar biasa yang tidak dapat dilakukan oleh sistem. Kajian kemudian mendapati satu lagi masalah: Apabila orang ramai menjadi kurang terlibat dalam sesuatu tugas, mereka boleh menjadi kurang bersedia untuk campur tangan apabila diperlukan. Penyelidik telah menggelarnya sebagai masalah prestasi luar biasa
Penglibatan yang berkurangan ini mungkin menjejaskan lebih daripada sekadar kesediaan seseorang untuk campur tangan. Ia boleh mengubah keupayaan yang tersedia untuk organisasi.
Kerja yang tinggal untuk manusia tidak semestinya menjadi lebih mudah. Ia mungkin menjadi lebih sukar. Ini adalah situasi di mana pengalaman dan pertimbangan bebas paling penting. Hasilnya adalah satu paradoks: Orang ramai mungkin diminta untuk menjalankan pertimbangan bebas dengan lebih jarang, walaupun pertimbangan yang diberikan kepada mereka menjadi lebih sukar.
Masalah akauntabiliti
Akauntabiliti mungkin tidak berubah sepantas kerja apabila organisasi menggunakan sistem AI. Seorang pekerja kini boleh menyelia lebih banyak keputusan daripada yang mereka buat sendiri, sambil kekal bertanggungjawab terhadap hasilnya. Jangkaan organisasi mungkin masih mencerminkan bagaimana kerja dibahagikan sebelum AI mengambil peranan yang lebih besar. Oleh itu, organisasi itu akhirnya boleh meminta orang ramai bertanggungjawab atas keputusan yang mereka kurang kawalan.
Ini mewujudkan ketidakpadanan. Kajian tentang kawalan manusia yang bermakna menunjukkan bahawa tanggungjawab harus sepadan dengan autoriti dan keupayaan seseorang untuk bertindak. Seorang pekerja mungkin mengekalkan autoriti untuk mengatasi cadangan AI dan kekal bertanggungjawab terhadap hasilnya, namun kehilangan keupayaan untuk berbuat demikian. Autoriti, tanggungjawab dan keupayaan boleh mula terpisah.
Risiko terpendam menjadi masalah reka bentuk organisasi, bukan sekadar masalah prestasi manusia.
Masalah pengukuran
Organisasi biasanya menilai proses yang didayakan AI melalui ukuran seperti ketepatan dan produktiviti. Angka-angka tersebut mungkin kelihatan baik walaupun peranan manusia berubah. Katakan pekerja kurang kerap mengatasi cadangan AI dari semasa ke semasa. Adakah itu tanda kebergantungan yang semakin meningkat? Mungkin.
Tetapi ia juga boleh bermakna bahawa AI telah menjadi lebih tepat dan terdapat kurang sebab untuk campur tangan. Bilangan penggantian sahaja tidak banyak menunjukkan sama ada pekerja masih bersedia untuk menggunakan pertimbangan mereka sendiri.
Kuncinya adalah untuk memahami bagaimana pembahagian kerja antara manusia dan AI sedang berubah. Keputusan manakah yang telah berhijrah daripada manusia kepada AI? Apakah tanggungjawab yang kekal bersama manusia? Melihat prestasi pekerja atau AI secara berasingan mungkin terlepas pandang apa yang berubah antara mereka.
Masalah tadbir urus
Tadbir urus organisasi – yang menentukan peranan dan tanggungjawab – juga berada di bawah tekanan daripada AI.
Seseorang mungkin kekal secara formal mengikuti perkembangan sistem AI walaupun peranan sebenar mereka berubah. Menentukan peranan manusia dan AI apabila sesebuah sistem diperkenalkan hanyalah titik permulaan. Apabila AI bertambah baik dan orang ramai mula terbiasa menggunakannya, peranan tersebut mungkin akan berubah dari semasa ke semasa. Tiada apa yang salah dengan perubahan itu secara semula jadi.
Masalahnya timbul apabila hubungan berubah tetapi andaian yang mengelilinginya tidak. Adalah penting bagi organisasi untuk bertanya secara berkala: Apakah hubungan antara manusia dan AI yang telah kita reka, dan apakah hubungan yang sebenarnya kita ada hari ini?
Pendek kata, tadbir urus organisasi perlu dinamik.
Mengekalkan sokongan manusia
Tidak semua keupayaan manusia perlu dikekalkan. Jika AI boleh melaksanakan sesuatu tugas dengan baik, tidak ada sebab untuk mewajibkan orang ramai terus melakukan kerja yang sama. Organisasi perlu memutuskan keupayaan yang masih mereka harapkan daripada orang ramai apabila pertimbangan manusia diperlukan. Jika orang ramai masih diminta untuk menggunakan sesuatu keupayaan, ia perlu dikekalkan.
Mengawasi AI tidak sama dengan menjalankan pertimbangan bebas. Jika orang ramai jarang membuat keputusan sendiri, organisasi tidak boleh menganggap mereka akan bersedia apabila perlu. Salah satu cara untuk menguji ini adalah dengan sekali-sekala meminta pekerja membuat keputusan tanpa melihat terlebih dahulu cadangan AI. Organisasi perlu tahu bahawa sokongan manusia yang diandalkannya sebenarnya akan berfungsi apabila diperlukan.
Memandangkan AI mengambil lebih banyak kerja, sesetengah keupayaan manusia pasti akan digunakan kurang kerap. Ada yang mungkin tidak lagi penting. Ada juga yang mungkin masih penting apabila AI mencapai hadnya. Cabarannya adalah mengetahui perbezaannya dan membuat pilihan itu dengan sengaja.
Bagi saya, persoalan utamanya ialah: Keupayaan manusia yang manakah masih bergantung pada sesebuah organisasi, dan adakah keupayaan tersebut akan berada di sana apabila diperlukan?
Murugan Anandarajan, Profesor Sains Keputusan dan Sistem Maklumat Pengurusan, Universiti Drexel
Artikel ini diterbitkan semula daripada The Conversation di bawah lesen Creative Commons. Baca artikel asal.
