Tahun lepas saya menghadiri panel mengenai AI generatif dalam pendidikan. Dalam satu detik yang tidak dapat dilupakan, seorang penyampai bertanya: “Apakah masalahnya? AI generatif umpama kalkulator. Ia hanyalah alat.”
Analogi ini semakin biasa. Ketua eksekutif OpenAI, Sam Altman sendiri telah merujuk kepada ChatGPT sebagai " kalkulator untuk perkataan " dan membandingkan komen mengenai teknologi baharu itu dengan reaksi terhadap ketibaan kalkulator tersebut.
Orang ramai berkata, 'Kita perlu mengharamkan perkara ini kerana orang ramai hanya akan menipu kerja rumah mereka. Jika orang ramai tidak perlu mengira fungsi sinus dengan tangan lagi […] maka pendidikan matematik sudah tamat.'
Walau bagaimanapun, sistem AI generatif bukanlah kalkulator. Melayannya seperti kalkulator mengaburkan apa itu kalkulator, apa yang dilakukannya, dan siapa yang dilayaninya. Analogi mudah ini memudahkan teknologi yang kontroversi dan mengabaikan lima perbezaan penting daripada teknologi masa lalu.
1. Kalkulator tidak berhalusinasi atau memujuk
Kalkulator mengira fungsi daripada input yang ditakrifkan dengan jelas. Anda memasukkan 888 ÷ 8 dan mendapat satu jawapan yang betul: 111.
Output ini terbatas dan tidak boleh diubah. Kalkulator tidak membuat kesimpulan, meneka, berhalusinasi atau memujuk.
Mereka tidak menambah unsur palsu atau tidak diingini pada jawapan. Mereka tidak mereka-reka kes undang-undang atau menyuruh orang ramai " tolong mati ".
2. Kalkulator tidak menimbulkan dilema etika asas
Kalkulator tidak menimbulkan dilema etika yang asas.
proses membuat ChatGPT melibatkan pekerja di Kenya yang menapis kandungan yang traumatik secara kekal dengan bayaran satu atau dua dolar sejam. Kalkulator tidak memerlukannya.
Selepas krisis kewangan di Venezuela, sebuah syarikat pelabelan data AI melihat peluang untuk mendapatkan buruh murah dengan model pekerjaan eksploitatif . Kalkulator juga tidak memerlukannya.
Kalkulator tidak memerlukan loji janakuasa baharu yang besar untuk dibina, atau bersaing dengan manusia untuk mendapatkan air seperti yang dilakukan oleh pusat data AI di beberapa bahagian paling kering di dunia .
Kalkulator tidak memerlukan infrastruktur baharu untuk dibina. Industri kalkulator tidak menyaksikan dorongan perlombongan yang besar seperti yang sedang memacu pengekstrakan tembaga dan litium yang rakus seperti di tanah Atacameños di Chile.
3. Kalkulator tidak menjejaskan autonomi
Kalkulator tidak berpotensi menjadi " autolengkap seumur hidup ". Kalkulator tidak pernah menawarkan untuk membuat setiap keputusan untuk anda, daripada apa yang hendak dimakan dan ke mana hendak pergi hinggalah bila hendak mencium teman kencan anda.
Kalkulator tidak mencabar keupayaan kita untuk berfikir secara kritis. Walau bagaimanapun, AI generatif telah terbukti menghakis penaakulan bebas dan meningkatkan " pemindahan kognitif ". Lama-kelamaan, pergantungan pada sistem ini berisiko meletakkan kuasa untuk membuat keputusan harian di tangan sistem korporat yang tidak jelas.
4. Kalkulator tidak mempunyai bias sosial dan linguistik
Kalkulator tidak menghasilkan semula hierarki bahasa dan budaya manusia. Walau bagaimanapun, AI generatif dilatih berdasarkan data yang mencerminkan hubungan kuasa yang tidak sama rata selama berabad-abad, dan outputnya mencerminkan ketidaksamaan tersebut.
Model bahasa mewarisi dan mengukuhkan prestij bentuk linguistik yang dominan, sambil mengetepikan atau memadamkan bentuk yang kurang bernasib baik.
Alat seperti ChatGPT mengendalikan bahasa Inggeris arus perdana , tetapi secara rutin mengubah suai, salah melabel atau memadam bahasa Inggeris dunia lain .
Walaupun projek yang cuba menangani pengecualian suara minoriti daripada pembangunan teknologi, bias AI generatif terhadap bahasa Inggeris arus perdana amat membimbangkan.
5. Kalkulator bukanlah 'segala-galanya mesin'
Tidak seperti kalkulator, model bahasa tidak beroperasi dalam domain sempit seperti matematik. Sebaliknya, ia berpotensi untuk melibatkan diri dalam segala-galanya: persepsi, kognisi, afek dan interaksi.
Model bahasa boleh terdiri daripada "ejen", "rakan", "pempengaruh", "ahli terapi" dan "teman lelaki". Ini merupakan perbezaan utama antara AI generatif dan kalkulator.
Kandungan daripada rakan kongsi kami
Walaupun kalkulator membantu dengan aritmetik, AI generatif mungkin terlibat dalam fungsi transaksi dan interaksi. Dalam satu sesi, chatbot boleh membantu anda mengedit novel anda, menulis kod untuk aplikasi baharu dan memberikan profil psikologi tentang seseorang yang anda fikir anda suka.
Kekal kritikal
Analogi kalkulator menjadikan model bahasa dan apa yang dipanggil "juruterbang bersama", "tutor", dan "ejen" kedengaran tidak berbahaya. Ia memberi kebenaran untuk penerimaan tanpa kritikan dan mencadangkan teknologi boleh menyelesaikan semua cabaran yang kita hadapi sebagai sebuah masyarakat.
Ia juga sangat sesuai dengan platform yang membuat dan mengedarkan sistem AI generatif. Alat neutral tidak memerlukan akauntabiliti, tiada audit, tiada tadbir urus bersama.
Tetapi seperti yang telah kita lihat, AI generatif tidak seperti kalkulator. Ia bukan sekadar mengira nombor atau menghasilkan output yang terhad.
Memahami apa itu AI generatif sebenarnya memerlukan pemikiran kritis yang teliti. Jenis yang melengkapkan kita untuk menghadapi akibat daripada " bergerak pantas dan merosakkan sesuatu ". Jenis yang boleh membantu kita memutuskan sama ada kerosakan itu berbaloi dengan kosnya.
Celeste Rodriguez Louro , Profesor Madya, Pengerusi Linguistik dan Pengarah Makmal Bahasa, Universiti Australia Barat
Artikel ini diterbitkan semula daripada The Conversation di bawah lesen Creative Commons. Baca artikel asal .
