Tahun lepas saya menghadiri panel mengenai AI generatif dalam pendidikan. Dalam detik yang tidak dapat dilupakan, seorang penyampai bertanya: "Apa masalahnya? AI Generatif adalah seperti kalkulator. Ia hanya alat."
Analoginya semakin umum. Ketua eksekutif OpenAI Sam Altman sendiri telah merujuk kepada ChatGPT sebagai " kalkulator untuk perkataan " dan membandingkan ulasan mengenai teknologi baharu itu dengan tindak balas terhadap ketibaan kalkulator.
Orang berkata, 'Kami perlu mengharamkan ini kerana orang hanya akan menipu kerja rumah mereka. Jika orang tidak perlu mengira fungsi sinus dengan tangan sekali lagi […] maka pendidikan matematik sudah tamat.'
Walau bagaimanapun, sistem AI generatif bukan kalkulator. Melayan mereka seperti kalkulator mengaburkan siapa mereka, apa yang mereka lakukan dan siapa yang mereka layani. Analogi mudah ini memudahkan teknologi kontroversi dan mengabaikan lima perbezaan penting daripada teknologi masa lalu.
1. Kalkulator tidak berhalusinasi atau memujuk
Kalkulator mengira fungsi daripada input yang ditakrifkan dengan jelas. Anda menumbuk 888 ÷ 8 dan dapatkan satu jawapan yang betul: 111.
Keluaran ini adalah terhad dan tidak boleh diubah. Kalkulator tidak membuat kesimpulan, meneka, berhalusinasi atau memujuk.
Mereka tidak menambah unsur palsu atau tidak diingini pada jawapan. Mereka tidak mereka-reka kes undang-undang atau memberitahu orang ramai " tolong mati ".
2. Kalkulator tidak menimbulkan dilema etika asas
Kalkulator tidak menimbulkan dilema etika asas.
Membuat ChatGPT melibatkan pekerja di Kenya menyaring kandungan traumatis yang tidak dapat dipulihkan selama satu atau dua dolar sejam, sebagai contoh. Kalkulator tidak memerlukannya.
Selepas krisis kewangan di Venezuela, sebuah syarikat pelabelan data AI melihat peluang untuk mengambil buruh murah dengan model pekerjaan yang mengeksploitasi . Kalkulator juga tidak memerlukannya.
Kalkulator tidak memerlukan loji kuasa baharu yang besar untuk dibina, atau bersaing dengan manusia untuk mendapatkan air seperti yang dilakukan oleh pusat data AI di beberapa bahagian paling kering di dunia .
Kalkulator tidak memerlukan infrastruktur baharu untuk dibina. Industri kalkulator tidak melihat dorongan perlombongan yang besar seperti yang sedang memacu pengekstrakan tembaga dan litium yang rakus seperti di tanah Atacameños di Chile.
3. Kalkulator tidak menjejaskan autonomi
Kalkulator tidak mempunyai potensi untuk menjadi " autolengkap seumur hidup ". Mereka tidak pernah menawarkan untuk membuat setiap keputusan untuk anda, dari apa yang hendak dimakan dan ke mana hendak pergi ke bila hendak mencium tarikh anda.
Kalkulator tidak mencabar keupayaan kita untuk berfikir secara kritis. AI Generatif, bagaimanapun, telah ditunjukkan untuk menghakis penaakulan bebas dan meningkatkan " pemuatan kognitif ". Dari masa ke masa, pergantungan pada sistem ini berisiko meletakkan kuasa untuk membuat keputusan setiap hari di tangan sistem korporat yang legap.
4. Kalkulator tidak mempunyai kecenderungan sosial dan linguistik
Kalkulator tidak menghasilkan semula hierarki bahasa dan budaya manusia. AI Generatif, walau bagaimanapun, dilatih mengenai data yang mencerminkan abad hubungan kuasa yang tidak sama rata, dan outputnya mencerminkan ketidaksamaan tersebut.
Model bahasa mewarisi dan mengukuhkan prestij bentuk linguistik yang dominan, sambil meminggirkan atau memadamkan yang kurang istimewa.
Alat seperti ChatGPT mengendalikan bahasa Inggeris arus perdana , tetapi secara rutin menyebut semula, salah label atau memadamkan bahasa Inggeris dunia lain .
Walaupun projek yang cuba menangani pengecualian suara minoriti daripada pembangunan teknologi, kecenderungan AI generatif untuk bahasa Inggeris arus perdana amat membimbangkan.
5. Kalkulator bukan 'semuanya mesin'
Tidak seperti kalkulator, model bahasa tidak beroperasi dalam domain yang sempit seperti matematik. Sebaliknya mereka mempunyai potensi untuk menjerat diri mereka dalam segala-galanya: persepsi, kognisi, kesan dan interaksi.
Model bahasa boleh menjadi "ejen", "sahabat", "pengaruh", "ahli terapi", dan "teman lelaki". Ini adalah perbezaan utama antara AI generatif dan kalkulator.
Kandungan daripada rakan kongsi kami
Walaupun kalkulator membantu dengan aritmetik, AI generatif mungkin terlibat dalam kedua-dua fungsi transaksi dan interaksi. Dalam sekali duduk, chatbot boleh membantu anda mengedit novel anda, menulis kod untuk apl baharu dan memberikan profil psikologi seseorang yang anda rasa anda suka.
Kekal kritikal
Analogi kalkulator menjadikan model bahasa dan apa yang dipanggil "copilot", "tutor", dan "ejen" berbunyi tidak berbahaya. Ia memberi kebenaran untuk penggunaan yang tidak kritikal dan mencadangkan teknologi boleh menyelesaikan semua cabaran yang kita hadapi sebagai masyarakat.
Ia juga sangat sesuai dengan platform yang membuat dan mengedarkan sistem AI generatif. Alat neutral tidak memerlukan akauntabiliti, tiada audit, tiada tadbir urus bersama.
Tetapi seperti yang telah kita lihat, AI generatif bukanlah seperti kalkulator. Ia bukan sekadar mengecilkan nombor atau menghasilkan keluaran terhad.
Memahami AI generatif sebenarnya memerlukan pemikiran kritis yang teliti. Jenis yang melengkapkan kita untuk menghadapi akibat daripada " bergerak cepat dan berbuka ". Jenis yang boleh membantu kami memutuskan sama ada kerosakan itu berbaloi dengan kosnya.
Celeste Rodriguez Louro , Profesor Madya, Pengerusi Linguistik dan Pengarah Makmal Bahasa, Universiti Australia Barat
Artikel ini diterbitkan semula daripada The Conversation di bawah lesen Creative Commons. Baca artikel asal .
