Garisan antara pengarang manusia dan mesin semakin kabur, terutamanya apabila semakin sukar untuk mengetahui sama ada sesuatu itu ditulis oleh seseorang atau AI.
Kini, dalam apa yang mungkin kelihatan seperti titik tip, firma pemasaran digital Graphite baru-baru ini menerbitkan kajian yang menunjukkan bahawa lebih daripada 50% artikel di web dijana oleh kecerdasan buatan.
Sebagai seorang sarjana yang meneroka bagaimana AI dibina, bagaimana orang ramai menggunakannya dalam kehidupan seharian mereka, dan bagaimana ia mempengaruhi budaya, saya telah banyak memikirkan tentang apa yang boleh dilakukan oleh teknologi ini dan di mana ia kekurangan.
Jika anda lebih cenderung membaca sesuatu yang ditulis oleh AI berbanding manusia di internet, adakah hanya menunggu masa sebelum tulisan manusia menjadi usang? Atau adakah ini hanya satu lagi perkembangan teknologi yang akan disesuaikan dengan manusia?
Ia bukan semua atau tiada
Memikirkan soalan-soalan ini mengingatkan saya pada esei Umberto Eco “Apocalyptic and Integrated,” yang pada asalnya ditulis pada awal 1960-an. Sebahagian daripadanya kemudiannya dimasukkan ke dalam antologi bertajuk “Apocalypse Postponed,” yang pertama kali saya baca semasa menjadi pelajar kolej di Itali.
Di dalamnya, Eco menggambarkan perbezaan antara dua sikap terhadap media massa. Terdapat "apokaliptik" yang takut kemerosotan budaya dan keruntuhan moral. Kemudian terdapat "bersepadu" yang memperjuangkan teknologi media baharu sebagai kuasa pendemokrasian untuk budaya.
Pada masa itu, Eco menulis tentang perkembangan TV dan radio. Hari ini, anda akan sering melihat reaksi yang serupa terhadap AI.
Namun Eco berhujah bahawa kedua-dua kedudukan itu terlalu melampau. Ia tidak membantu, tulisnya, untuk melihat media baharu sama ada ancaman yang mengerikan atau keajaiban. Sebaliknya, beliau menggesa pembaca untuk melihat cara orang dan komuniti menggunakan alatan baharu ini, risiko dan peluang yang mereka cipta, dan cara mereka membentuk – dan kadangkala mengukuhkan – struktur kuasa.
Semasa saya mengajar kursus tentang deepfake semasa pilihan raya 2024, pengajaran Eco juga kembali kepada saya. Pada masa itu, sesetengah cendekiawan dan saluran media kerap memberi amaran tentang "kiamat deepfake" yang akan berlaku.
Adakah deepfake akan digunakan untuk meniru tokoh politik utama dan menolak maklumat yang disasarkan? Bagaimana jika, menjelang pilihan raya, AI generatif digunakan untuk meniru suara calon pada panggilan robo yang memberitahu pengundi untuk tinggal di rumah?
Kebimbangan itu tidak berasas: Kajian menunjukkan bahawa orang ramai tidak begitu pandai mengenal pasti deepfake. Pada masa yang sama, mereka sentiasa melebih-lebihkan keupayaan mereka untuk berbuat demikian.
Walau bagaimanapun, akhirnya kiamat ditangguhkan. Analisis pasca pilihan raya mendapati bahawa deepfake nampaknya memperhebatkan beberapa trend politik yang berterusan, seperti hakisan kepercayaan dan polarisasi, tetapi tiada bukti bahawa ia mempengaruhi keputusan akhir pilihan raya.
Senarai, kemas kini berita dan panduan cara
Sudah tentu, kebimbangan yang ditimbulkan AI untuk penyokong demokrasi tidak sama dengan kebimbangan yang ditimbulkan oleh AI untuk penulis dan artis.
Bagi mereka, kebimbangan teras adalah mengenai kepengarangan: Bagaimanakah seseorang boleh bersaing dengan sistem yang dilatih pada berjuta-juta suara yang boleh menghasilkan teks pada kelajuan tinggi? Dan jika ini menjadi norma, apakah yang akan dilakukannya kepada kerja kreatif, baik sebagai pekerjaan dan sebagai sumber makna?
Adalah penting untuk menjelaskan apa yang dimaksudkan dengan "kandungan dalam talian", frasa yang digunakan dalam kajian Grafit, yang menganalisis lebih 65,000 artikel yang dipilih secara rawak dengan sekurang-kurangnya 100 patah perkataan di web. Ini boleh merangkumi apa sahaja daripada penyelidikan yang dikaji semula oleh rakan sebaya hinggalah salinan promosi untuk suplemen ajaib.
Pembacaan lebih dekat terhadap kajian Graphite menunjukkan bahawa artikel yang dijana AI sebahagian besarnya terdiri daripada penulisan minat umum: kemas kini berita, panduan cara, siaran gaya hidup, ulasan dan penerangan produk.
Tujuan ekonomi utama kandungan ini adalah untuk memujuk atau memaklumkan, bukan untuk menyatakan keaslian atau kreativiti. Secara berbeza, AI nampaknya paling berguna apabila penulisan yang dipersoalkan adalah rendah dan formulaik: senarai hujung minggu di Rom, surat lamaran standard, teks yang dihasilkan untuk memasarkan perniagaan.
Seluruh industri penulis – kebanyakannya bebas, termasuk ramai penterjemah – telah bergantung pada jenis kerja ini, menghasilkan catatan blog, bahan panduan, teks pengoptimuman enjin carian dan salinan media sosial. Penerimaan pesat model bahasa yang besar telah menggantikan banyak kerja yang pernah menyokong mereka.
Bekerjasama dengan AI
Kehilangan dramatik karya ini menunjukkan satu lagi isu yang dibangkitkan oleh kajian Grafit: persoalan keaslian, bukan sahaja dalam mengenal pasti siapa atau apa yang menghasilkan teks, tetapi juga dalam memahami nilai yang dilampirkan manusia pada aktiviti kreatif.
Bagaimanakah anda boleh membezakan artikel tulisan manusia daripada artikel yang dihasilkan oleh mesin? Dan adakah keupayaan itu penting?
Dari masa ke masa, perbezaan itu mungkin menjadi kurang ketara, terutamanya apabila lebih banyak penulisan muncul daripada interaksi antara manusia dan AI. Seorang penulis mungkin merangka beberapa baris, biarkan AI mengembangkannya dan kemudian membentuk semula output itu ke dalam teks akhir.
Artikel ini tidak terkecuali. Sebagai penutur bahasa Inggeris bukan asli, saya sering bergantung pada AI untuk memperhalusi bahasa saya sebelum menghantar draf kepada editor. Ada kalanya sistem cuba membentuk semula apa yang saya maksudkan. Tetapi apabila kecenderungan gayanya menjadi biasa, ia menjadi mungkin untuk mengelakkannya dan mengekalkan nada peribadi.
Juga, kecerdasan buatan bukanlah buatan sepenuhnya, kerana ia dilatih pada bahan buatan manusia. Perlu diingat bahawa walaupun sebelum AI, tulisan manusia tidak pernah menjadi manusia sepenuhnya, sama ada. Setiap teknologi, daripada kertas kulit dan kertas stylus kepada mesin taip dan kini AI, telah membentuk cara orang menulis dan cara pembaca memahaminya.
Satu lagi perkara penting: Model AI semakin dilatih mengenai set data yang merangkumi bukan sahaja tulisan manusia tetapi juga teks yang dihasilkan bersama AI dan manusia–AI.
Ini telah menimbulkan kebimbangan tentang keupayaan mereka untuk terus bertambah baik dari semasa ke semasa. Sesetengah pengulas telah pun menggambarkan rasa kecewa berikutan keluaran model besar yang lebih baharu, dengan syarikat bergelut untuk menunaikan janji mereka.
Suara manusia mungkin lebih penting
Tetapi apa yang berlaku apabila orang menjadi terlalu bergantung kepada AI dalam penulisan mereka?
Beberapa kajian menunjukkan bahawa penulis mungkin berasa lebih kreatif apabila mereka menggunakan kecerdasan buatan untuk sumbang saran, namun julat idea selalunya menjadi lebih sempit. Keseragaman ini juga mempengaruhi gaya: Sistem ini cenderung untuk menarik pengguna ke arah corak perkataan yang serupa, yang mengurangkan perbezaan yang biasanya menandakan suara individu. Penyelidik juga menyatakan perubahan ke arah norma Barat – dan terutamanya berbahasa Inggeris – dalam penulisan orang dari budaya lain, menimbulkan kebimbangan tentang bentuk penjajahan AI.
Dalam konteks ini, teks yang memaparkan keaslian, suara dan niat gaya berkemungkinan menjadi lebih bermakna dalam landskap media, dan ia mungkin memainkan peranan penting dalam melatih model generasi seterusnya.
Jika anda mengetepikan senario yang lebih apokaliptik dan menganggap bahawa AI akan terus maju – mungkin pada kadar yang lebih perlahan berbanding sebelum ini – agak mungkin tulisan yang bernas, asli, buatan manusia akan menjadi lebih berharga.
Dengan kata lain: Karya penulis, wartawan dan cendekiawan tidak akan menjadi berlebihan hanya kerana kebanyakan web tidak lagi ditulis oleh manusia.
Francesco Agnellini, Pensyarah dalam Kajian Digital dan Data, Universiti Binghamton, Universiti Negeri New York
Artikel ini diterbitkan semula daripada The Conversation di bawah lesen Creative Commons. Baca artikel asal.
