Pada hujung minggu, ketua eksekutif Anthropic, Dario Amodei, menggesa syarikat kecerdasan buatan (AI), termasuk syarikatnya sendiri, untuk memperlahankan kerja mereka. Sam Altman dan Elon Musk, ketua pesaing OpenAI dan xAI, masing-masing bersetuju.
Langkah ini mencerminkan kebimbangan merentasi industri AI dan secara lebih meluas tentang bahaya sistem baharu yang pantas diperbaiki. Insiden berprofil tinggi baru-baru ini seperti ejen OpenAI AI yang menggodam syarikat lain dan merampas laman web awam telah menunjukkan sistem semasa boleh keluar dari had keselamatan – dan sistem yang lebih berkemampuan sedang dibangunkan.
Ketegangan antara keselamatan dan prestasi yang lebih merumitkan lagi keselamatan AI. Syarikat-syarikat akan keberatan untuk mengehadkan prestasi model mereka atas nama keselamatan kerana takut kehilangan tempat kepada pesaing. Presiden AS Donald Trump juga telah menolak seruan untuk memperlahankan pasaran, kerana takut kehilangan tempat kepada China.
Ini bermakna sebarang usaha yang berjaya dalam "mempercepatkan kadar kemajuan keupayaan supaya pencegahan risiko mempunyai masa untuk dikejar", seperti yang dinyatakan oleh Amodei, akan memerlukan kerjasama yang ketara antara syarikat saingan – dan negara.
Pengurangan risiko
Teknologi baharu sering membawa risiko baharu, dan kebimbangan baharu. Selalunya kerajaan, penyelidik dan syarikat mencari jalan untuk menguruskan risiko tersebut.
Pada tahun 1975, persidangan Asilomar mengenai teknologi DNA baharu ketika itu banyak membantu memastikan penyelidikan tidak melangkaui pemahaman kita tentang keselamatan dan risiko. Begitu juga, pada tahun 1990-an, kerajaan AS cuba membina konsensus mengenai pengehadan kriptografi dan keselamatan komputer.
Situasi AI mempunyai kelainan tambahan: industri ini berada di tengah-tengah kegilaan emas. Pesaing saintifik mungkin dapat mengawal diri mereka, tetapi pesaing komersial jarang sekali menahan diri.
Terdapat preseden yang jelas bagi kegagalan pengawalseliaan kendiri dalam menghadapi tekanan persaingan. Sebagai contoh, dalam bencana Boeing 737 Max pada tahun 2018, tekanan untuk mengejar pesaing Airbus menyebabkan Boeing menyembunyikan batasan Max, yang akhirnya meragut nyawa.
Dalam perlumbaan AI, skala ketegangan persaingan adalah lebih besar. Anthropic dan OpenAI kedua-duanya bersaing untuk mengukuhkan dominasi pasaran sebelum mengejar penyenaraian pasaran saham yang boleh mengumpul puluhan atau ratusan bilion dolar.
Dan di peringkat negara-bangsa, taruhannya lebih tinggi sekali lagi, dengan AS dan China masing-masing berharap untuk menggunakan teknologi baharu ini untuk kelebihan geopolitik.
Politik jeda seketika
Cadangan perlambatan Amodei tertumpu pada pelan tiga langkah: menerapkan penilai keselamatan pihak ketiga yang bebas, mewujudkan piawaian keselamatan industri yang diselaraskan dalam negara demokrasi, dan akhirnya mendapatkan perjanjian global. Ini termasuk had ketat ke atas eksport cip AI kepada syarikat dan negara yang tidak bersetuju untuk mengutamakan keselamatan AI.
Anthropic dan OpenAI telah bersetuju dengan fasa pertama rancangan ini, meskipun terdapat sejarah mereka yang saling menyaman, menghina secara terbuka dan saling menjatuhkan antara satu sama lain dalam usaha untuk menguasai pasaran.
Walaupun penggodaman berprofil tinggi baru-baru ini mungkin telah memaksa mereka, syarikat AI terkemuka mungkin mendapat manfaat daripada jeda atau kelembapan pembangunan. Antaranya, ia boleh menangguhkan perundangan yang ketat seperti Akta Pengharaman Superintelijen Buatan. Antara lain, dengan mewujudkan piawaian keselamatan yang mahal dan mengehadkan eksport cip, ia boleh menyekat pesaing yang lebih kecil – terutamanya syarikat China seperti DeepSeek dan Alibaba – daripada mengejar ketinggalan.
Jeda juga akan memberi peluang kepada makmal sempadan yang terlalu sibuk untuk mendapatkan semula, pulih, dan menumpukan pada keuntungan berbanding kemajuan.
Makmal AI ini telah membelanjakan sejumlah besar wang untuk menghasilkan model sedia ada mereka, yang mesti dibayar balik. Pada masa yang sama, kemajuan semakin meningkat apabila data latihan berkualiti tinggi baharu semakin sukar dicari, dan membina infrastruktur pusat data besar-besaran yang diperlukan untuk mengekalkan pembangunan merupakan satu cabaran tersendiri.
Jeda keselamatan yang diselaraskan boleh menjadi sebab awam yang mudah untuk mencapai tahap mendatar dalam prestasi model AI.
Apa yang boleh dilakukan
Menjadikan AI selamat bukanlah mudah. Tadbir urus perisian amat sukar, seperti yang ditunjukkan oleh percubaan lalu untuk menggubal undang-undang perisian penyulitan
Walau bagaimanapun, tidak seperti perisian lain, AI bergantung pada perkakasan fizikal yang agak terhad. Ia memerlukan cip silikon canggih dan pusat data besar yang diperlukan untuk menggerakkannya.
Di sinilah kerajaan mempunyai pengaruh sebenar. Di sini mereka mempunyai cara untuk memantau dan mengawal pembangunan AI, jika mereka dapat menemui kehendak perundangan.
Sementara itu, terdapat langkah-langkah yang boleh diambil oleh perniagaan dan kerajaan untuk meminimumkan betapa terdedahnya kita semua kepada bahaya yang didorong oleh AI. Ini termasuk memastikan bahawa infrastruktur keselamatan kritikal – seperti grid kuasa, bekalan air dan sistem ketenteraan – bukan sahaja diasingkan daripada AI, malah mungkin juga diasingkan sepenuhnya daripada internet.
Dan persoalan liabiliti juga penting. Bukan sahaja pengguna sistem AI yang menghadapi bahaya undang-undang atas tindakan yang dibantu oleh AI, tetapi juga orang yang bertanggungjawab membuat sistem AI.
Pada asasnya, bahaya yang dihasilkan oleh AI – walaupun oleh sistem AI “autonomi” – bukanlah hasil sampingan teknologi yang abstrak. Ia adalah hasil langsung daripada keputusan yang dibuat oleh kedua-dua mereka yang membuat AI dan mereka yang menggunakannya.
Andrew Cullen, Felo Penyelidik Kanan, Sekolah Pengkomputeran dan Sistem Maklumat, Universiti Melbourne
Artikel ini diterbitkan semula daripada The Conversation di bawah lesen Creative Commons. Baca artikel asal.
