Amaran terbaru daripada pemimpin AI Amerika telah mewujudkan tanggapan bahawa dunia baru mula menghadapi bahaya kecerdasan buatan canggih.
Dario Amodei, ketua eksekutif syarikat teknologi Anthropic, telah meminta kerajaan campur tangan bagi memperlahankan pembangunan model AI.
Cadangan beliau bermula dengan penilai bebas yang tertanam di dalam syarikat AI, beralih kepada peraturan dan berkembang kepada penyelarasan yang disokong kerajaan antara negara-negara demokratik.
Akhirnya, ia berusaha untuk mendapatkan perjanjian global dengan China mengenai pengujian sistem AI, aplikasi teknologi yang berbahaya dan kadar pembangunan AI.
Namun terdapat lubang berbentuk China dalam naratif ini. Kuasa besar Asia digambarkan sebagai peserta terakhir yang sukar dalam sistem tadbir urus yang mesti diwujudkan oleh AS dan sekutunya terlebih dahulu.
Malah, China telah mewujudkan sistem peraturan, penilaian, pemfailan, piawaian teknikal dan pengawasan kerajaan AI yang meluas. Beginilah cara sistem tadbir urus AI China telah berkembang secara berperingkat-peringkat seiring dengan teknologi itu sendiri.
Peraturan Beijing 2022 mengenai perkhidmatan cadangan algoritma terpakai kepada teknologi yang memilih, menilai, menapis atau mengesyorkan kandungan dalam talian kepada pengguna.
Ia memaksa syarikat yang menggunakan algoritma untuk memeriksa cara ia berfungsi, melindungi maklumat peribadi pengguna, memberi pengguna kawalan tertentu dan memperkenalkan perlindungan untuk pekerja, pengguna, kanak-kanak dan warga emas.
Peruntukan sintesis mendalam China , yang berkuat kuasa Januari 2023, telah memperluaskan peraturan kepada teks, imej, audio dan video sintetik (atau yang dijana AI). Syarikat AI mesti mengesahkan pengguna, melindungi data, menyimpan rekod yang berkaitan, menilai sistem mereka dan mengenal pasti bahan sintetik yang boleh disalah anggap sebagai kandungan asli.
Langkah-langkah interim untuk perkhidmatan kecerdasan buatan generatif telah diperkenalkan pada Ogos 2023.Peraturan tambahan ini untuk AI generatif yang menghadap awam, terutamanya yang boleh mempengaruhi pendapat umum atau memujuk penggunaan dengan cara lain.
Langkah-langkah tersebut terpakai kepada kesahihan dan kualiti data latihan, maklumat peribadi pengguna, harta intelek dan diskriminasi berdasarkan ciri-ciri yang dilindungi. Peraturan tersebut juga merangkumi ketelusan oleh syarikat AI dan ketepatan serta kebolehpercayaan produk.
Di bawah peraturan tersebut, syarikat-syarikat mesti menangani masalah yang terdapat dalam perkhidmatan mereka. Perkhidmatan ini mesti menjalani penilaian keselamatan untuk memeriksa risiko dan pematuhannya dengan undang-undang China. Syarikat-syarikat juga mesti memfailkan maklumat tentang algoritma mereka dengan pihak berkuasa China.
Mekanisme ini tidak sama dengan penilai bebas yang akan diterapkan dalam syarikat AI, seperti yang telah dicadangkan oleh Amodei. Tetapi ia melaksanakan beberapa fungsi yang sama.
Risiko sempadan
Set langkah terkini Beijing dipanggil rangka kerja tadbir urus keselamatan AI 3.0, yang diterbitkan pada September 2026. Ia menetapkan pendekatan luas untuk mengenal pasti, menggred dan bertindak balas terhadap risiko sepanjang kitaran hayat sistem AI.
Berdasarkan versi terdahulu, rangka kerja ini merangkumi risiko model dan data AI, kelemahan dalam model sumber terbuka (yang boleh diubah suai secara bebas oleh pengguna), kesan AI terhadap pekerjaan dan masyarakat serta sistem yang semakin autonomi.
Ia merangkumi mekanisme khusus untuk mengurus risiko yang berkaitan dengan ejen AI yang pesat membangun (sistem yang menjalankan tugas sebagai tindak balas kepada arahan oleh pengguna).
Rangka kerja ini menangani beberapa bahaya yang sama yang kini menimbulkan kebimbangan di Silicon Valley, termasuk sistem yang sangat autonomi, penyalahgunaan teknologi kimia, biologi dan nuklear, dan kemungkinan manusia kehilangan kawalan AI canggih. Ia mencadangkan penilaian keselamatan berterusan, perlindungan berasaskan risiko, manusia yang bertanggungjawab, dan mekanisme intervensi kecemasan.
Satu analisis bebas oleh badan pemikir Carnegie Endowment for International Peace AS telah menyifatkan rangka kerja itu sebagai percubaan China untuk "memajukan keselamatan sempadan tanpa memerlukan campur tangan kawal selia yang ketat".
Akibat undang-undang
Semua ini tidak bermakna peraturan AI Cina harus dipindahkan ke tempat lain. Institusi, tradisi kawal selia dan keutamaan teknologinya adalah berbeza.
Banyak fungsi yang kini dianggap sebagai aspirasi segera di AS, termasuk penilaian, akauntabiliti untuk syarikat AI, klasifikasi risiko untuk sistem AI, pemfailan kawal selia, piawaian teknikal dan pengawasan kerajaan telah pun tertanam dalam seni bina tadbir urus kuasa besar AI dunia yang lain.
AS bebas untuk membuat kesimpulan bahawa sistem yang dipimpin pasaran paling sesuai untuk kepentingan ekonomi dan strategiknya. Pentadbiran Trump telah memilih "membebankan secara minimum" terhadap AI dan telah berusaha untuk mengehadkan peraturan peringkat negeri yang lebih mendesak.
Tetapi model yang dipimpin pasaran tidak boleh bermaksud menswastakan ganjaran AI sambil mengeksport risikonya. Syarikat-syarikat AS mungkin mendapat keuntungan komersial, sementara kerajaan di tempat lain dibiarkan menyiasat insiden keselamatan, melindungi sistem awam dan menanggung kos yang lebih luas apabila teknologi tersebut gagal. Ejen OpenAI yang mendapat akses tanpa kebenaran kepada perkhidmatan penjagaan kesihatan negeri Australia menunjukkan bagaimana risiko AI dieksport.
Jika Washington menolak kawalan meluas sebelum sistem dikeluarkan, AS memerlukan rejim perundangan yang boleh dipercayai untuk menilai siapa yang bertanggungjawab atas kerosakan yang disebabkan oleh model AI tersebut. Jika tidak, negara yang bergantung pada sistem AI asing akan menghadapi pilihan yang semakin sukar tentang teknologi siapa yang harus dipercayai, dan atas syarat apa.
Etos pemerintahan Silicon Valley telah lama menjadi "bergerak pantas dan memecahkan masalah". Itu sentiasa menjadi prinsip yang dipersoalkan untuk teknologi yang dianyam secara mendalam dalam kehidupan awam. Ia tidak dapat dipertahankan bagi syarikat yang pemimpinnya sendiri kini memberi amaran bahawa produk mereka boleh menyebabkan kemudaratan yang dahsyat.
Beijing telahpun meliputi sektor AI dengan tanggungjawab awam, pengawasan kawal selia dan rangka kerja penilaian risiko yang sentiasa berkembang. Perdebatan global yang menganggap tadbir urus sedemikian sebagai aspirasi masa depan sekurang-kurangnya harus mengiktiraf bahawa sesebuah negara sudah berada di hadapan.
Madeline Carr, Profesor Politik Global dan Keselamatan Siber, UCL
Artikel ini diterbitkan semula daripada The Conversation di bawah lesen Creative Commons. Baca artikel asal.
