Jika Teknologi Besar Mempunyai Kemahuan, Berikut Adalah Cara Penyelidikan Menunjukkan Peraturan Kendiri Boleh Berfungsi

Kerajaan dan pemerhati di seluruh dunia telah berulang kali menimbulkan kebimbangan tentang kuasa monopoli syarikat-syarikat Teknologi Besar dan peranan yang dimainkan oleh syarikat-syarikat dalam menyebarkan maklumat salah. Sebagai tindak balas, syarikat-syarikat Teknologi Besar telah cuba mendahului peraturan dengan mengawal diri mereka sendiriDengan pengumuman Facebook bahawa Lembaga Pengawasan akan membuat keputusan Mengenai sama ada bekas Presiden Donald Trump boleh mendapatkan semula akses kepada akaunnya selepas syarikat itu menggantungnya, langkah berprofil tinggi ini dan langkah berprofil tinggi lain oleh syarikat teknologi untuk menangani maklumat salah telah membangkitkan semula perdebatan tentang bagaimana sepatutnya pengawalseliaan kendiri yang bertanggungjawab oleh syarikat teknologi. Kajian menunjukkan tiga cara utama pengawalseliaan kendiri media sosial boleh berfungsi: mengurangkan keutamaan penglibatan, maklumat salah label dan pengesahan ketepatan sumber awam.

Kurangkan keutamaan penglibatan

Platform media sosial dibina untuk interaksi berterusan, dan syarikat-syarikat mereka bentuk algoritma yang memilih siaran yang dilihat orang ramai untuk memastikan pengguna mereka terlibat. Kajian menunjukkan pembohongan merebak lebih cepat daripada kebenaran di media sosial, selalunya kerana orang ramai mendapati berita yang mencetuskan emosi agar lebih menarik, yang menjadikannya lebih berkemungkinan mereka akan membaca, bertindak balas dan berkongsi berita sedemikian. Kesan ini diperkuatkan melalui cadangan algoritma. Kerja saya sendiri menunjukkan bahawa orang ramai lebih kerap berinteraksi dengan video YouTube tentang diabetes apabila video tersebut kurang bermaklumat. Kebanyakan platform Teknologi Besar juga beroperasi tanpa penjaga pintu atau penapis yang mengawal sumber berita dan maklumat tradisional. Khazanah mereka yang luas data demografi yang terperinci dan terperinci berikan mereka keupayaan untuk "sasaran mikro" sebilangan kecil penggunaIni, digabungkan dengan penguatan algoritma kandungan yang direka untuk meningkatkan penglibatan, boleh membawa pelbagai akibat negatif kepada masyarakat, termasuk penindasan pengundi digital, penargetan minoriti untuk maklumat salah dan penyasaran iklan yang diskriminatifMengurangkan keutamaan penglibatan dalam cadangan kandungan sepatutnya mengurangkan "kesan "lubang arnab" media sosial, di mana orang ramai melihat siaran demi siaran, video demi video reka bentuk algoritma platform Big Tech mengutamakan kandungan baharu dan mikrosasaran, yang memupuk penyebaran maklumat salah yang hampir tidak terkawal. Ketua Pegawai Eksekutif Apple, Tim Cook baru-baru ini merumuskan masalah tersebut: “Pada saat penyebaran maklumat salah dan teori konspirasi yang berleluasa yang dimanipulasi oleh algoritma, kita tidak lagi boleh menutup mata terhadap teori teknologi yang mengatakan semua penglibatan adalah penglibatan yang baik – lebih lama lebih baik – dan semuanya dengan matlamat untuk mengumpul sebanyak mungkin data.”

Maklumat salah label

Syarikat-syarikat teknologi boleh menerima pakai sistem pelabelan kandungan untuk mengenal pasti sama ada sesuatu berita disahkan atau tidak. Semasa pilihan raya, Twitter mengumumkan dasar integriti sivik di mana tweet yang dilabelkan sebagai dipertikaikan atau mengelirukan tidak akan disyorkan oleh algoritma merekaKajian menunjukkan bahawa pelabelan berkesan. Kajian menunjukkan bahawa menggunakan label pada siaran daripada saluran media yang dikawal oleh kerajaan, seperti dari saluran media Rusia RT, boleh mengurangkan kesan maklumat salah. Dalam satu eksperimen, penyelidik mengupah pekerja sementara tanpa nama untuk melabelkan siaran yang boleh dipercayaiSiaran-siaran tersebut kemudiannya dipaparkan di Facebook dengan label yang dianotasi oleh pekerja crowdsource. Dalam eksperimen itu, pekerja crowd dari seluruh spektrum politik dapat membezakan antara sumber arus perdana dan sumber berita hiperpartisan atau palsu, menunjukkan bahawa orang ramai sering melakukan tugas yang baik dalam membezakan antara berita sebenar dan palsu. Eksperimen juga menunjukkan bahawa individu yang mempunyai sedikit pendedahan kepada sumber berita secara amnya boleh membezakan antara berita sebenar dan palsu. Eksperimen lain mendapati bahawa memberikan peringatan tentang ketepatan siaran meningkatkan kemungkinan peserta berkongsi siaran yang tepat lebih banyak daripada siaran yang tidak tepat. Dalam karya saya sendiri, saya telah mengkaji bagaimana gabungan anotasi manusia, atau moderator kandungan, dan algoritma kecerdasan buatan – apa yang dirujuk sebagai kecerdasan manusia-dalam-gelung – boleh digunakan untuk mengklasifikasikan video berkaitan penjagaan kesihatan di YouTubeWalaupun tidak mungkin untuk meminta profesional perubatan menonton setiap video YouTube mengenai diabetes, adalah mungkin untuk mempunyai kaedah klasifikasi manusia-dalam-gelung. Contohnya, saya dan rakan sekerja saya merekrut pakar subjek untuk memberi maklum balas kepada algoritma AI, yang menghasilkan penilaian yang lebih baik terhadap kandungan siaran dan video. Syarikat teknologi telah pun menggunakan pendekatan sedemikian. Facebook menggunakan gabungan pemeriksa fakta dan algoritma pengesanan persamaan untuk menyaring maklumat salah berkaitan COVID-19. Algoritma mengesan pertindihan dan menutup salinan daripada catatan yang mengelirukan.

Penguatkuasaan berasaskan komuniti

Twitter baru-baru ini mengumumkan bahawa ia melancarkan forum komuniti, Birdwatch, untuk memerangi maklumat salah. Walaupun Twitter belum memberikan butiran tentang bagaimana ini akan dilaksanakan, mekanisme pengesahan berasaskan orang ramai menambah undian naik atau undian turun kepada catatan yang sedang popular dan menggunakan algoritma suapan berita untuk menurunkan kedudukan kandungan daripada sumber yang tidak boleh dipercayai boleh membantu mengurangkan maklumat salah. Idea asasnya adalah serupa dengan Sistem sumbangan kandungan Wikipedia, di mana sukarelawan mengklasifikasikan sama ada siaran yang sedang popular adalah benar atau palsu. Cabarannya adalah menghalang orang ramai daripada mengundi kandungan yang menarik dan menarik tetapi tidak disahkan, terutamanya apabila terdapat usaha sengaja untuk memanipulasi pengundianOrang ramai boleh mempermainkan sistem melalui tindakan yang diselaraskan, seperti dalam baru-baru ini Episod GameStop yang mengepam sahamSatu lagi masalah ialah bagaimana untuk memotivasikan orang ramai untuk menyertai secara sukarela dalam usaha kolaboratif seperti pengesanan berita palsu sumber ramai. Walau bagaimanapun, usaha sedemikian bergantung kepada sukarelawan memberi anotasi tentang ketepatan artikel berita, serupa dengan Wikipedia, dan juga memerlukan penyertaan daripada organisasi pemeriksa fakta pihak ketiga yang boleh digunakan untuk mengesan sama ada sesuatu berita itu mengelirukan. Walau bagaimanapun, model ala Wikipedia memerlukan mekanisme yang mantap daripada tadbir urus komuniti untuk memastikan sukarelawan individu mengikuti garis panduan yang konsisten apabila mereka mengesahkan dan menyemak fakta siaran. Wikipedia baru-baru ini mengemas kini piawaian komunitinya secara khusus untuk membendung penyebaran maklumat salahSama ada syarikat teknologi besar akan secara sukarela membenarkan dasar penyederhanaan kandungan mereka dikaji semula secara telus adalah perkara lainDapatkan kisah sains, kesihatan dan teknologi terbaik kami. Daftar untuk surat berita sains The Conversation.]

Tanggungjawab Big Tech

Akhirnya, syarikat media sosial boleh menggunakan gabungan mengurangkan keutamaan penglibatan, bekerjasama dengan organisasi berita, dan AI serta pengesanan maklumat salah sumber ramai. Pendekatan ini tidak mungkin berfungsi secara berasingan dan perlu direka bentuk untuk berfungsi bersama. Tindakan yang diselaraskan yang difasilitasi oleh media sosial boleh mengganggu masyarakat, daripada pasaran kewangan kepada politikPlatform teknologi memainkan peranan yang sangat besar dalam membentuk pendapat umum, yang bermaksud ia memikul tanggungjawab kepada orang ramai untuk mentadbir diri mereka sendiri dengan berkesan. Seruan untuk peraturan kerajaan terhadap Teknologi Besar semakin meningkat di seluruh dunia, termasuk di AS, di mana tinjauan Gallup baru-baru ini menunjukkan sikap yang semakin buruk terhadap syarikat teknologi dan sokongan yang lebih besar untuk peraturan kerajaan. Jerman undang-undang baharu mengenai penyederhanaan kandungan melantik tanggungjawab yang lebih besar ke atas syarikat teknologi untuk kandungan yang dikongsi di platform mereka. Banyak peraturan di Eropah bertujuan untuk mengurangkan perlindungan liabiliti yang dinikmati oleh platform ini dan peraturan yang dicadangkan di AS yang bertujuan untuk menstruktur semula undang-undang internet akan membawa penelitian yang lebih teliti terhadap dasar penyederhanaan kandungan syarikat teknologi. Beberapa bentuk peraturan kerajaan mungkin di AS. Big Tech masih mempunyai peluang untuk terlibat dalam pengawalseliaan kendiri yang bertanggungjawab – sebelum syarikat dipaksa bertindak oleh penggubal undang-undang. Anjana Susarla, Profesor Omura-Saxena dalam AI Bertanggungjawab, Universiti Negeri Michigan Artikel ini diterbitkan semula daripada Perbualan di bawah lesen Creative Commons. Baca artikel asal.