Aplikasi media sosial kerap membentangkan remaja dengan kandungan yang dipilih secara algoritma yang sering digambarkan sebagai "untuk anda," yang menunjukkan, secara tersirat, bahawa kandungan yang dikurasi bukan sahaja "untuk anda" tetapi juga "tentang anda" - cermin yang mencerminkan isyarat penting tentang diri anda.
Semua pengguna media sosial terdedah kepada isyarat-isyarat ini, tetapi para penyelidik memahami bahawa remaja berada pada tahap yang sangat mudah dibentuk dalam pembentukan identiti peribadi. Para sarjana telah mula menunjukkan bahawa teknologi mempunyai kesan membentuk generasi , bukan sahaja dalam cara ia mempengaruhi pandangan budaya, tingkah laku dan privasi, tetapi juga dalam cara ia dapat membentuk personaliti dalam kalangan mereka yang dibesarkan di media sosial.
Kelaziman mesej "untuk anda" menimbulkan persoalan penting tentang kesan algoritma ini terhadap cara remaja melihat diri mereka sendiri dan melihat dunia, dan hakisan halus privasi mereka, yang mereka terima sebagai pertukaran untuk pandangan ini.
Remaja menyukai pantulan algoritma mereka
Diinspirasikan oleh soalan-soalan ini, rakan sekerja saya, John Seberger dan Afsaneh Razi dari Universiti Drexel dan saya bertanya: Bagaimanakah remaja menavigasi persekitaran yang dihasilkan secara algoritma ini, dan bagaimana mereka mengenali diri mereka dalam cermin yang ditunjukkannya?
Dalam kajian temu bual kualitatif kami terhadap remaja berusia 13-17 tahun, kami mendapati bahawa kandungan algoritma yang diperibadikan nampaknya menunjukkan apa yang ditafsirkan oleh remaja sebagai imej cermin diri mereka sendiri yang boleh dipercayai , dan mereka sangat menyukai pengalaman melihat pantulan media sosial itu.
Remaja yang kami temui mengatakan mereka lebih suka media sosial yang disesuaikan sepenuhnya untuk mereka, yang menggambarkan apa yang mereka setuju, apa yang mereka mahu lihat dan, dengan itu, siapa diri mereka.
Jika saya mencari sesuatu yang penting bagi saya, ia akan dipaparkan sebagai salah satu catatan teratas [dan] ia akan menunjukkan, seperti, orang [seperti saya] yang sedang mengadakan perbincangan yang bagus.
Ternyata remaja yang kami temu bual percaya algoritma media sosial seperti TikTok telah menjadi begitu baik sehingga mereka melihat pantulan diri mereka dalam media sosial sebagai agak tepat. Sehinggakan remaja cepat mengaitkan ketidakkonsistenan kandungan dengan imej diri mereka sebagai anomali – contohnya, hasil daripada penglibatan yang tidak disengajakan dengan kandungan lalu, atau hanya satu gangguan.
Pada satu ketika saya ternampak sesuatu tentang rancangan itu, mungkin di TikTok, dan saya berinteraksi dengannya tanpa saya sedari.
Apabila kandungan yang diperibadikan tidak menyenangkan atau konsisten dengan imej diri mereka, remaja yang kami temu bual mengatakan mereka menatal melepasi kandungan tersebut, berharap tidak akan melihatnya lagi. Walaupun anomali yang dirasakan ini berbentuk kandungan hipermaskulin yang melampau atau "jahat", remaja tidak mengaitkan perkara ini dengan apa-apa tentang diri mereka secara khusus, dan mereka juga tidak mendakwa mencari penjelasan dalam tingkah laku mereka sendiri. Menurut remaja dalam temu bual kami, cermin media sosial tidak menjadikan mereka lebih bermuhasabah diri atau mencabar rasa kendiri mereka.
Satu perkara yang mengejutkan kami ialah walaupun remaja sedar bahawa apa yang mereka lihat dalam suapan "untuk anda" mereka adalah hasil daripada tabiat menatal mereka di platform media sosial, mereka sebahagian besarnya tidak menyedari atau tidak peduli bahawa data yang ditangkap merentasi aplikasi menyumbang kepada imej diri ini. Walau apa pun, mereka tidak melihat suapan "untuk anda" mereka sebagai cabaran kepada rasa diri mereka, apatah lagi risiko kepada identiti diri mereka – mahupun, dalam hal ini, sebarang asas untuk kebimbangan sama sekali.
Membentuk identiti
Kajian tentang identiti telah berkembang pesat sejak ahli sosiologi Erving Goffman mencadangkan " persembahan diri " pada tahun 1959. Beliau mengemukakan bahawa orang ramai menguruskan identiti mereka melalui prestasi sosial untuk mengekalkan keseimbangan antara siapa mereka fikirkan diri mereka dan bagaimana orang lain melihat mereka.
Apabila Goffman mula-mula mencadangkan teorinya, tiada antara muka media sosial yang tersedia untuk memaparkan cermin diri yang berguna seperti yang dialami oleh orang lain. Orang ramai diwajibkan untuk mencipta imej mozek mereka sendiri, yang diperoleh daripada pelbagai sumber, pertemuan dan tanggapan. Dalam beberapa tahun kebelakangan ini, algoritma pengesyorkan media sosial telah memasukkan diri mereka ke dalam apa yang kini menjadi rundingan tiga hala antara diri, awam dan algoritma media sosial.
Tawaran "Untuk anda" mewujudkan ruang awam-swasta di mana remaja boleh mengakses apa yang mereka rasakan sebagai ujian imej diri mereka yang sebahagian besarnya tepat. Pada masa yang sama, mereka mengatakan bahawa mereka boleh mengabaikannya dengan mudah jika ia kelihatan tidak bersetuju dengan imej diri itu.
Pakatan yang dibuat oleh remaja dengan media sosial, bertukar data peribadi dan melepaskan privasi untuk mendapatkan akses kepada cermin algoritma itu, terasa seperti tawaran yang baik bagi mereka. Mereka menggambarkan diri mereka sebagai seorang yang yakin dapat mengabaikan atau menatal melepasi kandungan yang disyorkan yang seolah-olah bercanggah dengan perasaan diri mereka, tetapi kajian menunjukkan sebaliknya .
Malah, mereka telah membuktikan diri mereka sangat terdedah kepada herotan imej diri dan masalah kesihatan mental lain berdasarkan algoritma media sosial yang direka bentuk secara eksplisit untuk mencipta dan memberi ganjaran kepada hipersensitiviti, fiksasi dan dismorfia – gangguan kesihatan mental di mana orang ramai tertumpu pada penampilan mereka.
Memandangkan apa yang diketahui oleh penyelidik tentang otak remaja dan peringkat perkembangan sosial itu - dan memandangkan apa yang boleh disimpulkan secara munasabah tentang kebolehlenturan imej diri berdasarkan maklum balas sosial - remaja adalah salah untuk mempercayai bahawa mereka boleh mengatasi risiko identiti diri algoritma.
Kandungan daripada rakan kongsi kami
Intervensi
Sebahagian daripada penyelesaiannya adalah dengan membina alatan baharu menggunakan kecerdasan buatan untuk mengesan interaksi yang tidak selamat di samping melindungi privasi. Pendekatan lain adalah untuk membantu remaja merenungkan "penggandaan data" yang telah mereka bina.
Saya dan rakan sekerja saya kini sedang meneroka dengan lebih mendalam bagaimana remaja mengalami kandungan algoritma dan jenis intervensi yang boleh membantu mereka merenungkannya. Kami menggalakkan penyelidik dalam bidang kami untuk mereka bentuk cara untuk mencabar ketepatan algoritma dan mendedahkannya sebagai mencerminkan tingkah laku dan bukannya wujud. Bahagian lain daripada penyelesaiannya mungkin melibatkan mempersenjatai remaja dengan alat untuk menyekat akses kepada data mereka, termasuk mengehadkan kuki, mempunyai profil carian yang berbeza dan mematikan lokasi apabila menggunakan aplikasi tertentu.
Kami percaya bahawa semua langkah ini berkemungkinan mengurangkan ketepatan algoritma, sekali gus mewujudkan geseran yang amat diperlukan antara algoritma dan diri sendiri, walaupun remaja tidak semestinya berpuas hati dengan hasilnya.
Libatkan anak-anak
Baru-baru ini, saya dan rakan sekerja saya telah mengadakan bengkel Gen Z bersama golongan muda dari Encode Justice , sebuah organisasi global pelajar sekolah menengah dan kolej yang menyokong AI yang selamat dan saksama. Matlamatnya adalah untuk lebih memahami bagaimana mereka berfikir tentang kehidupan mereka di bawah algoritma dan AI. Gen Z mengatakan bahawa mereka prihatin tetapi juga ingin terlibat dalam membentuk masa depan mereka, termasuk mengurangkan bahaya algoritma. Sebahagian daripada matlamat bengkel kami adalah untuk menarik perhatian dan memupuk keperluan untuk penyiasatan yang didorong oleh remaja terhadap algoritma dan kesannya.
Apa yang turut dihadapi oleh para penyelidik ialah kita sebenarnya tidak tahu apa ertinya sentiasa berunding tentang identiti dengan algoritma. Ramai di antara kita yang mengkaji remaja terlalu tua untuk membesar dalam dunia yang disederhanakan secara algoritma. Bagi remaja yang kita kaji, tiada " sebelum AI ".
Saya percaya bahawa adalah berbahaya untuk mengabaikan apa yang dilakukan oleh algoritma. Masa depan remaja boleh menjadi masa di mana masyarakat mengakui hubungan unik antara remaja dan media sosial. Ini bermakna melibatkan mereka dalam penyelesaian, sambil tetap memberikan panduan.
Nora McDonald, Penolong Profesor Teknologi Maklumat, Universiti George Mason .
Artikel ini diterbitkan semula daripada The Conversation di bawah lesen Creative Commons. Baca artikel asal .
