Apl media sosial kerap mempersembahkan remaja dengan kandungan yang dipilih secara algoritma yang sering digambarkan sebagai "untuk anda," mencadangkan, secara tersirat, bahawa kandungan yang dipilih susun bukan hanya "untuk anda" tetapi juga "mengenai anda" - cermin yang mencerminkan isyarat penting tentang orang yang anda adalah.
Semua pengguna media sosial terdedah kepada isyarat ini, tetapi penyelidik memahami bahawa remaja berada pada tahap yang sangat mudah dibentuk dalam pembentukan identiti peribadi. Sarjana telah mula menunjukkan bahawa teknologi mempunyai kesan membentuk generasi , bukan sahaja dalam cara ia mempengaruhi pandangan budaya, tingkah laku dan privasi, tetapi juga dalam cara ia boleh membentuk personaliti dalam kalangan mereka yang dibesarkan di media sosial.
Kelaziman mesej "untuk anda" menimbulkan persoalan penting tentang kesan algoritma ini terhadap cara remaja melihat diri mereka dan melihat dunia, dan penghakisan halus privasi mereka, yang mereka terima sebagai pertukaran untuk pandangan ini.
Remaja menyukai refleksi algoritma mereka
Diilhamkan oleh soalan-soalan ini, saya dan rakan sekerja John Seberger dan Afsaneh Razi dari Universiti Drexel bertanya : Bagaimanakah remaja menavigasi persekitaran yang dihasilkan secara algoritma ini, dan bagaimana mereka mengenali diri mereka dalam cermin yang ditunjukkannya?
Dalam kajian temu bual kualitatif kami terhadap remaja 13-17, kami mendapati bahawa kandungan algoritmik yang diperibadikan nampaknya membentangkan apa yang ditafsirkan oleh remaja sebagai imej cermin yang boleh dipercayai tentang diri mereka sendiri dan bahawa mereka sangat menyukai pengalaman melihat refleksi media sosial itu.
Remaja yang kami bercakap dengan mengatakan bahawa mereka lebih suka media sosial yang disesuaikan sepenuhnya untuk mereka, menggambarkan perkara yang mereka bersetuju, perkara yang mereka mahu lihat dan, dengan itu, siapa mereka.
Jika saya mencari sesuatu yang penting bagi saya yang akan muncul sebagai salah satu siaran teratas [dan] ia akan menunjukkan, seperti, orang [seperti saya] yang sedang berbincang dengan baik.
Ternyata remaja yang kami temu bual percaya algoritma media sosial seperti TikTok telah menjadi begitu baik sehingga mereka melihat pantulan diri mereka dalam media sosial sebagai agak tepat. Sehinggakan remaja cepat mengaitkan ketidakkonsistenan kandungan dengan imej diri mereka sebagai anomali – contohnya, hasil penglibatan tidak disengajakan dengan kandungan lalu, atau hanya gangguan.
Pada satu ketika saya melihat sesuatu tentang rancangan itu, mungkin di TikTok, dan saya berinteraksi dengannya tanpa benar-benar sedar.
Apabila kandungan diperibadikan tidak sesuai atau konsisten dengan imej diri mereka, remaja yang kami temu bual mengatakan mereka menatal melepasinya, berharap tidak akan melihatnya lagi. Walaupun anomali yang dilihat ini berbentuk kandungan hipermaskulin atau "jahat" yang melampau, remaja tidak mengaitkan ini dengan apa-apa tentang diri mereka secara khusus, dan mereka juga tidak mendakwa mencari penjelasan dalam tingkah laku mereka sendiri. Menurut remaja dalam temu bual kami, cermin media sosial tidak menjadikan mereka lebih mencerminkan diri atau mencabar rasa diri mereka.
Satu perkara yang mengejutkan kami ialah walaupun remaja sedar bahawa apa yang mereka lihat dalam suapan "untuk anda" mereka adalah hasil daripada tabiat menatal mereka di platform media sosial, mereka sebahagian besarnya tidak sedar atau tidak prihatin bahawa data yang ditangkap merentas apl menyumbang kepada diri ini. -imej. Walau apa pun, mereka tidak melihat suapan "untuk anda" mereka sebagai satu cabaran kepada perasaan diri mereka, apalagi risiko terhadap identiti diri mereka - mahupun, dalam hal ini, sebarang asas untuk kebimbangan sama sekali.
Membentuk identiti
Penyelidikan mengenai identiti telah berjalan jauh sejak ahli sosiologi Erving Goffman mencadangkan " persembahan diri " pada tahun 1959. Beliau menyatakan bahawa orang ramai menguruskan identiti mereka melalui prestasi sosial untuk mengekalkan keseimbangan antara siapa mereka fikir mereka dan bagaimana orang lain melihat mereka.
Apabila Goffman mula-mula mencadangkan teorinya, tidak ada antara muka media sosial yang tersedia untuk memegang cermin berguna diri seperti yang dialami oleh orang lain. Orang ramai diwajibkan untuk mencipta imej mozek mereka sendiri, yang diperoleh daripada pelbagai sumber, pertemuan dan tera. Dalam beberapa tahun kebelakangan ini, algoritma pengesyor media sosial telah memasukkan diri mereka ke dalam apa yang kini menjadi rundingan tiga hala antara algoritma sendiri, awam dan media sosial.
Tawaran "Untuk anda" mewujudkan ruang persendirian-awam di mana remaja boleh mengakses perkara yang mereka rasa sebagai ujian yang sebahagian besarnya tepat terhadap imej diri mereka. Pada masa yang sama, mereka mengatakan mereka boleh mengabaikannya dengan mudah jika ia kelihatan tidak bersetuju dengan imej diri itu.
Perjanjian yang dibuat oleh remaja dengan media sosial, bertukar-tukar data peribadi dan melepaskan privasi untuk mendapatkan akses kepada cermin algoritma itu, merasakan mereka seperti tawaran yang baik. Mereka mewakili diri mereka dengan yakin boleh menala keluar atau menatal melepasi kandungan yang disyorkan yang nampaknya bercanggah dengan perasaan diri mereka, tetapi kajian menunjukkan sebaliknya .
Mereka sebenarnya telah membuktikan diri mereka sangat terdedah kepada herotan imej diri dan masalah kesihatan mental yang lain berdasarkan algoritma media sosial yang direka secara eksplisit untuk mencipta dan memberi ganjaran kepada hipersensitiviti, fiksasi dan dismorfia - gangguan kesihatan mental di mana orang ramai tertumpu pada penampilan mereka.
Memandangkan apa yang penyelidik ketahui tentang otak remaja dan peringkat perkembangan sosial itu - dan memandangkan apa yang boleh disangkakan secara munasabah tentang kebolehtempaan imej diri berdasarkan maklum balas sosial - remaja salah untuk mempercayai bahawa mereka boleh melepasi risiko identiti diri algoritma.
Kandungan daripada rakan kongsi kami
Intervensi
Sebahagian daripada ubat itu adalah membina alat baharu menggunakan kecerdasan buatan untuk mengesan interaksi yang tidak selamat sambil melindungi privasi. Pendekatan lain ialah membantu remaja merenungkan "penggandaan data" ini yang telah mereka bina.
Saya dan rakan sekerja saya kini meneroka dengan lebih mendalam cara remaja mengalami kandungan algoritma dan jenis campur tangan yang boleh membantu mereka merenungkannya. Kami menggalakkan penyelidik dalam bidang kami untuk mereka bentuk cara untuk mencabar ketepatan algoritma dan mendedahkannya sebagai mencerminkan tingkah laku dan bukan menjadi. Satu lagi bahagian remedi mungkin melibatkan mempersenjatai remaja dengan alatan untuk menyekat akses kepada data mereka, termasuk mengehadkan kuki, mempunyai profil carian yang berbeza dan mematikan lokasi apabila menggunakan apl tertentu.
Kami percaya bahawa ini semua adalah langkah yang berkemungkinan mengurangkan ketepatan algoritma, mewujudkan geseran yang sangat diperlukan antara algoritma dan diri sendiri, walaupun remaja tidak semestinya gembira dengan hasilnya.
Melibatkan anak-anak
Baru-baru ini, saya dan rakan sekerja mengendalikan bengkel Gen Z dengan golongan muda dari Encode Justice , sebuah organisasi global pelajar sekolah menengah dan kolej yang memperjuangkan AI yang selamat dan saksama. Matlamatnya adalah untuk lebih memahami cara mereka berfikir tentang kehidupan mereka di bawah algoritma dan AI. Gen Zers berkata mereka prihatin tetapi juga tidak sabar-sabar untuk terlibat dalam membentuk masa depan mereka, termasuk mengurangkan kemudaratan algoritma. Sebahagian daripada matlamat bengkel kami adalah untuk menarik perhatian dan memupuk keperluan untuk penyiasatan algoritma yang dipacu remaja dan kesannya.
Perkara yang juga dihadapi oleh penyelidik ialah kita sebenarnya tidak tahu apa yang dimaksudkan untuk sentiasa merundingkan identiti dengan algoritma. Ramai di antara kita yang belajar remaja terlalu tua untuk dibesarkan dalam dunia yang disederhanakan secara algoritma. Untuk remaja yang kami kaji, tidak ada " sebelum AI ."
Saya percaya bahawa adalah berbahaya untuk mengabaikan apa yang dilakukan oleh algoritma. Masa depan untuk remaja boleh menjadi masa di mana masyarakat mengakui hubungan unik antara remaja dan media sosial. Ini bermakna melibatkan mereka dalam penyelesaian, sambil tetap memberikan bimbingan.
Nora McDonald, Penolong Profesor Teknologi Maklumat, Universiti George Mason .
Artikel ini diterbitkan semula daripada The Conversation di bawah lesen Creative Commons. Baca artikel asal .
