Le app dei social media presentano regolarmente agli adolescenti contenuti selezionati tramite algoritmi, spesso descritti come "per te", suggerendo, implicitamente, che il contenuto curato non è solo "per te", ma anche "su di te", uno specchio che riflette segnali importanti sulla persona che sei.
Tutti gli utenti dei social media sono esposti a questi segnali, ma i ricercatori hanno compreso che gli adolescenti si trovano in una fase particolarmente malleabile nella formazione dell'identità personale. Gli studiosi hanno iniziato a dimostrare che la tecnologia sta avendo effetti di formazione generazionale , non solo nel modo in cui influenza la prospettiva culturale, il comportamento e la privacy, ma anche nel modo in cui può plasmare la personalità di coloro che sono cresciuti sui social media.
La prevalenza del messaggio "per te" solleva importanti interrogativi sull'impatto di questi algoritmi sul modo in cui gli adolescenti percepiscono se stessi e vedono il mondo, e sulla sottile erosione della loro privacy, che accettano in cambio di questa visione.
Agli adolescenti piace il loro riflesso algoritmico
Ispirati da queste domande, io e i miei colleghi John Seberger e Afsaneh Razi della Drexel University siamo chiesti: come si muovono gli adolescenti in questo ambiente generato algoritmicamente e come si riconoscono nello specchio che presenta?
Nel nostro studio qualitativo condotto su adolescenti di età compresa tra 13 e 17 anni, abbiamo scoperto che i contenuti algoritmici personalizzati sembrano effettivamente presentare quella che gli adolescenti interpretano come un'immagine speculare affidabile di se stessi e che apprezzano molto l'esperienza di vedere quel riflesso sui social media.
Gli adolescenti con cui abbiamo parlato affermano di preferire un social media completamente personalizzato per loro, che rappresenti ciò con cui sono d'accordo, ciò che vogliono vedere e, quindi, chi sono.
Se cerco qualcosa che è importante per me, questo apparirà tra i post più popolari e mostrerà persone come me che stanno avendo una bella discussione.
A quanto pare, gli adolescenti che abbiamo intervistato ritengono che gli algoritmi dei social media come quello di TikTok siano diventati così efficaci da considerare i propri riflessi sui social media piuttosto accurati. Al punto che gli adolescenti sono pronti ad attribuire le incongruenze dei contenuti rispetto alla propria immagine di sé come anomalie, ad esempio il risultato di un'interazione involontaria con contenuti passati o semplicemente un problema tecnico.
A un certo punto ho visto qualcosa su quello show, forse su TikTok, e ho interagito con esso senza rendermene conto.
Quando i contenuti personalizzati non sono gradevoli o coerenti con la loro immagine di sé, gli adolescenti che abbiamo intervistato affermano di ignorarli, sperando di non rivederli mai più. Anche quando queste anomalie percepite assumono la forma di contenuti ipermascolini o "sgradevoli", gli adolescenti non attribuiscono questo comportamento a qualcosa di specifico, né affermano di cercare una spiegazione nei propri comportamenti. Secondo gli adolescenti intervistati, lo specchio dei social media non li rende più riflessivi né mette in discussione la loro percezione di sé.
Una cosa che ci ha sorpreso è che, mentre gli adolescenti erano consapevoli che ciò che vedono nel loro feed "Per te" è il prodotto delle loro abitudini di scorrimento sulle piattaforme dei social media, sono in gran parte inconsapevoli o non si preoccupano del fatto che i dati acquisiti dalle app contribuiscano a questa immagine di sé. In ogni caso, non vedono il loro feed "Per te" come una sfida alla loro percezione di sé, né tantomeno come un rischio per la loro identità – né, del resto, come un motivo di preoccupazione.
Dare forma all'identità
La ricerca sull'identità ha fatto molta strada da quando il sociologo Erving Goffman propose la " presentazione di sé " nel 1959. Egli ipotizzò che le persone gestiscano la propria identità attraverso la performance sociale per mantenere l'equilibrio tra chi pensano di essere e come gli altri le percepiscono.
Quando Goffman propose per la prima volta la sua teoria, non esisteva un'interfaccia social che potesse rappresentare uno specchio pratico del sé percepito dagli altri. Le persone erano obbligate a creare una propria immagine a mosaico, derivata da molteplici fonti, incontri e impressioni. Negli ultimi anni, gli algoritmi di raccomandazione dei social media si sono inseriti in quella che oggi è una negoziazione a tre tra sé, il pubblico e l'algoritmo dei social media.
Le offerte "Per te" creano uno spazio pubblico-privato attraverso il quale gli adolescenti possono accedere a quello che ritengono essere un test ampiamente accurato della propria immagine di sé. Allo stesso tempo, affermano di poterlo ignorare facilmente se sembra in contrasto con tale immagine.
Il patto che gli adolescenti stringono con i social media, scambiandosi dati personali e rinunciando alla privacy per garantirsi l'accesso a quello specchio algoritmico, sembra loro un buon affare. Si presentano come persone in grado di ignorare o ignorare i contenuti consigliati che sembrano contraddire la loro percezione di sé, ma la ricerca dimostra il contrario .
Hanno infatti dimostrato di essere altamente vulnerabili alla distorsione dell'immagine di sé e ad altri problemi di salute mentale basati sugli algoritmi dei social media espressamente progettati per creare e premiare ipersensibilità, fissazioni e dismorfismo, un disturbo di salute mentale in cui le persone si fissano sul proprio aspetto.
Considerando ciò che i ricercatori sanno sul cervello degli adolescenti e su quella fase dello sviluppo sociale, e considerando ciò che si può ragionevolmente supporre sulla malleabilità dell'immagine di sé in base al feedback sociale, gli adolescenti sbagliano a credere di poter ignorare i rischi per l'identità personale degli algoritmi.
Contenuti dei nostri partner
Interventi
Una parte del rimedio potrebbe essere quella di sviluppare nuovi strumenti che utilizzino l'intelligenza artificiale per rilevare interazioni pericolose, tutelando al contempo la privacy. Un altro approccio è quello di aiutare gli adolescenti a riflettere su questi "doppioni di dati" che hanno costruito.
Io e i miei colleghi stiamo ora esplorando più a fondo il modo in cui gli adolescenti percepiscono i contenuti algoritmici e quali tipi di interventi possono aiutarli a rifletterci sopra. Incoraggiamo i ricercatori nel nostro campo a progettare modi per mettere in discussione l'accuratezza degli algoritmi e dimostrare che riflettono un comportamento anziché esserlo. Un'altra parte della soluzione potrebbe consistere nel fornire agli adolescenti strumenti per limitare l'accesso ai propri dati, tra cui limitare i cookie, avere profili di ricerca diversi e disattivare la geolocalizzazione quando si utilizzano determinate app.
Riteniamo che tutti questi siano passaggi che probabilmente ridurranno l'accuratezza degli algoritmi, creando un necessario attrito tra l'algoritmo e il sé, anche se gli adolescenti non sono necessariamente soddisfatti dei risultati.
Coinvolgere i bambini
Di recente, io e i miei colleghi abbiamo condotto un workshop sulla Generazione Z con i giovani di Encode Justice , un'organizzazione globale di studenti delle scuole superiori e dell'università che si batte per un'intelligenza artificiale sicura ed equa. L'obiettivo era comprendere meglio come percepiscono la propria vita in un contesto di algoritmi e intelligenza artificiale. I membri della Generazione Z affermano di essere preoccupati, ma anche desiderosi di essere coinvolti nella definizione del proprio futuro, inclusa la mitigazione dei danni causati dagli algoritmi. Parte dell'obiettivo del nostro workshop era quello di richiamare l'attenzione e promuovere la necessità di indagini condotte dagli adolescenti sugli algoritmi e sui loro effetti.
Ciò che i ricercatori si trovano ad affrontare è anche il fatto che non sappiamo realmente cosa significhi negoziare costantemente l'identità con un algoritmo. Molti di noi che studiamo gli adolescenti sono troppo vecchi per essere cresciuti in un mondo moderato algoritmicamente. Per gli adolescenti che studiamo, non esiste un " prima dell'IA ".
Credo che sia pericoloso ignorare ciò che fanno gli algoritmi. Il futuro degli adolescenti può essere un futuro in cui la società riconosce il rapporto unico tra adolescenti e social media. Ciò significa coinvolgerli nelle soluzioni, pur continuando a fornire loro una guida.
Nora McDonald, Professoressa Associata di Tecnologia dell'Informazione, George Mason University .
Questo articolo è ripubblicato da The Conversation con licenza Creative Commons. Leggi l' articolo originale .
