Les applications de médias sociaux présentent régulièrement aux adolescents un contenu sélectionné par des algorithmes, souvent décrit comme « pour vous », suggérant, implicitement, que ce contenu n'est pas seulement « pour vous », mais aussi « à propos de vous » – un miroir reflétant des signaux importants sur la personne que vous êtes.
Tous les utilisateurs des réseaux sociaux sont exposés à ces signaux, mais les chercheurs savent que les adolescents se trouvent à un stade particulièrement malléable de la construction de leur identité. Des études ont commencé à démontrer que la technologie influence les générations , non seulement par son impact sur les perspectives culturelles, les comportements et la vie privée, mais aussi par sa capacité à façonner la personnalité de ceux qui ont grandi avec les réseaux sociaux.
La prévalence du message « pour vous » soulève d’importantes questions quant à l’impact de ces algorithmes sur la façon dont les adolescents se perçoivent et voient le monde, ainsi que sur l’érosion insidieuse de leur vie privée, qu’ils acceptent en échange de cette vision.
Les adolescents aiment leur reflet algorithmique
Inspirés par ces questions, mes collègues John Seberger et Afsaneh Razi de l'université Drexel et moi-même nous sommes demandés : comment les adolescents naviguent-ils dans ce milieu généré par des algorithmes, et comment se reconnaissent-ils dans le miroir qu'il leur présente ?
Dans notre étude qualitative par entretiens avec des adolescents de 13 à 17 ans, nous avons constaté que le contenu algorithmique personnalisé semble bien présenter ce que les adolescents interprètent comme une image miroir fiable d'eux-mêmes , et qu'ils apprécient beaucoup l'expérience de voir ce reflet sur les médias sociaux.
Les adolescents avec lesquels nous avons discuté disent préférer un réseau social entièrement personnalisé, reflétant leurs opinions, ce qu'ils veulent voir et, par conséquent, qui ils sont.
Si je recherche quelque chose d'important pour moi, cela apparaîtra parmi les publications les plus populaires [et] cela montrera, par exemple, des gens [comme moi] qui ont une discussion intéressante.
Il s'avère que les adolescents que nous avons interrogés pensent que les algorithmes des réseaux sociaux comme celui de TikTok sont devenus si performants qu'ils perçoivent leur reflet sur ces plateformes comme très fidèle. À tel point qu'ils ont tendance à attribuer les incohérences entre le contenu publié et leur image de soi à des anomalies – par exemple, une interaction involontaire avec du contenu ancien, ou un simple bug.
À un moment donné, j'ai vu quelque chose à propos de cette émission, peut-être sur TikTok, et j'ai interagi avec sans m'en rendre compte.
Lorsque le contenu personnalisé ne leur convient pas ou ne correspond pas à l'image qu'ils ont d'eux-mêmes, les adolescents que nous avons interrogés disent le faire défiler sans s'arrêter, espérant ne plus jamais le revoir. Même lorsque ces anomalies perçues prennent la forme de contenus hypermasculins extrêmes ou « déplaisants », les adolescents ne les attribuent à aucun élément spécifique les concernant, et ne prétendent pas non plus chercher d'explication dans leurs propres comportements. D'après les adolescents interrogés, le reflet des réseaux sociaux ne les rend pas plus introspectifs ni ne remet en question leur perception d'eux-mêmes.
Ce qui nous a surpris, c'est que si les adolescents savent que leur fil d'actualité « Pour toi » est le fruit de leurs habitudes de navigation sur les réseaux sociaux, ils ignorent ou ne se soucient guère du fait que les données collectées par ces applications contribuent à la construction de leur image d'eux-mêmes. Quoi qu'il en soit, ils ne perçoivent pas leur fil d'actualité « Pour toi » comme une remise en question de leur estime de soi, encore moins comme un risque pour leur identité ; ni, d'ailleurs, comme un motif d'inquiétude.
Façonner l'identité
Les recherches sur l'identité ont beaucoup évolué depuis que le sociologue Erving Goffman a proposé le concept de « présentation de soi » en 1959. Il a postulé que les individus gèrent leur identité par le biais de la performance sociale afin de maintenir un équilibre entre qui ils pensent être et la façon dont les autres les perçoivent.
Lorsque Goffman a proposé sa théorie, aucune interface de médias sociaux n'existait pour offrir un aperçu direct de soi tel que perçu par autrui. Les individus étaient alors contraints de construire leur propre image, une mosaïque issue de sources, de rencontres et d'impressions multiples. Ces dernières années, les algorithmes de recommandation des médias sociaux se sont immiscés dans ce qui est devenu une négociation tripartite entre l'individu, le public et l'algorithme du média.
Les contenus « pour toi » créent un espace à la fois privé et public où les adolescents peuvent accéder à ce qu'ils perçoivent comme un test globalement fidèle de leur image d'eux-mêmes. Parallèlement, ils affirment pouvoir facilement l'ignorer s'il semble contredire cette image.
Le pacte que les adolescents concluent avec les réseaux sociaux, échangeant des données personnelles et renonçant à leur vie privée pour accéder à ce miroir algorithmique, leur semble un bon compromis. Ils se présentent comme capables de se déconnecter ou de passer outre les contenus recommandés qui semblent contredire leur image d'eux-mêmes, mais les recherches démontrent le contraire .
En réalité, ils se sont révélés extrêmement vulnérables à la distorsion de l'image de soi et à d'autres problèmes de santé mentale, en raison des algorithmes des médias sociaux explicitement conçus pour créer et récompenser les hypersensibilités, les fixations et la dysmorphie – un trouble mental où les personnes sont obsédées par leur apparence.
Compte tenu de ce que les chercheurs savent du cerveau adolescent et de ce stade de développement social – et compte tenu de ce que l'on peut raisonnablement supposer quant à la malléabilité de l'image de soi en fonction des réactions sociales – les adolescents ont tort de croire qu'ils peuvent ignorer les risques liés à l'identité de soi que représentent les algorithmes.
Contenu de nos partenaires
Interventions
Une des solutions pourrait consister à développer de nouveaux outils d'intelligence artificielle pour détecter les interactions dangereuses tout en protégeant la vie privée. Une autre approche consiste à aider les adolescents à réfléchir à ces « doubles numériques » qu'ils ont construits.
Mes collègues et moi étudions actuellement plus en profondeur la manière dont les adolescents perçoivent les contenus algorithmiques et les types d'interventions susceptibles de les aider à y réfléchir. Nous encourageons les chercheurs de notre domaine à concevoir des méthodes permettant de remettre en question la fiabilité des algorithmes et de démontrer qu'ils reflètent des comportements et non des réalités. Une autre piste de solution consiste à fournir aux adolescents des outils pour limiter l'accès à leurs données, notamment en limitant les cookies, en créant différents profils de recherche et en désactivant la géolocalisation lors de l'utilisation de certaines applications.
Nous pensons que toutes ces étapes sont susceptibles de réduire la précision des algorithmes, créant ainsi une friction indispensable entre l'algorithme et l'utilisateur, même si les adolescents ne sont pas forcément satisfaits des résultats.
Impliquer les enfants
Récemment, mes collègues et moi avons animé un atelier pour la génération Z avec des jeunes d' Encode Justice , une organisation internationale de lycéens et d'étudiants qui militent pour une IA sûre et équitable. L'objectif était de mieux comprendre leur vision de leur vie à l'ère des algorithmes et de l'IA. Les membres de la génération Z se disent préoccupés, mais aussi désireux de participer à la construction de leur avenir, notamment en atténuant les effets néfastes des algorithmes. Un des objectifs de notre atelier était de sensibiliser le public à la nécessité, pour les adolescents, de mener des recherches sur les algorithmes et leurs conséquences, et de les encourager.
Les chercheurs sont également confrontés au fait que nous ignorons ce que signifie réellement négocier constamment son identité avec un algorithme. Nombre d'entre nous qui étudions les adolescents sommes trop âgés pour avoir grandi dans un monde modéré par des algorithmes. Pour les adolescents que nous étudions, il n'y a pas de « avant l'IA ».
Je crois qu'il est périlleux d'ignorer l'influence des algorithmes. L'avenir des adolescents peut reposer sur une société qui reconnaît la relation particulière qu'ils entretiennent avec les réseaux sociaux. Cela implique de les associer à la recherche de solutions, tout en leur apportant un soutien.
Nora McDonald, professeure adjointe en technologies de l'information à l'université George Mason .
Cet article est republié de The Conversation sous licence Creative Commons. Lire l' article original .
