Os aplicativos de redes sociais apresentam regularmente aos adolescentes conteúdo selecionado por algoritmos, muitas vezes descrito como "para você", sugerindo, implicitamente, que o conteúdo selecionado não é apenas "para você", mas também "sobre você" – um espelho que reflete sinais importantes sobre a pessoa que você é.
Todos os usuários de redes sociais estão expostos a esses sinais, mas os pesquisadores entendem que os adolescentes estão em uma fase especialmente maleável na formação da identidade pessoal. Acadêmicos começaram a demonstrar que a tecnologia está tendo efeitos que moldam gerações , não apenas na forma como influencia a visão de mundo, o comportamento e a privacidade, mas também na maneira como pode moldar a personalidade daqueles que crescem nas redes sociais.
A prevalência da mensagem "para você" levanta questões importantes sobre o impacto desses algoritmos na forma como os adolescentes se percebem e enxergam o mundo, e sobre a sutil erosão de sua privacidade, que eles aceitam em troca dessa visão.
Adolescentes gostam de seu reflexo algorítmico
Inspirados por essas questões, meus colegas John Seberger e Afsaneh Razi, da Universidade Drexel, e eu nos perguntamos: como os adolescentes estão se adaptando a esse ambiente gerado por algoritmos e como eles se reconhecem no espelho que ele apresenta?
Em nosso estudo qualitativo com entrevistas de adolescentes de 13 a 17 anos, descobrimos que o conteúdo algorítmico personalizado parece apresentar o que os adolescentes interpretam como uma imagem espelhada confiável de si mesmos , e que eles gostam muito da experiência de ver esse reflexo nas redes sociais.
Os adolescentes com quem conversamos disseram que preferem uma rede social completamente personalizada para eles, que reflita aquilo com que concordam, o que querem ver e, portanto, quem são.
Se eu pesquisar algo que seja importante para mim, isso aparecerá como uma das principais postagens [e] mostrará, tipo, pessoas [como eu] que estão tendo uma boa discussão.
Descobrimos que os adolescentes que entrevistamos acreditam que os algoritmos das redes sociais, como o TikTok, se tornaram tão bons que eles veem seus reflexos nas redes sociais como bastante precisos. Tanto que os adolescentes atribuem rapidamente as inconsistências de conteúdo com sua autoimagem a anomalias – por exemplo, o resultado de interação inadvertida com conteúdo antigo ou apenas uma falha técnica.
Em algum momento, vi algo sobre esse programa, talvez no TikTok, e interagi com ele sem perceber.
Quando o conteúdo personalizado não é agradável ou não condiz com a autoimagem que possuem, os adolescentes entrevistados dizem que simplesmente o ignoram, na esperança de nunca mais vê-lo. Mesmo quando essas anomalias percebidas se apresentam na forma de conteúdo extremamente hipermasculino ou "desagradável", os adolescentes não atribuem isso a nada específico sobre si mesmos, nem afirmam buscar explicações em seus próprios comportamentos. De acordo com os adolescentes entrevistados, o reflexo das redes sociais não os torna mais reflexivos nem desafia sua autoimagem.
Uma coisa que nos surpreendeu foi que, embora os adolescentes soubessem que o que veem no feed "Para você" é produto de seus hábitos de navegação nas redes sociais, eles geralmente desconhecem ou não se preocupam com o fato de que esses dados coletados em diferentes aplicativos contribuem para a formação de sua autoimagem. Mesmo assim, eles não veem o feed "Para você" como um desafio à sua autoestima, muito menos como um risco à sua identidade – nem, aliás, como motivo de preocupação.
Moldando a identidade
A pesquisa sobre identidade percorreu um longo caminho desde que o sociólogo Erving Goffman propôs a “ apresentação do eu ” em 1959. Ele postulou que as pessoas gerenciam suas identidades por meio da performance social para manter o equilíbrio entre quem elas pensam ser e como os outros as percebem.
Quando Goffman propôs sua teoria pela primeira vez, não havia nenhuma interface de mídia social disponível para servir como um espelho prático do eu tal como percebido pelos outros. As pessoas eram obrigadas a criar sua própria imagem em mosaico, derivada de múltiplas fontes, encontros e impressões. Nos últimos anos, os algoritmos de recomendação das mídias sociais se inseriram no que agora é uma negociação tripartite entre o eu, o público e o algoritmo da mídia social.
As ofertas "Para você" criam um espaço público-privado por meio do qual os adolescentes podem acessar o que consideram um teste bastante preciso de sua autoimagem. Ao mesmo tempo, afirmam que podem ignorá-lo facilmente se parecer contradizer essa autoimagem.
O pacto que os adolescentes fazem com as redes sociais, trocando dados pessoais e abrindo mão da privacidade para garantir acesso a esse espelho algorítmico, parece-lhes um bom negócio. Eles se consideram confiantes em ignorar ou passar por cima de conteúdos recomendados que parecem contradizer sua própria identidade, mas pesquisas mostram o contrário .
Eles demonstraram, de fato, ser altamente vulneráveis à distorção da autoimagem e a outros problemas de saúde mental, com base em algoritmos de mídias sociais explicitamente projetados para criar e recompensar hipersensibilidades, fixações e dismorfia – um transtorno mental em que as pessoas se fixam em sua aparência.
Considerando o que os pesquisadores sabem sobre o cérebro adolescente e essa fase do desenvolvimento social – e considerando o que se pode razoavelmente presumir sobre a maleabilidade da autoimagem com base no feedback social – os adolescentes estão enganados ao acreditar que podem ignorar os riscos à autoidentidade representados pelos algoritmos.
Conteúdo de nossos parceiros
Intervenções
Parte da solução poderia ser o desenvolvimento de novas ferramentas usando inteligência artificial para detectar interações inseguras, protegendo também a privacidade. Outra abordagem seria ajudar os adolescentes a refletirem sobre esses "duplos de dados" que construíram.
Meus colegas e eu estamos agora explorando mais profundamente como os adolescentes vivenciam o conteúdo algorítmico e que tipos de intervenções podem ajudá-los a refletir sobre isso. Encorajamos os pesquisadores da nossa área a desenvolverem maneiras de questionar a precisão dos algoritmos e expô-los como reflexo de comportamentos, e não como seres reais. Outra parte da solução pode envolver fornecer aos adolescentes ferramentas para restringir o acesso aos seus dados, incluindo a limitação de cookies, a criação de perfis de busca diferentes e a desativação da localização ao usar determinados aplicativos.
Acreditamos que todas essas medidas provavelmente reduzirão a precisão dos algoritmos, criando o atrito necessário entre o algoritmo e o indivíduo, mesmo que os adolescentes não fiquem necessariamente satisfeitos com os resultados.
Envolver as crianças
Recentemente, meus colegas e eu realizamos um workshop com jovens da Geração Z da Encode Justice , uma organização global de estudantes do ensino médio e universitários que defendem uma IA segura e equitativa. O objetivo era entender melhor como eles pensam sobre suas vidas sob a influência de algoritmos e IA. Os jovens da Geração Z dizem estar preocupados, mas também ansiosos para participar da construção do seu futuro, incluindo a mitigação dos danos causados pelos algoritmos. Parte do objetivo do nosso workshop foi chamar a atenção para a necessidade de investigações sobre algoritmos e seus efeitos, conduzidas por adolescentes, e fomentar esse incentivo.
O que os pesquisadores também estão enfrentando é que, na verdade, não sabemos o que significa negociar constantemente a identidade com um algoritmo. Muitos de nós que estudamos adolescentes somos velhos demais para termos crescido em um mundo moderado por algoritmos. Para os adolescentes que estudamos, não existe um " antes da IA ".
Acredito que seja perigoso ignorar o que os algoritmos estão fazendo. O futuro dos adolescentes pode ser um em que a sociedade reconheça a relação única entre eles e as redes sociais. Isso significa envolvê-los nas soluções, sem deixar de oferecer orientação.
Nora McDonald, Professora Assistente de Tecnologia da Informação, Universidade George Mason .
Este artigo foi republicado do The Conversation sob uma licença Creative Commons. Leia o artigo original .
