Las aplicaciones de redes sociales presentan regularmente a los adolescentes contenido seleccionado algorítmicamente, a menudo descrito como "para ti", lo que sugiere, por implicación, que el contenido seleccionado no es solo "para ti" sino también "sobre ti": un espejo que refleja señales importantes sobre la persona que eres.
Todos los usuarios de las redes sociales están expuestos a estas señales, pero los investigadores comprenden que los adolescentes se encuentran en una etapa especialmente flexible en la formación de su identidad personal. Los académicos han comenzado a demostrar que la tecnología está teniendo efectos generacionales , no solo en la forma en que influye en la perspectiva cultural, el comportamiento y la privacidad, sino también en cómo puede moldear la personalidad de quienes se han criado en las redes sociales.
La prevalencia del mensaje “para ti” plantea preguntas importantes sobre el impacto de estos algoritmos en cómo los adolescentes se perciben a sí mismos y ven el mundo, y la sutil erosión de su privacidad, que aceptan a cambio de esta visión.
A los adolescentes les gusta su reflexión algorítmica
Inspirados por estas preguntas, mis colegas John Seberger y Afsaneh Razi de la Universidad de Drexel y yo nos preguntamos: ¿Cómo navegan los adolescentes en este entorno generado algorítmicamente y cómo se reconocen en el espejo que éste presenta?
En nuestro estudio de entrevistas cualitativas con adolescentes de 13 a 17 años, descubrimos que el contenido algorítmico personalizado parece presentar lo que los adolescentes interpretan como una imagen especular confiable de sí mismos y que les gusta mucho la experiencia de ver ese reflejo en las redes sociales.
Los adolescentes con los que hablamos dicen que prefieren una red social completamente personalizada para ellos, que muestre aquello con lo que están de acuerdo, lo que quieren ver y, por tanto, quiénes son.
Si busco algo que es importante para mí, aparecerá como una de las publicaciones principales y se mostrarán personas [como yo] que están teniendo una buena discusión.
Resulta que los adolescentes que entrevistamos creen que los algoritmos de redes sociales como TikTok han mejorado tanto que consideran que su propia imagen en las redes sociales es bastante precisa. Tanto es así que se apresuran a atribuir las inconsistencias del contenido con su autoimagen como anomalías, por ejemplo, resultado de una interacción involuntaria con contenido anterior o simplemente un fallo técnico.
En algún momento vi algo sobre ese programa, tal vez en TikTok, e interactué con él sin darme cuenta.
Cuando el contenido personalizado no les resulta agradable ni concuerda con su autoimagen, los adolescentes entrevistados afirman que lo ignoran, con la esperanza de no volver a verlo. Incluso cuando estas anomalías percibidas se manifiestan como contenido extremadamente hipermasculino o "desagradable", los adolescentes no lo atribuyen a nada específico de sí mismos ni afirman buscar una explicación en sus propios comportamientos. Según los adolescentes entrevistados, el espejo de las redes sociales no los hace más introspectivos ni cuestiona su autoestima.
Algo que nos sorprendió fue que, si bien los adolescentes eran conscientes de que lo que ven en su sección "Para ti" es producto de sus hábitos de navegación en redes sociales, en gran medida ignoran o no les preocupa que los datos recopilados en las aplicaciones contribuyan a esta autoimagen. En cualquier caso, no ven su sección "Para ti" como un desafío a su identidad, y mucho menos como un riesgo para ella; ni, de hecho, como motivo de preocupación.
Dando forma a la identidad
La investigación sobre la identidad ha avanzado mucho desde que el sociólogo Erving Goffman propuso la “ presentación del yo ” en 1959. Postuló que las personas gestionan sus identidades a través del desempeño social para mantener el equilibrio entre quiénes creen que son y cómo los perciben los demás.
Cuando Goffman propuso su teoría, no existía una interfaz en redes sociales que ofreciera un reflejo práctico de la propia experiencia de los demás. Las personas se veían obligadas a crear su propia imagen en mosaico, derivada de múltiples fuentes, encuentros e impresiones. En los últimos años, los algoritmos de recomendación de redes sociales se han insertado en lo que ahora es una negociación a tres bandas entre el yo, el público y el algoritmo de redes sociales.
Las ofertas "Para ti" crean un espacio público-privado a través del cual los adolescentes pueden acceder a lo que consideran una prueba, en gran medida precisa, de su autoimagen. Al mismo tiempo, afirman que pueden ignorarlo fácilmente si parece contradecir esa autoimagen.
El pacto que los adolescentes hacen con las redes sociales, intercambiando datos personales y renunciando a la privacidad para asegurar el acceso a ese espejo algorítmico, les parece un buen negocio. Se presentan como personas capaces de ignorar o ignorar con confianza el contenido recomendado que parece contradecir su identidad, pero las investigaciones demuestran lo contrario .
De hecho, han demostrado ser muy vulnerables a la distorsión de la autoimagen y otros problemas de salud mental basados en algoritmos de redes sociales diseñados explícitamente para crear y recompensar hipersensibilidades, fijaciones y dismorfia, un trastorno de salud mental en el que las personas se fijan en su apariencia.
Teniendo en cuenta lo que los investigadores saben sobre el cerebro adolescente y esa etapa del desarrollo social –y teniendo en cuenta lo que puede suponerse razonablemente sobre la maleabilidad de la autoimagen basada en la retroalimentación social– los adolescentes se equivocan al creer que pueden eludir los riesgos de autoidentidad que plantean los algoritmos.
Intervenciones
Parte de la solución podría ser desarrollar nuevas herramientas que utilicen inteligencia artificial para detectar interacciones inseguras y, al mismo tiempo, proteger la privacidad. Otro enfoque consiste en ayudar a los adolescentes a reflexionar sobre estos "dobles de datos" que han construido.
Mis colegas y yo estamos explorando más a fondo cómo los adolescentes experimentan el contenido algorítmico y qué tipos de intervenciones pueden ayudarlos a reflexionar sobre él. Animamos a los investigadores de nuestro campo a diseñar maneras de cuestionar la precisión de los algoritmos y a exponerlos como reflejos de comportamientos, en lugar de serlo. Otra solución podría consistir en dotar a los adolescentes de herramientas para restringir el acceso a sus datos, como limitar las cookies, tener diferentes perfiles de búsqueda y desactivar la ubicación al usar ciertas aplicaciones.
Creemos que todos estos son pasos que probablemente reducirán la precisión de los algoritmos, creando una fricción muy necesaria entre el algoritmo y ellos mismos, incluso si los adolescentes no están necesariamente contentos con los resultados.
Involucrar a los niños
Recientemente, mis colegas y yo realizamos un taller para la Generación Z con jóvenes de Encode Justice , una organización global de estudiantes de secundaria y universitarios que aboga por una IA segura y equitativa. El objetivo era comprender mejor cómo conciben sus vidas bajo el control de los algoritmos y la IA. Los miembros de la Generación Z afirman estar preocupados, pero también deseosos de participar en la construcción de su futuro, incluyendo la mitigación de los daños causados por los algoritmos. Parte del objetivo de nuestro taller fue visibilizar y promover la necesidad de investigaciones sobre algoritmos y sus efectos, impulsadas por adolescentes.
Lo que los investigadores también enfrentan es que desconocemos realmente qué significa negociar constantemente la identidad con un algoritmo. Muchos de quienes estudiamos a adolescentes somos demasiado mayores para haber crecido en un mundo moderado por algoritmos. Para los adolescentes que estudiamos, no existe un " antes de la IA ".
Creo que es peligroso ignorar lo que hacen los algoritmos. El futuro de los adolescentes puede ser uno en el que la sociedad reconozca la relación única entre ellos y las redes sociales. Esto implica involucrarlos en las soluciones, a la vez que se les ofrece orientación.
Nora McDonald, Profesora Adjunta de Tecnología de la Información, Universidad George Mason .
Este artículo se republica de The Conversation bajo una licencia Creative Commons. Lea el artículo original .
