Já passaram duas décadas desde que o Facebook lançou o Feed de Notícias , dando início a um mundo em que os algoritmos iriam moldar cada vez mais as nossas vidas.
Em 2006, o Facebook enfrentava uma espécie de crise. Os seus dados internos indicavam que, pela primeira vez desde o seu lançamento dois anos antes (tal como o TheFacebook), a empresa tinha deixado de crescer. As pessoas não estavam a registar-se e os utilizadores existentes não estavam a passar mais tempo no site.
A solução criada pelo cofundador Mark Zuckerberg e pelos seus colegas, o Feed de Notícias, permitia que as páginas iniciais dos utilizadores fossem automaticamente atualizadas com informações personalizadas para os mesmos – em particular, novas publicações adicionadas pelos seus amigos do Facebook.
Até então, os utilizadores precisavam de verificar ativamente os perfis dos seus amigos para ver o que estavam a fazer. Agora, estas informações seriam enviadas automaticamente para a sua página inicial. Com isto, nasceu um novo mundo de interação algorítmica
Pode parecer antiquado agora, mas para muitos utilizadores do Facebook na altura, estas mudanças foram sentidas como uma violação da sua privacidade e confiança. Se mudasse o seu estado de relacionamento de "num relacionamento" para "é complicado", por exemplo, isso poderia ser divulgado a todos os seus amigos online.
O Feed de Notícias provocou o primeiro grande protesto contra o Facebook. Dezenas de milhares de utilizadores juntaram-se num grupo que pedia o regresso do sistema original. Um protesto espontâneo surgiu em frente ao escritório do Facebook, na cidade de Palo Alto, na Califórnia. Pela primeira vez, a empresa sentiu a necessidade de contratar seguranças.
Zuckerberg emitiu uma espécie de pedido de desculpas, mas não recuou. O que ele e outros engenheiros do Facebook perceberam foi que, em vez de afastar as pessoas do site, o Feed de Notícias estava a gerar mais engagement, levando os utilizadores a passar cada vez mais tempo na plataforma.
Uma revolução no consumo de media
Vinte anos depois, podemos compreender este desenvolvimento como uma das mudanças sociotécnicas mais significativas de toda a revolução digital. Inaugurou uma era em que os sistemas algorítmicos estruturaram a forma como as pessoas interagiam, consumiam notícias e conduziam atividades políticas.
Fundamentalmente, para viabilizar esta nova abordagem de "impulso de conteúdo", os engenheiros do Facebook tiveram de construir uma nova arquitetura digital que transformasse o site, de uma rede social estática, num sistema algorítmico baseado na extração e análise de dados do utilizador.
Segundo os investigadores Christina Alaiamo e Jannis Kallinikos, sob este novo sistema, os utilizadores do Facebook poderiam ser "calculados com base em atividades discretas e enumeráveis", transformando-os em "objetos identificáveis, cognoscíveis e acionáveis".
O Facebook passou, assim, de um site que priorizava a interação social para um direcionado para a produção e comercialização de conhecimento. Com uma precisão crescente, compreendeu que tipo de conteúdo mantinha os utilizadores no site durante mais tempo – e que tipo de informação poderia influenciar o comportamento das pessoas fora e fora do site.
O Facebook pode agora otimizar continuamente o nível de interações sociais utilizando o seu sistema de classificação algorítmica, o Edge Rank. Com um pequeno ajuste, poderia alterar a prioridade de mensagens de amigos próximos para conteúdo que gerasse maior interação ou indignação.
Isto transferiu o poder dos utilizadores para a empresa e gerou preocupações de que os utilizadores estivessem a passar mais tempo no site do que pareciam desejar. (Eventualmente, isto levaria a uma "grande reformulação" do Feed de Notícias em 2018, com o Facebook a prometer priorizar "interações sociais significativas" em detrimento de "conteúdo relevante".)
Mas, acima de tudo, a inovação do Facebook em 2006 permitiu à empresa captar enormes quantidades de dados dos utilizadores, o que, nas duas décadas seguintes, possibilitaria a sua expansão global a uma velocidade impressionante – e a geração de vastas receitas neste processo.
Uma era algorítmica muito diferente
Vinte anos depois, a Meta, empresa-mãe do Facebook, e outras grandes plataformas tecnológicas enfrentam desafios muito mais complexos do que os protestos espontâneos nas ruas de Palo Alto. Em todo o mundo, existe uma atuação constante das instituições democráticas e dos Estados para conter o poder e os danos percecionados dos sistemas algorítmicos que surgiram a partir de 2006.
Na Austrália, é proibido o uso de plataformas de redes sociais por menores de 16 anos, podendo esta prática estar a alastrar para o Reino Unido. Entretanto, os tribunais dos EUA obrigaram a Meta a restringir o acesso das crianças aos seus produtos. Embora menos de 1% da receita do Facebook provenha de adolescentes, os precedentes estabelecidos por estes casos judiciais parecem significativos.
No entanto, também vivemos numa era algorítmica muito diferente daquela que foi anunciada pelo lançamento do Feed de Notícias há 20 anos. Embora a Meta continue a obter a maior parte das suas receitas das suas plataformas de redes sociais, que também incluem o Instagram e o WhatsApp, os investimentos recentes e os lançamentos prospetivos de produtos de IA sugerem que a sua liderança acredita que os fluxos de receitas futuros estarão amplamente ligados aos desenvolvimentos na aprendizagem automática, nos grandes modelos de linguagem e na "superinteligência".
A questão é: será que os governos e outras instituições reagirão mais rapidamente às preocupações levantadas por esta nova era do desenvolvimento da IA do que reagiram ao surgimento dos algoritmos há duas décadas? Com base em experiências passadas, isto parece improvável.
Asher Kessler, investigador associado em IA para confiança e segurança, Center for Digital Trust and Society, Universidade de Manchester.
Este artigo foi republicado do The Conversation sob uma licença Creative Commons. Leia o artigo original.
