Como a assustadora engrenagem das redes ameaça a saúde e a democracia

Há muito em comum entre o americano Tristan Harris, de 36 anos, e os típicos desbravadores da tecnologia que fizeram a fama do Vale do Silício, na Califórnia. Harris estudou ética aplicada à ciência da computação em Stanford, de onde saiu a maior parte deles. Essa turma é da mesma geração que produziu Mark Zuckerberg, dono do Facebook, e lá pelo meio da primeira década do milênio compartilhava o idealismo de mudar o mundo por meio da internet. “Sonhávamos em usar a tecnologia para o bem, preocupados em gerar um impacto social positivo”, contou Harris a VEJA, em entrevista exclusiva por videoconferência. Hoje, sobrou só uma lembrança idílica disso. Em O Dilema das Redes, documentário que é a nova sensação da Netflix no Brasil e no exterior, a enorme decepção pessoal dele com os rumos do setor digital funciona como um alerta com implicações para toda a humanidade: as mesmas redes sociais que trouxeram possibilidades revolucionárias agora se revelam uma ameaça em várias frentes, da sanidade mental dos jovens à democracia dos países.

Como narra no filme, Harris trabalhava no Google em 2013 na função de consultor ético das novas ferramentas criadas pela empresa quando passou a se incomodar com a obsessão de seus pares em tornar a navegação em sites e e-mails cada vez mais viciante. Daí nasceu um manifesto-de­sabafo em que pedia responsabilidade social à elite do ramo — algumas dezenas de profissionais de 20 a 35 anos que concebiam ferramentas capazes de impactar a vida de bilhões no planeta. O manifesto circulou, ganhou elogios, foi levado a um dos donos do Google, Larry Page. Harris achou que estava fazendo uma revolução. Mas nada de concreto aconteceu. Ele sairia da empresa dois anos depois, para se converter naquilo que já foi descrito como a “consciência” do Vale do Silício: um ativista que luta contra as ameaças embutidas no uso abusivo das redes sociais à frente do Center for Humane Technology, instituto que criou em 2013 para aprofundar esse debate e provocar mudanças. “Percebi que você não pode mudar o sistema de dentro dele”, afirma (confira a entrevista na pág. 64).

Harris é o personagem central, mas nem de longe o único atrativo de uma produção que chegou para causar incômodo e controvérsia. O Dilema das Redes ganhou atenção mundial ao estrear no cardápio da Netflix, em 9 de setembro. Em questão de duas semanas, o documentário chegou ao primeiro lugar da plataforma na Índia, ao segundo nos Estados Unidos, e ao quinto na Inglaterra — e também galgou o Top 10 da Netflix no Brasil. O filme, dirigido por Jeff Orlowski, é também um campeão de repercussão. Entre americanos e europeus, desencadeou correntes de pessoas que, indignadas com os pormenores da sanha manipulativa das redes, anunciaram sua saída do Twitter e do Facebook. No Brasil, provocou comentários de famosos e políticos nas redes. Ironicamente, seu sucesso pode ser medido pela repercussão nas redes — o Instagram registrou quase 300 000 interações por aqui relacionadas ao filme nos últimos dias.

Tanto barulho é compreensível: nunca se viu um raio X tão profundo e devastador das ferramentas que na última década se impuseram como parte quase indissociável não só da rotina, mas da própria relação dos seres humanos com o mundo. Sua força vem das fontes que descrevem e opinam com contundência sobre o modus operandi dos gigantes das redes sociais. Ao lado de Harris, uma dezena de outros executivos com o conhecimento de causa de quem ocupou cargos estratégicos numa constelação que vai do Facebook ao Twitter, do Instagram ao Pinterest, dá depoimentos francos, instrutivos e estarrecedores. A certa altura, o documentarista pergunta qual o maior temor que o uso das redes provoca em um de seus entrevistados, Tim Kendall, que foi presidente da rede de compartilhamento de imagens Pinterest e diretor de monetização do Facebook. A resposta é perturbadora: “No curto prazo, uma guerra civil”.

Até chegar a esse ápice dramático, no entanto, O Dilema das Redes vai pintando um panorama preciso e extremamente acessível a qualquer pessoa, mesmo para quem não é versado nos desvãos da tecnologia, sobre a verdadeira natureza dos serviços que hoje fazem a cabeça de bilhões no mundo — e em especial dos brasileiros. Recentemente, a consultoria britânica GlobalWebIndex mostrou que o país é o terceiro em uso de redes sociais em um ranking de 46 nações. Por dia, os brasileiros passam, em média, três horas e 38 minutos conectados nesse tipo de conteúdo, atrás apenas das Filipinas e da Nigéria.

O documentário começa reconhecendo as óbvias razões do apreço das pessoas pelas redes. Seu surgimento, no raiar do milênio, produziu uma revolução bem-vinda e sem precedente na forma como as pessoas se relacionam: famílias e amigos havia muito distantes se reencontraram no Facebook; das campanhas de doação de órgãos à explosão dos grupos que unem gente de todo o mundo com interesses comuns, as redes abriram possibilidades até então inimagináveis de interação. Mais que tudo, deram a milhões de anônimos a chance de, pela primeira vez na história, expressar opiniões. Isso tudo não tem preço? Tem, sim, e ele é altíssimo, como demonstra O Dilema das Redes. “As redes trouxeram um maior espaço para vozes que antes não tinha acesso à mídia tradicional. Mas junto com essa ampliação vieram também a polarização, os discursos de ódio e as fake news, que passaram a ser uma ameaça à democracia”, diz o cientista político Filipe Campello, da Universidade Federal de Pernambuco.

A produção de Jeff Orlowski expõe as raízes do problema valendo-se de um formato original: não é propriamente um documentário, mas um docudrama, híbrido de conteúdo jornalístico, como entrevistas e imagens de arquivo, com recursos de encenação da realidade. Recorre-se a atores para narrar de forma didática o impacto das redes na vida de uma típica família de classe média americana. O recurso também é usado para produzir uma alegoria sobre o modo de funcionar dos algoritmos — as ferramentas de inteligência artificial que interpretam e se antecipam aos desejos das pessoas nas redes. É um expediente que simplifica bastante as coisas, e por isso logo foi brandido pelos críticos como prova de que o filme seria tendencioso e alarmista. Mas, na verdade, a encenação só confirma o contrário: O Dilema das Redes já nasce como uma iniciativa memorável por seu esforço esclarecedor em reunir constatações e conceitos que já estavam no ar para tecer uma tradução perfeita — e perturbadora — de um fenômeno no qual estamos mergulhados até o pescoço, sem nos dar conta dos riscos.

A partir de uma constatação óbvia, porém muitas vezes esquecida, a de que Facebook, Instagram, Twitter, YouTube e companhia não estão primariamente interessados no bem-estar das pessoas ou países, mas em obter lucro, o filme mostra como essas companhias não medem artifícios para manter as pessoas conectadas pelo maior tempo possível. Como eles ganham dinheiro, se são gratuitos?, questiona o documentário. A resposta é: eles vendem a seus anunciantes a possibilidade de atingir você, o usuário que navega ali despreocupado. É como diz um jargão das empresas de tecnologia: “Se você não está pagando pelo produto, você é o produto”. Na verdade, explica no filme o guru da tecnologia Jaron Lanier, o produto é algo mais sutil: a gradativa, leve e imperceptível mudança em nosso comportamento e percepção operada pelas redes. “Esta é a forma de eles ganharem: mudar o que você faz, o que você pensa, quem você é”, pondera Lanier. As consequências desse modelo de negócio são avassaladoras para a vida humana. No afã de serem cada vez mais eficientes na tarefa de prender a atenção dos usuários, as redes sociais se valem de seus eficientes algoritmos para rastrear a vida, os gostos e opiniões das pessoas num nível que faz o Grande Irmão de George Orwell parecer um anãozinho. “Muitos pensam no dia em que a inteligência artificial dominará os humanos. Esse dia já chegou — são as redes sociais”, disse a VEJA o diretor Jeff Orlowski.

Nosso cérebro, que levou milhares de anos para adquirir sua excepcional capacidade de processamento e raciocínio, agora tem de competir com supercomputadores que usam um volume colossal de informação para perpetrar a tarefa de nos influenciar, manipular e prender. Para tanto, as redes recorrem a truques de persuasão psicológica que exploram desejos e medos atávicos, e de eficácia tão cirúrgica quanto imperceptível. Há fatores que assemelham o vício em redes sociais à dependência em drogas. Vários estudos mostraram, por meio do monitoramento do cérebro com ressonância magnética durante o uso das redes, que o fato frugal de dar ou receber likes ativa a área do córtex relacionada à sensação de recompensa, liberando no organismo uma torrente de dopamina, neurotransmissor ligado ao prazer e ao bem-estar. O vício nas redes tem uma agravante em relação a outros: sua ação silenciosa. “Vivemos em ambientes permissivos ao uso do celular, então é mais difícil perceber quando alguém está com problemas”, diz a psiquiatra Carolina Hanna, do Núcleo de Álcool e Drogas do Hospital Sírio-­Libanês, em São Paulo.

O Dilema das Redes elenca os efeitos deletérios dessa dependência sobre a vida pessoal. As vítimas principais são os jovens da chamada Geração Z, que nasceram a partir de 1996 e já cresceram imersos na fissura das curtidas. A produção da Netflix alerta para o aumento na taxa de suicídios entre meninas americanas quando as redes sociais se tornaram amplamente disponíveis por meio de smartphones. Entre 2011 e 2018, o número de suicídios cresceu 150% entre garotas de 10 a 14 anos. O narcisismo inerente às redes fez surgir até novos distúrbios, como a “dismorfia do Snapchat” — tentativa das meninas de mudar o corpo para se adequar ao padrão característico das fotos naquela plataforma.

No plano coletivo, o impacto das redes não é menos preocupante. Ao permitirem e estimularem a customização da vida social conforme os anseios (e suscetibilidades) de cada usuário, elas criaram bolhas de realidade peculiares, que não se comunicam entre si. As pessoas passaram a viver a ilusão de um Matrix personalizado: cada um agora vive em seu mundo próprio, onde interagem só com quem comunga das mesmas opiniões, preocupações e, não raro, pirações. Não é difícil adivinhar aonde isso nos levou: a um mundo em que a crença em maluquices como o terraplanismo se exibe sem pudor e em que a polarização atinge níveis tóxicos e perigosos. A democracia é, obviamente, a vítima em potencial da história. As fake news destroem reputações, influenciam de forma suja os processos eleitorais e circulam em uma velocidade seis vezes maior do que as notícias verdadeiras (como lembra o documentário, os boatos e teorias conspiratórias são sempre mais chamativos do que o mundo em preto e branco da realidade). Num caso trágico, a veiculação de conteúdo odioso no Facebook levou ao massacre da minoria muçulmana em Mianmar, em 2018. O submundo das redes influenciou o Brexit, a eleição de Trump nos Estados Unidos e — como destaca o filme — de Jair Bolsonaro no Brasil.

O uso delas como instrumento de mobilização política em larga escala surgiu por aqui durante as manifestações de 2013. A maioria dos atos foi organizada pelo Facebook e divulgada em tempo real no Twitter. A utilização da internet ampliou sua importância na disputa presidencial de 2018, já sob a sombra da desconfiança. Principal ferramenta de campanha de Bolsonaro, passou a ser vista como fator de distorção, em razão das suspeitas sobre o uso massivo de robôs e de fake news — que ainda são alvo de análise no Tribunal Superior Eleitoral. Empossado, Bolsonaro reforçou o uso das redes sociais como ferramenta política ao transformá-las em uma espécie de canal oficial de veiculação dos acontecimentos do governo e das suas opiniões sobre temas variados. Até aí, tudo bem. O problema é que um pedaço de sua militância utiliza esses canais, às vezes com o apoio do próprio presidente, para mobilizar atos contra a democracia, agredir personagens de outros poderes da República, distribuir insultos, mentiras e toda sorte de baixarias digitais contra adversários. Hoje, o clima no país está mais calmo e Bolsonaro parece menos engajado nesse processo, mas, para os especialistas, é preciso estar alerta, pois o papel desempenhado pelas redes sociais tende a ser ainda maior nas eleições deste ano, até em razão da pandemia do novo coronavírus, que deve limitar a campanha de rua. “As instituições até estão mais atentas a isso, mas não estão equipadas para acompanhar, ainda mais numa eleição em que tudo é resolvido em tempo real”, afirma Marco Aurélio Ruediger, diretor de Análise de Políticas Públicas na Fundação Getulio Vargas (FGV).

Como o caso brasileiro ensina, o combate às fake news, ao ódio e à manipulação das opiniões é árduo, e o mesmo vale para outras ameaças que vêm de roldão nos prazeres das redes sociais. O mundo ainda busca medidas capazes de corrigir os rumos da babel digital — antes que seja tarde. Pressionadas, as próprias empresas de tecnologia começam a se mexer, anunciando mudanças para conter a disseminação de notícias falsas e de discursos de ódio. Deletar posts considerados impróprios e cancelar contas de robôs fazem parte desse grupo de ações (o ditador venezuelano Nicolás Maduro e Bolsonaro foram os primeiros líderes mundiais a ser atingidos pela “malha-fina” de bloqueio do Twitter por publicar conteúdos que põem as pessoas em risco durante a pandemia do coronavírus). Na visão dos especialistas no assunto, a despeito de alguns avanços, o movimento dos gigantes da tecnologia é ainda muito tímido e a lentidão de respostas está relacionada diretamente à falta de uma maior regulação sobre a atividade dessas companhias (procurados por VEJA, Facebook, Twitter, Instagram e Google não quiseram comentar especificamente o Dilema das Redes). Para Tristan Harris, a sociedade precisa continuar pressionando as empresas, mas as ações individuais precisam caminhar junto, com a disposição de cada um em impor limites à invasão de sua vida e filtrar as informações confiáveis em meio ao esgoto das fakes news. “É assustador lidar com uma máquina que dissemina mentiras mais rapidamente que a verdade. As lideranças do jornalismo têm de se unir para restabelecer a confiança nos fatos”, diz Orlowski. As palavras do grego Sófocles, que abrem o documentário, resumem bem o tamanho da tarefa: “Nada que é vasto entra na vida dos mortais sem trazer uma maldição”.

Com reportagem de José Benedito, Mariana Rosário, Raquel Carneiro e Felipe Branco Cruz

Publicado em VEJA de 30 de setembro de 2020, edição nº 2706