Governo cita polêmica do Pix e pede que STF obrigue redes a monitorarem IA

A Advocacia-Geral da União (AGU) apresentou ao Supremo Tribunal Federal (STF) um pedido para que, quando a Corte julgar as ações sobre responsabilidade das redes sociais, estabeleça na tese final do julgamento que as plataformas também têm responsabilidade de monitorar o mau uso de ferramentas de inteligência artificial.

Para justificar o pedido, o AGU, Jorge Messias, mencionou desinformação produzida durante a polêmica do Pix, no começo deste ano. “As peças publicitárias fraudulentas analisadas ofertavam programas governamentais reais e fictícios, passando-se por páginas de instituições públicas ou privadas, por meio da manipulação da imagem de lideranças políticas com Inteligência Artificial (IA), ao permitir a adulteração de falas ou a descontextualização de reportagens antigas para legitimar golpes”, dizem as manifestações que a AGU apresentou.

Ao todo, há cinco ações andando juntas no STF sobre a responsabilidade das redes. Elas estão paralisadas por conta de um pedido de vista feito pelo ministro André Mendonça no final de 2024.

A AGU menciona um trabalho do Laboratório de Estudos de Internet e Redes Sociais da Universidade Federal do Rio de Janeiro (Netlab-UFRJ), que levantou “1.770 anúncios com conteúdo fraudulento que promoviam golpes e informações falsas sobre valores a receber pela população e outros temas relacionados às novas regras de envio de informações de transações via Pix à Receita Federal”, apenas entre os dias 10 e 21 de janeiro deste ano, quando a polêmica do Pix tomou conta das redes. Alguns alvos dos deepfakes produzidos foram o ministro da Fazenda, Fernando Haddad, e o presidente Luiz Inácio Lula da Silva.

Em um dos pareceres, para justificar a obrigatoriedade de que as plataformas de redes sociais monitorem o mau uso da IA, a AGU afirma que muitas fraudes foram impulsionadas. “De acordo com o aludido estudo, o alcance das fraudes foi potencializado pela utilização de ferramentas de marketing da empresa Meta, que permitem a compra de anúncios segmentados de acordo com critérios demográficos, geográficos, conforme interesses dos anunciantes”, diz a manifestação.

A polêmica do Pix foi uma derrota para o governo Lula, que precisou voltar atrás nas novas regras de fiscalização das movimentações financeiras por conta da pressão feita por opositores — cujo ápice foi um vídeo do deputado federal Nikolas Ferreira (PL-MG), que teve mais de 300 milhões de visualizações. O governo afirma que houve uma quantidade significativa de páginas e perfis que se passaram por entidades governamentais no intuito de aplicar golpes.

• Advocacia Geral da União - AGU
• Redes Sociais
• Supremo Tribunal Federal - STF