Empresas abandonam reconhecimento facial por identificações equivocadas

O assassinato do americano George Floyd em uma abordagem policial despertou a urgência do combate a toda e qualquer forma de racismo. Nesse contexto, uma tecnologia que nasceu com a promessa de tornar as cidades mais seguras passou a ser amplamente contestada. Trata-se do sistema de reconhecimento facial, método de identificação de rostos que tem sido acusado não apenas de devassar a privacidade das pessoas como também de reforçar o preconceito racial. Estudos recentes mostram que negros estão mais expostos a erros cometidos por essas máquinas, correndo o risco concreto de ser submetidos à violência de certas autoridades graças a leituras equivocadas feitas pelas câmeras. Em um estudo recente, pesquisadores do Instituto de Tecnologia de Massachusetts (MIT) comprovaram que rostos mais escuros são pouco representados nos conjuntos de dados usados para “treinar” os equipamentos. A mesma pesquisa concluiu que os algoritmos classificaram as mulheres de pele escura como sendo homens em 34,7% dos casos, enquanto o índice de falhas na aferição de homens caucasianos foi inferior a 1%.

As dúvidas a respeito do uso da tecnologia estão levando inúmeras empresas a abandoná-la, congelando um mercado com potencial para movimentar 7 bilhões de dólares até 2024. A IBM foi a primeira. No início de junho, a companhia americana informou que não vai mais desenvolver ferramentas de vigilância em massa em contextos que violem os direitos e liberdades humanas — é exatamente o que ocorre agora. Na sequência, foi a vez da Amazon, empresa do bilionário Jeff Bezos, que proibiu a polícia de usar o seu software Rekognition por um ano. Na quinta-feira 11 de junho, a Microsoft se uniu às rivais e decidiu limitar o acesso das suas ferramentas ao avisar que não venderá a tecnologia até que haja uma lei federal de regulamentação.

ASSINE VEJA

Clique e Assine

O sistema da Amazon era alvo de dúvidas desde o ano passado. Em um levantamento inédito, a União Americana para as Liberdades Civis testou a assertividade do algoritmo cruzando as fotos de todos os 535 senadores e deputados federais com as imagens de 25 000 criminosos arquivadas num banco de dados. A falha foi discrepante: 28 dos legisladores foram reconhecidos como bandidos, mas nenhum dos parlamentares era foragido da Justiça. Outras pesquisas recentes constataram que máscaras de proteção como as usadas para evitar o contágio pela Covid-19 são capazes de ludibriar os sensores e suspeita-se até que lentes de contato possam fazer o mesmo. O ocaso da tecnologia de reconhecimento facial mostra que a fé cega que em geral se deposita nas inovações — supostamente desenvolvidas a partir de rigorosos preceitos técnicos — pode muitas vezes ser um grande equívoco.

Publicado em VEJA de 24 de junho de 2020, edição nº 2692