Instabilidade no Facebook revelou como a IA classifica fotos de usuários

As plataformas do Facebook, incluindo WhatsApp e Instagram, apresentaram problemas em processar envios de mídia e de carregamento de arquivos ontem, quarta-feira 3. Na mesma noite, o problema já havia sido resolvido. Contudo, ao longo do dia os usuários puderam ver no Facebook, ao invés de imagens no feed, parte do “segredo” por de trás da identificação de fotos feita pela inteligencia artificial da rede social.

Ao navegar pelas fotos da timeline era possível ler um texto informando palavras chaves como “Imagem pode conter uma ou mais pessoas”. Em resumo: mostrava como o mundo real se parece para um computador. O mesmo bug aconteceu no Instagram e, além de detalhar cenas gerais e descrições de objetos, também indicavam, com base no reconhecimento facial do Facebook, quem estava em uma foto (mesmo que este não tenha sido marcado manualmente por algum usuário).

A empresa justifica que tal aprendizado de máquina, capaz de “ler” imagens dessa forma, faz parte do sistema de acessibilidade implementado em 2016. As tags seriam usadas para descrever fotos e vídeos para usuários com deficiências visuais.

Não existem indicações de que o Facebook também use essas informações para segmentar anúncios. Mas há muitos dados sobre a vida dos usuários contidos nas imagens e que, em tese, poderiam ser usados para tal fim.