O YouTube anunciou nesta semana que vai contratar mais funcionários para monitorar e excluir vídeos com conteúdos de violência ou extremismo. Segundo a empresa, o contingente de trabalhadores nessa área deve ultrapassar a marca de 10.000 pessoas – o YouTube não informou quantos funcionários já executam essa função hoje.

“Eu vi como indivíduos ruins estão explorando nossa abertura para enganar, manipular, assediar ou mesmo ferir”, afirmou a CEO do YouTube Susan Wojcicki em comunicado divulgado pela empresa.

Ainda segundo a plataforma, desde junho deste ano, 2 milhões de vídeos com conteúdo de violência extrema foram revisados manualmente, Neste período, mais de 150.000 vídeos com este tipo de conteúdo foram removidos.

A medida também deve ajudar no treinamento do machine learning, que trabalha em conjunto com revisores para identificar possíveis problemas. Essa tecnologia permite que robôs aprendam interativamente a partir de dados e reproduzam o comportamento ao tomar decisões.

Apesar dos esforços humanos, o machine learning é responsável por identificar 98% dos vídeos sobre extremismo violento. Desde que foi introduzido, a ferramenta já revisou e encontrou conteúdo em um volume equivalente ao trabalho de 180.000 pessoas com jornada de 40 horas semanais.

Segundo o YouTube, o machine learning também contribuiu para que os funcionários removam quase cinco vezes mais vídeos do que anteriormente. “Revisores humanos continuam sendo essenciais tanto para a remoção de conteúdo pois o julgamento deles é crítico para tomar decisões contextualizadas sobre o conteúdo”, explicou Susan.

A plataforma também vai lançar novas ferramentas para a moderação de comentários inapropriados. Segundo o YouTube, nas últimas semanas, centenas de contas e milhares de comentários foram excluídos com a ajuda de revisores humanos e machine learning.

Proteger anunciantes de conteúdo impróprio será outro objetivo do YouTube em 2018. Durante este ano, muitas marcas deixaram de veicular propagandas na plataforma após terem seus anúncios vinculados a vídeos de cunho racistas, homofóbicos ou antissemitas.

“Acreditamos que há a necessidade de uma nova forma de anunciar no YouTube, considerando cuidadosamente quais canais e vídeos são elegíveis para isso”, afirmou Susan.

Em abril, a empresa já havia anunciado mudanças para evitar que qualquer canal pudesse exibir conteúdo patrocinado.