Primeiro crime por uso de ChatGPT é registrado na China

A polícia da China prendeu um homem que, supostamente, utilizou o ChatGPT para gerar notícias falsas. A detenção foi a primeira relacionada ao uso do chatbot no país.

A notícia falsa dizia que nove pessoas haviam sido mortas em um acidente de trem no último dia 25. De acordo com um site de notícias local, a divisão de cibersegurança da polícia do condado de Kongtong encontrou o mesmo rumor postado, ao mesmo tempo, por 20 contas diferentes no site Baijiahao, uma plataforma de blogs do Baido. 

Ainda de acordo com o site, a polícia teria rastreado a origem da postagem, que fora feita dentro de uma companhia de que o suspeito é dono. O homem ainda teria confessado ter contornado sistemas de segurança para conseguir fazer a postagem em várias contas ao mesmo tempo. A prisão foi feita 10 dias depois. 

O ChatGPT não é disponível no país, mas os usuários podem acessá-los através de VPN, uma rede de segurança que permite o acesso a internet através de redes públicas de outros países. 

As autoridades chinesas aprovaram, em janeiro, uma regulamentação para o uso de deep fakes. Denominado de “Disposições Administrativas sobre Síntese Profunda para Serviço de Informações da Internet”, o documento define deep fakes como uso de tecnologia para gerar texto, imagem, áudio e vídeo ou para criar cenários virtuais. 

O suspeito poderá ser enquadrado no crime de provocação de brigas e problemas, cuja pena pode chegar a 10 anos em casos mais severos. Desde 2013, a compreensão da lei foi expandida para enquadrar notícias falsas postadas na internet.