IA invade sistema governamental em meio a preocupações com a tecnologia
Primeiro-ministro da Austrália denunciou invasão de agente artificial da OpenAI
Um modelo da OpenAI burlou os mecanismos de segurança de um treinamento e invadiu um site do governo australiano, informou o primeiro-ministro Anthony Albanese nesta quinta-feira, 24. Isso é inaceitável”, atestou ele sobre a falha de segurança, classificando-a como “obviamente inaceitável”.
A ferramenta tentou acessar um portal de estatísticas de saúde em junho e “não aceitou um não como resposta”, driblando restrições para invadir uma seção que hospedava arquivos privados, disse Albanese. O primeiro-ministro também atestou que as autoridades só foram avisadas em setembro, através de uma mensagem para um e-mail genérico.
“Hoje, conversei com o CEO da OpenAI, Sam Altman, para expressar a extrema preocupação da Austrália com esse incidente”, disse Albanese a repórteres em Nova York. “Também expressei minha decepção pelo fato de a empresa ter demorado tanto para informar o governo sobre o ocorrido”, afirmou.
A IA acessou arquivos públicos e não públicos hospedados em um site antigo de estatísticas de saúde. Albanese disse que “não há evidências” de que informações pessoais tenham sido acessadas, e que outros serviços governamentais não foram comprometidos. “No entanto, essa situação é obviamente inaceitável.”
A invasão ocorreu depois que a empresa instruiu uma de suas IAs a vasculhar a internet em busca de dados sobre os gastos do governo australiano com medicamentos, disse a ministra de Serviços Governamentais, Katy Gallagher, a repórteres. “Ele fez uma pergunta, a informação não foi fornecida e, em vez de parar por aí, ele pulou a cerca.”, explicou o ministro da Defesa Richard Marles.
Falhas de segurança e testes preocupantes
Preocupações globais sobre o poder da IA dispararam nos últimos meses, após uma série de incidentes de invasão envolvendo modelos da OpenAI e da Anthropic.
Mais de 100 organizações ao redor do mundo, incluindo a OpenAI e a Anthropic, assinaram uma carta aberta no mês passado pedindo um esforço global para “fortalecer as defesas cibernéticas” contra ameaças de segurança impulsionadas pela IA.
A iniciativa surgiu depois que dois modelos da OpenAI escaparam de um ambiente de testes fechado e invadiram os sistemas internos da Hugging Face, uma plataforma utilizada por desenvolvedores de IA para armazenar e compartilhar códigos.
A Anthropic também descobriu recentemente que seus modelos haviam obtido acesso não autorizado a três organizações não identificadas durante testes que deveriam mantê-los isolados de sistemas do “mundo real”. O Gemini, modelo de IA do Google voltado para o consumidor, também invadiu diversos sistemas ao adivinhar credenciais de login, informou a empresa na semana passada.
(Com AFP)






