Gemini invadiu três empresas em incidente inédito da IA do Google
Episódio aumenta lista de escapes de testes como de modelos da Anthropic, Meta, e OpenAI; Google só tornou caso público após questionamento de jornal
O modelo de inteligência artificial Gemini invadiu sistemas de informação externos de três empresas. A informação foi confirmada pelo Google, dona da IA, nesta sexta-feira, 18, à AFP, em confirmação a uma reportagem do Wall Street Journal que divulgou os incidentes.
Em maio, “durante um teste padrão, o modelo encontrou informações públicas online e adivinhou senhas para acessar sites que achou que faziam parte do teste”, explicou Heather Adkins, especialista em segurança do Google, em uma declaração enviada à AFP.
O Google disse à AFP que tomou conhecimento do episódio em julho e então abriu uma investigação sobre o incidente. Sem especificar nomes, a empresa informou que três organizações foram afetadas e garante que as notificou sobre essas brechas.
Segundo o Wall Street Journal, em um dos casos “o modelo testou várias combinações de senhas até conseguir acessar um sistema protegido”. “Nas três vezes, o modelo parou”, informou Adkins, o que sugere que as invasões terminaram sem intervenção humana.
O debate em torno da IA se intensificou com revelações recentes sobre modelos que saíram de ambientes confinados para se infiltrar em sites e plataformas externas. Modelos da MetaAI, Anthropic e OpenAI registraram casos similares, mas os tornaram públicos por anúncios próprios.
Vários grandes executivos do setor de tecnologia defendem reduzir a velocidade do desenvolvimento de poderosos modelos de IA e algum tipo de autorregulação do setor diante de recentes incidentes de segurança.
O especialista em pré-treinamento de modelode linguagem, Jacob Coxon, publicou um manifesto nas redes sociais no qual afirmou que os próprios desenvolvedores de inteligência artificial acreditam que ela “pode matar todos nós até o final da década”. Neste mês, o cientista pediu demissão da Anthropic e fez o anúncio dois meses antes do vencimento de suas participações acionárias na empresa, o que pode gerar um custo pessoal para ele mesmo.






