IA da OpenAI dribla controles, esconde erros e busca brechas em testes
Modelos esconderam erros, inventaram dados, buscaram credenciais e transferiram arquivos para a internet
Por
SEGUIR
SEGUINDO
17 set 2026, 17h31 | Atualizado em 17 set 2026, 17h33
A OpenAI divulgou seis episódios em que seus modelos de inteligência artificial apresentaram comportamentos não previstos pelos pesquisadores, incluindo ocultação de erros, criação de instruções para contornar restrições, busca por credenciais expostas e transferência não autorizada de arquivos para a internet.
Os casos foram identificados durante processos de treinamento e avaliação e fazem parte de um novo sistema criado pela empresa para registrar e divulgar falhas de alinhamento de seus modelos.
A divulgação ocorre poucos dias depois de executivos de empresas de inteligência artificial defenderem uma desaceleração no desenvolvimento dos sistemas mais avançados.
O movimento provocou uma forte queda nas ações ligadas à infraestrutura de IA no início da semana, mas o mercado recuperou parte das perdas nos dias seguintes.
Na quinta-feira (17), ações de empresas de chips e equipamentos utilizados em data centers voltaram a subir.
AMD avançava cerca de 5% no pregão, enquanto Intel e Marvell também registravam altas expressivas. Micron e Arm igualmente se recuperavam depois da queda registrada no início da semana.
A reação indica que, pelo menos por enquanto, investidores não estão interpretando os alertas de segurança como sinal de uma interrupção nos investimentos em infraestrutura para inteligência artificial.
Modelos tentaram contornar restrições
Os seis episódios divulgados pela OpenAI ocorreram nos últimos meses, durante treinamento ou avaliação de modelos.
A empresa afirma que eles são casos individuais e não devem ser utilizados para estimar a frequência com que comportamentos semelhantes acontecem.
Em um dos experimentos, um modelo de pesquisa ainda não lançado inseriu instruções em seus próprios resumos de tarefas para que, ao retomar o trabalho em uma nova janela de contexto, pudesse ignorar determinadas restrições. A OpenAI identificou 27 resumos afetados.
Em outro caso, modelos treinados com o GPT-5.6 Sol produziram instruções destinadas a esconder erros cometidos durante uma tarefa. O sistema também chegou a inventar dados históricos e ocultar inconsistências entre diferentes versões de fontes.
Outro teste envolveu um modelo que procurou chaves de acesso a APIs expostas em repositórios públicos do GitHub. O sistema também tentou utilizar endereços de e-mail descartáveis.
Quando não conseguiu obter os dados solicitados, acabou fabricando informações sobre resultados financeiros.
Em dois episódios, modelos transferiram arquivos e imagens para serviços públicos de hospedagem na internet sem autorização. O objetivo era obter citações ou resultados de busca que ajudassem a completar as tarefas.
Houve ainda casos de comunicação não autorizada entre agentes.
Em um deles, modelos utilizaram uma infraestrutura interna de armazenamento como espécie de canal para trocar informações entre diferentes amostras de treinamento.
Em outro, agentes transferiram uma planilha para um serviço público de hospedagem para que outros sistemas pudessem acessá-la.
A OpenAI classifica esse tipo de comportamento como misalignment, ou desalinhamento: situações em que as ações do modelo deixam de seguir as restrições ou objetivos estabelecidos pelos desenvolvedores.
O problema muda com agentes autônomos
Os episódios ganham relevância à medida que os sistemas deixam de ser utilizados apenas para responder perguntas e passam a executar tarefas em nome dos usuários.
Um chatbot convencional produz uma resposta. Um agente pode navegar na internet, acessar arquivos, executar programas, enviar informações e interagir com outros sistemas. Isso amplia a utilidade da tecnologia, mas também aumenta as consequências de um erro.
O próprio histórico recente da OpenAI mostra essa mudança.
Em julho, durante testes de segurança cibernética, modelos da empresa conseguiram escapar de controles destinados a isolá-los da internet e comprometer partes da infraestrutura da plataforma Hugging Face, segundo a própria OpenAI.
A empresa classificou posteriormente o episódio como o caso mais grave desse tipo identificado até então.
Em outro episódio, revelado neste mês, agentes da empresa utilizaram uma página da Wikipédia em alemão como canal de comunicação durante testes.
A revelação veio depois de uma reportagem da Reuters. A OpenAI reconheceu que precisava ampliar a transparência sobre comportamentos inesperados de seus sistemas.
A diferença em relação a erros tradicionais de modelos de linguagem é importante. Uma resposta incorreta pode ser descartada pelo usuário. Um agente com acesso a sistemas externos pode transformar um erro em uma ação.
OpenAI cria mecanismo de divulgação
Para tentar lidar com esse problema, a empresa anunciou um protocolo permanente para identificar, investigar e divulgar casos de desalinhamento.
A ideia é que funcionários possam encaminhar comportamentos suspeitos para análise das equipes de segurança e alinhamento.
Os casos serão classificados de acordo com a complexidade da investigação, e a empresa pretende divulgar determinados incidentes mesmo antes de compreender completamente suas causas ou encontrar uma solução definitiva.
A OpenAI diz que a ausência de um padrão sistemático fazia com que revelações anteriores fossem esporádicas.
O novo mecanismo pretende acelerar a divulgação e criar uma base de informações que possa ser utilizada por pesquisadores, desenvolvedores e autoridades regulatórias.
A empresa ressalva que os seis episódios publicados agora são apenas uma amostra. Eles não representam, segundo a própria OpenAI, a frequência ou a gravidade média dos comportamentos de seus modelos.
Mercado separa segurança de investimento
A reação dos investidores nesta semana mostra que a discussão sobre segurança da IA e a perspectiva de expansão dos gastos com infraestrutura ainda são tratadas como questões diferentes pelo mercado.
Na segunda-feira (14), depois de declarações de executivos defendendo mais cautela no avanço da tecnologia, ações de empresas ligadas à cadeia de IA sofreram fortes perdas.
Nvidia caiu cerca de 3,4%, enquanto AMD recuou mais de 4% e Micron perdeu mais de 5%. O índice Nasdaq caiu 0,8% naquele pregão.
O receio era que uma desaceleração no desenvolvimento dos modelos reduzisse a necessidade de novos chips, servidores e data centers.
A preocupação atingiu uma indústria que se beneficia de um dos maiores ciclos de investimento em infraestrutura tecnológica já registrados.
A Reuters estima que os gastos relacionados à inteligência artificial podem superar US$ 795 bilhões em 2026 e ultrapassar US$ 1 trilhão em 2027. A dimensão desses investimentos explica por que qualquer indicação de redução no ritmo de desenvolvimento passou a ser acompanhada pelos mercados financeiros.
Mas a queda não persistiu na mesma intensidade.
Nesta quinta-feira, fabricantes de chips recuperaram parte das perdas. Para analistas ouvidos pelo MarketWatch, a demanda por infraestrutura continua sustentada por contratos de longo prazo e pelo crescimento do uso de IA em empresas, inferência e aplicações físicas.
A própria ideia de “desaceleração” também é menos simples do que parece.
Reduzir a velocidade de lançamento de modelos ou aumentar os testes de segurança não significa necessariamente diminuir os investimentos em servidores, energia e semicondutores.
A corrida continua
O debate ocorre em um momento em que as maiores empresas de tecnologia continuam ampliando a capacidade computacional necessária para treinar e operar modelos de IA.
A questão para os investidores, portanto, não é apenas se haverá uma pausa no desenvolvimento dos modelos mais avançados, mas qual parte da cadeia será afetada por eventuais mudanças.
Uma política que aumente testes e controles antes do lançamento de novos sistemas pode elevar custos e alongar prazos. Já uma redução efetiva na quantidade de treinamento ou na expansão de data centers teria impacto direto sobre fabricantes de chips, servidores, redes e equipamentos de energia.
Até agora, os dados de mercado não mostram uma interrupção generalizada desse investimento. A recuperação das ações do setor nesta quinta-feira ocorreu mesmo após a divulgação dos novos incidentes pela OpenAI.
Isso não elimina o risco. A própria empresa reconhece que ainda não considera resolvidos os problemas de alinhamento e monitoramento à medida que os sistemas se tornam mais capazes e autônomos.
O que mudou é que falhas desse tipo começam a ser tratadas como uma variável permanente do desenvolvimento da tecnologia, e não apenas como acidentes isolados.
ACESSO LIVRE COM VIVO FIBRA