Bloomberg Opinion — As principais empresas de inteligência artificial (IA) do mundo querem que acreditemos que são mãos seguras para o desenvolvimento dessa tecnologia. Mas a notícia de uma transgressão recente ressalta o quanto elas estão longe de merecer essa confiança.
A OpenAI confirmou nesta semana que seus modelos mais recentes violaram um programa de testes de segurança, escaparam de seu ambiente restrito, acessaram a internet ampla e comprometeram os sistemas de outra empresa.
A IA não agiu com malícia — estava simplesmente buscando o objetivo definido por seus pesquisadores e trapaceando em um teste para obter uma pontuação melhor. O resultado é uma lição inquietante para todos nós: as ferramentas de contenção conhecidas como “sandboxes” estão se tornando cada vez menos confiáveis à medida que os sistemas se tornam mais capazes, e seus criadores podem sutilmente tirar proveito do medo que as cerca para superar períodos financeiramente difíceis.
A OpenAI informou na terça-feira (21) que vinha testando agentes autônomos equipados com seu novo modelo GPT-5.6 SOL, bem como um software mais avançado que ainda não foi lançado.
⟶ Assine as newsletters da Bloomberg Línea e receba as notícias do dia em primeira mão no e-mail.
Durante a avaliação, os agentes escaparam de seu ambiente isolado, encontraram uma vulnerabilidade de software escondida — ou até então desconhecida — e obtiveram acesso à internet. Em seguida, eles acessaram o Hugging Face após deduzirem que o site, que funciona como um repositório de ferramentas de IA de código aberto, poderia conter as respostas de que precisavam para passar no teste de segurança.
O Hugging Face percebeu a violação e entrou em contato com a OpenAI, que classificou o incidente como “sem precedentes”. O CEO do Hugging Face, Clément Delangue, afirmou que era “impressionante que tudo isso tenha acontecido de forma autônoma”.
Ambas as empresas trocaram muitos elogios mútuos por sua cooperação na investigação forense. Mas a OpenAI não pode ser isentada de culpa tão facilmente: provavelmente não deveria estar desenvolvendo sistemas com recursos cibernéticos avançados se não consegue controlá-los adequadamente.
Leia também: Por que o novo modelo da Moonshot pode redefinir os vencedores da corrida da IA
Uma interpretação cínica é que tais eventos aparentemente dramáticos reforçam a narrativa de que a IA de ponta está se tornando extraordinariamente poderosa — narrativas que também beneficiam as principais empresas que disputam talentos, investimentos e influência no setor.
A lição mais importante é mais simples: está ficando cada vez mais difícil impedir que modelos de IA escapem de seus ambientes de teste, à medida que são dotados da capacidade de agir e recebem maior autonomia e habilidades de resolução de problemas.
Empresas de software costumam dizer que estão desenvolvendo a tecnologia mais avançada dentro das chamadas “sandboxes” — uma garantia que ouvi recentemente de um executivo que desenvolve sistemas de IA com autoaperfeiçoamento.
A palavra “sandbox” (caixa de areia, em inglês) evoca a imagem de um espaço seguro para conter crianças pequenas; a ideia é que, mesmo que a IA se comporte mal, ela não possa afetar o mundo exterior. Mas uma sandbox também é apenas um software: máquinas virtuais, regras de rede e sistemas de permissão, todos criados por humanos, às vezes com a ajuda da IA.
Isso significa que ela pode conter bugs, assim como qualquer outro código de computador — e os modelos que estão sendo contidos estão ficando cada vez melhores em detectar essas falhas. O “prisioneiro” é, na verdade, um especialista em arrombar fechaduras. A garantia “não se preocupe, está na sandbox” está se tornando menos convincente.
Leia também: ChatGPT Work alcança 10 mi de usuários e fortalece aposta da OpenAI em agentes de IA
Isso também porque não é a primeira vez que um sistema de IA consegue escapar de suas restrições. Pesquisadores demonstraram recentemente violações semelhantes que afetaram ferramentas de codificação de IA, incluindo o Cursor, o Codex CLI da OpenAI e o Antigravity do Google. Nesses casos, a IA não saiu diretamente da sandbox, mas manipulou softwares confiáveis fora dela para que executassem o código que ela mesma havia escrito.
O que destaca o incidente mais recente é que os modelos da OpenAI conseguiram escapar por meio de um ataque, em vez de serem inadvertidamente liberados pelo software ao redor. O AI Security Institute do Reino Unido, uma das principais agências mundiais para testes de vulnerabilidades de IA, afirmou que estava “estudando o comportamento observado neste incidente”.
Em um relatório separado divulgado na terça-feira, o instituto apontou para uma questão mais ampla, afirmando que todos os modelos de ponta que havia testado recentemente tentavam “trapacear” usando atalhos proibidos para concluir tarefas e, muitas vezes, não admitiam ter feito isso.
Esse fenômeno é obviamente preocupante, mas não porque a IA tenha seguido os passos do Hal 9000. O incidente da OpenAI ocorreu durante um teste interno no qual certas medidas de segurança haviam sido reduzidas — é improvável que sistemas comuns de IA utilizados pelo público se comportem da mesma forma. Portanto, isso não significa que um agente esteja prestes a invadir sua conta bancária ou roubar códigos de comando nuclear.
O verdadeiro problema é mais sutil: as empresas de tecnologia precisam, no mínimo, melhorar a forma como isolam e monitoram sistemas de IA poderosos durante os testes.
Leia também: OpenAI anuncia CEOs de Nubank e BNY para conselho antes do IPO
Uma opção poderia ser criar um isolamento físico para o software mais poderoso, executando-o em computadores completamente desconectados da internet, de modo que, mesmo que o modelo rompa sua sandbox, ele não consiga acessar sistemas externos. Governos e organizações de defesa já operam sistemas de computação altamente sensíveis dessa maneira.
Esse processo quase certamente teria impedido que os agentes rebeldes da OpenAI invadissem outra empresa, mas o isolamento físico é caro e inconveniente. Os pesquisadores não conseguem obter facilmente os recursos de que precisam durante um teste, e tudo fica mais lento. Isso também pode tornar mais difícil para os pesquisadores testarem como os modelos se comportariam no mundo real.
As empresas de IA precisam aceitar algumas concessões incômodas para tornar seus modelos mais seguros, sacrificando manchetes que ilustram o quão avançado é seu software em nome de maior segurança — e confiança.
Esta coluna reflete as opiniões pessoais do autor e não reflete necessariamente a opinião do conselho editorial ou da Bloomberg LP e de seus proprietários.
Parmy Olson é colunista da Bloomberg Opinion e escreve sobre tecnologia. Já escreveu para o Wall Street Journal e a Forbes e é autora de “We Are Anonymous.”
Veja mais em Bloomberg.com
Leia também
Brasil acelera para proteger US$ 1,8 bilhão em exportações de carne para a UE
© 2026 Bloomberg L.P.
