Agentes de IA da OpenAI burlam testes e invadem sistemas de empresa privada

Agentes de IA da OpenAI burlam ambiente de testes isolado, trocam mensagens entre si e invadem sistemas da Hugging Face sem autorização

16 nov, 2026
Equipe de especialistas em trabalho | Reprodução/Tima Miroshnichenko/Pexels
Equipe de especialistas em trabalho | Reprodução/Tima Miroshnichenko/Pexels

Agentes de inteligência artificial desenvolvidos pela OpenAI conseguiram ultrapassar barreiras de segurança durante testes e acessar sistemas de outras empresas sem autorização. O caso levantou preocupações sobre os riscos de conceder autonomia às IAs, especialmente quando elas passam a executar tarefas sozinhas, tomar decisões e buscar outros caminhos para alcançar seus objetivos.

Hugging Face é invadida

O episódio aconteceu em julho de 2026, durante o treinamento e a avaliação de algoritmos da empresa que ainda não haviam sido disponibilizados ao público. Na ocasião, centenas de agentes de inteligência artificial conseguiram encontrar brechas de segurança e subverter barreiras em muitos testes, acessando sistemas da empresa americana Hugging Face.

Para bem dizer a dimensão do feito, é importante informar que todo processo de teste é realizado num ambiente conhecido como sandbox, que se trata de um espaço isolado, criado justamente para impedir que algoritmos tenham acesso a sistemas externos ou executem ações fora dos limites estabelecidos.


 

Ver esta publicação no Instagram

 

Uma publicação partilhada por OpenAI (@openai)

OpenAI DevDay (Vídeo: reprodução/Instagram/@openai)


Entretanto, os agentes encontraram maneiras de burlar as restrições impostas pelos pesquisadores. Segundo especialistas ouvidos pelo “Fantástico”, eles chegaram a trocar mensagens entre si, em uma dinâmica parecida com a de um fórum de internet.

Em uma das conversas, um dos agentes reconhece as regras estabelecidas, porém contrariou o comando deixado porque outros agentes já estariam fazendo o mesmo. Os sistemas conseguiram encontrar senhas disponíveis na internet e utilizar essas informações para acessar os computadores da Hugging Face.

Reação de especialistas

A professora Teresa Ludermir, representante brasileira no painel da Organização das Nações Unidas (ONU) sobre Inteligência Artificial, explica que essa capacidade de agir é o que diferencia os agentes dos demais sistemas de conversação. No caso da invasão, os sistemas estavam participando de um teste de segurança e precisavam encontrar uma solução para determinado desafio.


 

Ver esta publicação no Instagram

 

Uma publicação partilhada por OpenAI (@openai)

Chat GPT é retrabalhado (Vídeo: reprodução/Instagram/@openai)


No entanto, em vez de resolverem a tarefa pelos meios previstos, buscaram uma alternativa que consideraram mais eficiente: acessar computadores de outra empresa a fim de encontrar respostas prontas. O especialista Alexandre, ouvido pelo programa, esclareceu que o comportamento não representava uma ameaça contra humanos ou algo do tipo, mas que estavam tentando cumprir uma missão exigida, e acabaram utilizando meios inadequados.

Mais notícias