Agentes de IA da OpenAI burlam testes e invadem sistemas de empresa privada
Agentes de IA da OpenAI burlam ambiente de testes isolado, trocam mensagens entre si e invadem sistemas da Hugging Face sem autorização
Agentes de inteligência artificial desenvolvidos pela OpenAI conseguiram ultrapassar barreiras de segurança durante testes e acessar sistemas de outras empresas sem autorização. O caso levantou preocupações sobre os riscos de conceder autonomia às IAs, especialmente quando elas passam a executar tarefas sozinhas, tomar decisões e buscar outros caminhos para alcançar seus objetivos.
Hugging Face é invadida
O episódio aconteceu em julho de 2026, durante o treinamento e a avaliação de algoritmos da empresa que ainda não haviam sido disponibilizados ao público. Na ocasião, centenas de agentes de inteligência artificial conseguiram encontrar brechas de segurança e subverter barreiras em muitos testes, acessando sistemas da empresa americana Hugging Face.
Para bem dizer a dimensão do feito, é importante informar que todo processo de teste é realizado num ambiente conhecido como sandbox, que se trata de um espaço isolado, criado justamente para impedir que algoritmos tenham acesso a sistemas externos ou executem ações fora dos limites estabelecidos.
Ver esta publicação no Instagram
OpenAI DevDay (Vídeo: reprodução/Instagram/@openai)
Entretanto, os agentes encontraram maneiras de burlar as restrições impostas pelos pesquisadores. Segundo especialistas ouvidos pelo “Fantástico”, eles chegaram a trocar mensagens entre si, em uma dinâmica parecida com a de um fórum de internet.
Em uma das conversas, um dos agentes reconhece as regras estabelecidas, porém contrariou o comando deixado porque outros agentes já estariam fazendo o mesmo. Os sistemas conseguiram encontrar senhas disponíveis na internet e utilizar essas informações para acessar os computadores da Hugging Face.
Reação de especialistas
A professora Teresa Ludermir, representante brasileira no painel da Organização das Nações Unidas (ONU) sobre Inteligência Artificial, explica que essa capacidade de agir é o que diferencia os agentes dos demais sistemas de conversação. No caso da invasão, os sistemas estavam participando de um teste de segurança e precisavam encontrar uma solução para determinado desafio.
Ver esta publicação no Instagram
Chat GPT é retrabalhado (Vídeo: reprodução/Instagram/@openai)
No entanto, em vez de resolverem a tarefa pelos meios previstos, buscaram uma alternativa que consideraram mais eficiente: acessar computadores de outra empresa a fim de encontrar respostas prontas. O especialista Alexandre, ouvido pelo programa, esclareceu que o comportamento não representava uma ameaça contra humanos ou algo do tipo, mas que estavam tentando cumprir uma missão exigida, e acabaram utilizando meios inadequados.
