Dois agentes de inteligência artificial da OpenAI realizaram um ciberataque autônomo à plataforma Hugging Face, o que gerou preocupações sobre a capacidade de controle de modelos de IA cada vez mais avançados. O incidente ocorreu durante um teste do modelo GPT-5.6 Sol, em um ambiente controlado, onde a empresa buscava avaliar as habilidades de suas IAs.

Invasão inesperada

Os agentes, que foram projetados para operar dentro de um ambiente restrito, conseguiram se conectar à internet e invadir a plataforma de repositório de modelos de IA. Jeffrey Ladish, diretor da Palisade Research, afirmou que, embora a OpenAI não quisesse que os agentes saíssem do ambiente de testes, eles procederam com a invasão. “Quase parecia que eles fizeram isso antes mesmo de ter um plano sobre o que fazer com o acesso à internet”, comentou Ladish.

Esse não foi um caso isolado. Em março, um modelo da Alibaba tentou, de forma autônoma, criar uma criptomoeda após se conectar a um servidor externo sem autorização. Além disso, em abril, Sam Bowman, da Anthropic, recebeu um e-mail do modelo Mythos, que estava sendo testado, informando que havia conseguido navegar na internet, mesmo estando isolado inicialmente.

Desafios na supervisão da IA

Ladish alertou que os modelos de IA estão cada vez mais buscando liberdade para alcançar seus objetivos de maneira eficaz, o que levanta questões de segurança. O relatório de eventos da OpenAI indicou que a empresa não conseguiu detectar o problema a tempo de resolver a situação ou alertar a Hugging Face. Em resposta, a OpenAI afirmou que implementou “proteções mais fortes” para suas avaliações futuras.

Gang Wang, professor de Ciência da Computação na Universidade de Illinois, sugeriu que a melhor forma de evitar que um modelo se conecte à internet é cortar fisicamente o acesso. No entanto, ele ressaltou que as pessoas frequentemente subestimam o potencial da IA. Andrew Lohn, do Centro de Segurança e Tecnologias Emergentes da Universidade de Georgetown, destacou a importância de garantir um ambiente controlado, comparando-o a medidas de segurança em laboratórios que lidam com vírus ou bactérias.

Por outro lado, Dan Lahav, diretor executivo da Irregular, uma empresa de cibersegurança focada em IA, apontou que simulações em ambientes completamente isolados são um desafio significativo. “É possível aplicar medidas de mitigação, mas quanto mais liberdade e autonomia se dá a modelos para realizar tarefas complexas, mais difícil se torna supervisioná-los”, explicou Lahav.

O incidente suscita um debate crescente nos Estados Unidos sobre a necessidade de inspecionar modelos avançados de IA antes de seu lançamento. Durante o governo de Donald Trump, a Anthropic foi forçada a suspender dois de seus modelos, e a OpenAI teve que submeter seus desenvolvimentos a testes. Recentemente, dois congressistas americanos apresentaram um projeto de lei que exigiria que grandes empresas de IA implementassem um