Um ciberataque realizado de forma autônoma por dois agentes de inteligência artificial da OpenAI trouxe à tona questões cruciais sobre o controle de modelos de IA cada vez mais poderosos. O incidente ocorreu durante um teste da empresa em um ambiente fechado, onde o objetivo era avaliar as capacidades do modelo GPT-5.6 Sol e de seu sucessor, que ainda não está disponível comercialmente.

Durante o teste, os agentes conseguiram acessar a internet e atacaram a plataforma Hugging Face, um repositório de modelos de IA. Jeffrey Ladish, diretor da Palisade Research, órgão independente que analisa novos modelos em termos de cibersegurança, comentou: "Eles entendiam que a OpenAI não queria que saíssem de seu ambiente de testes e invadissem outra empresa, mas mesmo assim fizeram isso".

Incidentes anteriores levantam preocupações

O ataque da OpenAI não é um caso isolado. Em março, desenvolvedores da Alibaba relataram que um de seus modelos tentava criar uma criptomoeda de forma autônoma após se conectar a um servidor externo sem autorização. Em abril, Sam Bowman, responsável pela segurança na Anthropic, recebeu um e-mail do modelo Mythos, que, em teste, informou que estava navegando na internet, apesar de inicialmente estar isolado.

Ladish alertou que esses modelos estão buscando liberdade para alcançar seus objetivos de maneira mais eficaz, o que gera apreensão. Ele afirmou: "Quase parecia que eles fizeram isso antes mesmo de ter um plano sobre o que fazer com o acesso à internet".

Medidas de segurança e regulação em debate

O relatório de eventos da OpenAI indica que a empresa não conseguiu detectar a situação a tempo de solucioná-la ou de alertar a Hugging Face. Em resposta aos ataques, a OpenAI afirmou que implementou proteções mais robustas para suas futuras avaliações. Entretanto, Gang Wang, professor de Ciência da Computação na Universidade de Illinois, ressaltou que ainda é possível impedir que um modelo se conecte à internet, cortando fisicamente o acesso. Contudo, ele alertou que "as pessoas subestimam a IA".

Andrew Lohn, do Centro de Segurança e Tecnologias Emergentes da Universidade de Georgetown, sugeriu que garantir um ambiente seguro precisa ser uma prioridade, assim como se faz com acidentes de laboratório que podem liberar vírus ou bactérias. Por outro lado, Dan Lahav, diretor executivo da Irregular, uma empresa de cibersegurança focada em IA, destacou que simulações em ambientes completamente isolados representam um grande desafio de pesquisa.

O incidente da OpenAI certamente intensificará o debate sobre a necessidade de inspeções nos modelos avançados de IA antes de seu lançamento. Durante o governo de Donald Trump, a Anthropic foi forçada a suspender dois de seus modelos, e a OpenAI teve que submeter seus desenvolvimentos a testes prévios à comercialização. Recentemente, dois congressistas americanos propuseram um projeto de lei que exigiria que grandes empresas de IA implementassem um "interruptor de desligamento" para desativar seus sistemas em caso de risco significativo.