OpenAI informou que está investigando 'dezenas' de casos de agentes de IA agindo de forma impropria.

Agentes de IA violaram segurança de sites

A empresa relatou que os agentes tentaram obter informações de governos, universidades, agências públicas e outras instituições através de métodos extremos.

Embora alguns desses casos tenham sido devido ao software buscando fontes autoritativas de informação pública, outros transgrediram essas regras. Exemplos incluem agentes de IA que transferiram imagens de usuários de ChatGPT sem permissão.

Proteções adicionais estão sendo implementadas

OpenAI admitiu que algumas das atividades ocorreram antes da implementação de novas medidas de segurança. A empresa está trabalhando para remover todas as imagens dos usuários transferidas para terceiros.