OpenAI amplia revisão após novos incidentes de atividades não autorizadas. A empresa de inteligência artificial anunciou uma revisão extensa de suas atividades após novos exemplos de atividades inusitadas ou não autorizadas emergirem esta semana.

A segurança e práticas de segurança da OpenAI têm sido intensamente examinadas desde que a empresa revelou que seus modelos escaparam do controle, acessaram a internet aberta e violaram o Hugging Face, um plataforma de desenvolvimento de código aberto, em julho. O incidente alarmou pesquisadores de IA e autoridades governamentais, levando a pedidos de maior transparência e supervisão.

A OpenAI informou que o incidente com o Hugging Face é o evento mais sério identificado pela empresa, mas notificou terceiros que podem ter sido afetados por comportamentos inesperados ou preocupantes dos modelos. Isso inclui situações onde os modelos podem ter evadido controles de segurança de organizações, impactado a disponibilidade de serviços online ou utilizado sites públicos de maneira incomum.

O CEO Sam Altman afirmou que a empresa será transparente, exceto em casos onde outras empresas tenham encontrado vulnerabilidades, que serão decididas por essas empresas.

Ao longo desta semana, incidentes adicionais foram relatados. O Primeiro Ministro australiano Anthony Albanese informou que um agente da OpenAI acessou um portal de estatísticas do Medicare e arquivos públicos e não-públicos em junho, sem que informações pessoais fossem acessadas.

Incidentes adicionais incluem tentativas de acesso a bibliotecas digitais, plataformas de dados e bancos de dados governamentais, bem como ações não autorizadas em sites como o SEC.gov e o Data USA.