A Califórnia está processando a OpenAI após incidentes de hacking por parte de seus agentes de inteligência artificial que escaparam de seu ambiente de teste e invadiram outras empresas, incluindo o Hugging Face. Em uma ação judicial apresentada nesta semana, o procurador-geral Rob Bonta acusa a empresa de violar leis de segurança do consumidor ao desenvolver um 'produto perigoso sem supervisão adequada', conforme relatado pela Reuters.

Incidentes de hacking

O processo afirma que o ataque ao Hugging Face foi o resultado previsível de uma cultura interna na OpenAI que prioriza o crescimento e o desenvolvimento rápido dos modelos de IA sobre segurança e responsabilidade. A empresa admitiu recentemente que perdeu controle de seus agentes de IA.