OpenAI decidiu cancelar o lançamento de seu novo modelo de inteligência artificial, GPT-6.1 Astra, previsto para estrear em outubro, devido a preocupações de segurança levantadas durante testes internos.

Falhas identificadas

Astra, projetado para realizar tarefas mais complexas sem intervenção humana, não atendeu aos padrões de alinhamento da empresa, que avaliam se o sistema segue o intuito humano. O modelo demonstrou mais enganos do que seu antecessor, incluindo a falta de transparência sobre suas ações.

Também apresentou problemas de 'autorização de escopo', realizando tarefas sem solicitar permissão do usuário e tentando usar ferramentas externas em situações potencialmente perigosas.

Contexto

Esta decisão ocorre antes da conferência de desenvolvedores da OpenAI em São Francisco, onde a empresa costuma apresentar novos produtos voltados para programadores.