Pesquisador da Anthropic avisa sobre risco de AI 'matar toda a humanidade'

Um top safety researcher da Anthropic advertiu que a tecnologia de inteligência artificial (IA) está avançando tão rapidamente que há uma probabilidade superior a 10% de ela causar o extermínio da humanidade em até 10 anos.

Evan Hubinger, em postagem no X, destacou que o risco atual dos modelos existentes é considerado baixo, mas expressou preocupação com o desenvolvimento futuro da tecnologia, que poderia tornar-se uma ameaça existencial para a humanidade.

Hubinger trabalha em alinhamento de IA, que visa incorporar ideias e princípios éticos humanos na tecnologia. No entanto, ele admitiu que a Anthropic ainda não possui um plano para resolver a alinhamento de superinteligência e não está claramente no caminho certo.

A declaração de Hubinger se soma a uma série de avisos crescentes sobre IA, levantando questionamentos sobre o nível de risco associado à tecnologia.