Pesquisador de segurança da Anthropic alerta sobre risco de AI matar toda a humanidade. Um top safety researcher da Anthropic afirmou que a probabilidade de a inteligência artificial matar toda a humanidade nos próximos dez anos é superior a 10%, segundo publicação no X.

O pesquisador Evan Hubinger disse que a atual tecnologia de IA apresenta risco baixo, mas expressou preocupação com o avanço rápido do desenvolvimento tecnológico.

A advertência veio após relatos de que a Anthropic teria rejeitado participar de testes de segurança realizados pelo AI Safety Institute.

Hubinger destacou que a empresa está trabalhando para resolver alinhamentos para superinteligência, mas ainda não possui um plano claro para isso.

Figuras importantes do setor de IA têm alertado sobre os riscos associados à tecnologia, incluindo os chefes de OpenAI, Google DeepMind e Anthropic.