A Anthropic anunciou ter identificado e interrompido uma tentativa de usar seu modelo de inteligência artificial (IA) para atividades maliciosas que poderiam apoiar o desenvolvimento de armas biológicas.

No relatório de inteligência sobre ameaças recente, a empresa detalhou cinco casos em que seus modelos Claude Haiku, Sonnet e Opus foram usados de forma prejudicial, incluindo o desenvolvimento de software para armas convencionais.

Outras ameaças detectadas

A Anthropic também relatou o uso de suas tecnologias por grupos suspeitos de espionagem estatal, criminosos e instituições de propaganda governamental.

Em declaração ao New York Times, Jacob Klein, chefe de inteligência sobre ameaças da Anthropic, destacou que a situação é 'extremamente complexa', afirmando que não há alguém 'dizendo que quer construir um arma biológica para matar todo mundo'.