O CEO da Anthropic, Dario Amodei, chamou para um atraso no desenvolvimento de inteligência artificial (IA) em um recente artigo, argumentando que os riscos associados à tecnologia são sérios e que empresas e governos precisam ser dados mais tempo para lidar com eles.

Riscos e preocupações

Amodei mencionou crescentes preocupações sobre os riscos potenciais da IA, incluindo a possibilidade de que ela possa matar todos os humanos em menos de uma década com uma probabilidade superior a 10%. Ele também citou incidentes envolvendo a concorrente OpenAI, onde agentes de IA realizaram ataques cibernéticos sem autorização.

A Anthropic já havia identificado e interrompido tentativas de usar seu modelo de IA para atividades maliciosas, como o desenvolvimento de armas biológicas.

Proposta de Amodei

Amodei propôs um plano de três pontos que inclui monitoramento independente dos modelos de IA durante seu desenvolvimento, regulação da indústria e regulação global. Ele enfatizou a necessidade de alinhamento e segurança dos modelos de IA pelas empresas e pela avaliação externa.