O CEO da empresa de inteligência artificial Anthropic, Dario Amodei, chamou para um atraso no desenvolvimento dos modelos de IA. Em um artigo publicado no sábado, ele argumentou que os riscos associados à tecnologia são sérios e que empresas e governos precisam de tempo para lidar com eles.

Riscos e preocupações

Ao longo dos últimos meses, cresceram preocupações sobre os riscos potenciais da IA, incluindo a possibilidade de que ela mate todos os humanos em menos de uma década, com uma probabilidade superior a 10%. A Anthropic já identificou e interrompeu tentativas de usar seu modelo de IA para atividades maliciosas, como o desenvolvimento de armas biológicas.

Em entrevista recente, o CEO da OpenAI, Sam Altman, também expressou preocupações sobre a segurança da IA e disse que ela pode ser controlada por humanos.

Plano de Amodei

Amodei propôs um plano de três pontos que inclui monitoramento independente dos modelos de IA durante o desenvolvimento, regulação da indústria e regulação global. Ele defendeu a necessidade de alinhar e garantir a segurança dos modelos de IA, além de exigir que terceiros avaliem isso.