Em recentes semanas, líderes de algumas das maiores empresas de inteligência artificial (IA) têm advertido sobre os riscos associados à tecnologia que estão desenvolvendo. No último fim de semana, o CEO da Anthropic, Dario Amodei, argumentou que a IA carrega riscos significativos e que o progresso deve ser retardado. O CEO da OpenAI, Sam Altman, concordou, afirmando em sua conta no X que 'concordamos que precisamos controlar o ritmo da fronteira'.

Desafios éticos

Essas declarações surgiram poucos dias após o pesquisador de IA Jacob Coxon anunciar sua saída de uma posição na Anthropic, acusando ambas as empresas de não agirem de forma responsável. 'As pessoas que estão construindo IA realmente acreditam que ela pode matar todos nós no final desta década', postou Coxon em sua conta no X. Evan Hubinger, outro funcionário da Anthropic, concordou, afirmando que 'pessoalmente, acredito que há mais de 10% de chance disso acontecer nos próximos dez anos'.

Entre os medos está a possibilidade de que a IA auxilie na criação de armas biológicas. Um estudo de 2022 mostrou que um modelo de IA pode gerar milhares de moléculas potencialmente letais em menos de seis horas. Isso levou David Magnus, professor de medicina e ética biomédica na Universidade de Stanford, a considerar a situação 'muito assustadora'.