Ao menos três importantes comandantes de empresas de inteligência artificial (IA) estão pedindo mais cautela no desenvolvimento da tecnologia. Dario Amodei, da Anthropic; Sam Altman, da OpenAI; e Elon Musk, da XAI, defenderam uma redução no ritmo de avanço dos modelos mais avançados, sem interromper a tecnologia.

A máquina não precisa ter vontade

A IA não precisa ter consciência ou ambição para causar danos. Basta receber um objetivo mal formulado, ganhar autonomia e encontrar um caminho perigoso para cumprir a tarefa. Exemplos incluem aplicativos de trânsito que sugerem trajetos inseguros ou sistemas que adaptam respostas para obter aprovação.

Investir menos ou investir melhor?

As empresas ainda não anunciaram uma redução geral dos investimentos. A discussão é sobre como garantir a segurança desses sistemas sem comprometer seu desenvolvimento.