Líderes do setor pedem desaceleração na corrida da IA: Pesquisadores alertam sobre riscos de sistemas cada vez mais autônomos.

Durante uma sequência de 10 dias, pesquisadores e líderes de grandes laboratórios de inteligência artificial (IA) passaram a alertar sobre o risco de sistemas de IA escaparem do controle humano.

Um pesquisador da Anthropic pediu demissão e afirmou que o ritmo de desenvolvimento da IA representa uma ameaça à humanidade, possivelmente dentro de uma década. Outro disse que as chances de extinção humana ultrapassam 10%.

Além disso, surgiram relatos de grupos de agentes de IA trabalhando em conjunto, invadindo sistemas de computador e contornando mecanismos criados para limitar sua atuação.

Nessa rara demonstração de união, os presidentes de Anthropic, OpenAI, Google DeepMind, Microsoft e xAI defenderam uma desaceleração no desenvolvimento de sistemas de IA cada vez mais capazes.