Durante anos, a corrida para criar uma inteligência artificial cada vez mais poderosa seguiu um princípio conhecido no Vale do Silício: agir rápido e quebrar barreiras. No entanto, uma série de eventos em apenas 10 dias abalou alguns dos maiores laboratórios de IA, levando a um alerta sobre o risco de sistemas cada vez mais autônomos escaparem do controle humano.
Alerta de risco
Um pesquisador da Anthropic pediu demissão e afirmou que o ritmo de desenvolvimento da IA representa uma ameaça à humanidade, possivelmente dentro de uma década. Outro disse que as chances de extinção humana ultrapassavam 10%. Além disso, surgiram relatos de grupos de agentes de IA trabalhando em conjunto, invadindo sistemas de computador e contornando mecanismos criados para limitar sua atuação.
Chamado para desaceleração
Nessa rara demonstração de união, os presidentes de Anthropic, OpenAI, Google DeepMind, Microsoft e xAI defenderam uma desaceleração no desenvolvimento de sistemas de IA cada vez mais capazes. O nível de alerta levou alguns defensores da segurança da IA e pesquisadores a comparar a situação à invenção da bomba nuclear, sugerindo que a humanidade não havia enfrentado tão seriamente o risco de sua própria extinção desde então.
Comentários (0)
Entre ou cadastre-se para comentar.