A Anthropic, uma empresa americana de inteligência artificial, obteve a melhor pontuação em um ranking semestral de segurança, mas, de acordo com um relatório do Future of Life Institute, o setor global de IA falha em enfrentar ameaças consideradas "existenciais". O documento foi divulgado nesta terça-feira, 7 de novembro.

Análise das principais empresas de IA

O Future of Life Institute, um think tank focado na segurança em IA, avaliou nove das principais empresas do setor, utilizando dados públicos e informações fornecidas pelas próprias companhias. O relatório concluiu que todas as empresas analisadas não estão conseguindo lidar com riscos significativos, como o desenvolvimento de modelos de inteligência artificial que atinjam níveis comparáveis à inteligência humana, conhecidos como inteligência artificial geral (AGI).

As empresas foram avaliadas em seis categorias: avaliação de riscos, danos atuais, estruturas de segurança, segurança existencial, governança e transparência, e compartilhamento de informações. Apesar de a Anthropic ter se destacado com uma nota geral de "C+", nenhuma empresa recebeu a nota máxima, "A", em qualquer uma das categorias avaliadas.

Reversão de políticas e implicações militares

O relatório também aponta que várias empresas que anteriormente se comprometiam a não utilizar suas tecnologias para fins militares estão reavaliando essas políticas. A Anthropic, em particular, foi criticada por manter o que o relatório descreve como "compromissos militares questionáveis". Relatos da imprensa indicam que, no último ano, o governo dos Estados Unidos utilizou a tecnologia da Anthropic em operações militares em países como Venezuela e Irã.

Além disso, a Anthropic enfrentou uma proibição do Pentágono devido a divergências relacionadas à segurança de suas tecnologias de IA. O relatório ressalta que, apesar de haver algumas tentativas construtivas para melhorar a segurança, os esforços atuais são considerados "totalmente insuficientes" para mitigar os riscos associados à inteligência artificial.

Riscos e preocupações emergentes

Os riscos associados à IA incluem o uso indevido de modelos para realizar ciberataques ou executar tarefas que possam causar danos aos seres humanos. O Future of Life Institute destaca a necessidade urgente de uma abordagem mais rigorosa e eficaz para garantir que as tecnologias de IA sejam desenvolvidas e implementadas de maneira segura.

O relatório conclui que, sem melhorias significativas na segurança e na responsabilidade, o avanço da inteligência artificial pode trazer consequências graves e indesejadas para a sociedade.