A Anthropic, empresa de inteligência artificial sediada em San Francisco, anunciou que encerrou várias operações de vigilância patrocinadas por Estados e alertou que governos e atores alinhados a eles recorrem cada vez mais à IA para espionar minorias e dissidentes.

Vigilância em diversos países

Os incidentes tiveram origem na China, no Irã e na África Ocidental e foram detectados e interrompidos entre janeiro e julho. Segundo o relatório da empresa, essas campanhas de vigilância visavam as mesmas comunidades da diáspora e dissidentes que esses regimes perseguem historicamente.

Entre os grupos afetados estavam ativistas pró-democracia de Hong Kong, comunidades tibetanas e minorias e opositores do regime iraniano que vivem no exterior. Em um dos casos, iranianos desenvolveram um método para identificar pessoas por meio de suas contas em redes sociais.

Outras restrições

A Anthropic também bloqueou tentativas de usuários de desenvolver armas, realizar pesquisas biológicas consideradas problemáticas e criar golpes românticos online. A empresa acusou desenvolvedores chineses de utilizar o Claude de forma enganosa para gerar respostas a consultas de usuários enquanto, simultaneamente, 'destilavam' esses dados para aprimorar seus próprios modelos.