A Anthropic, uma das principais empresas de inteligência artificial dos Estados Unidos, denunciou a Alibaba, gigante chinesa do comércio eletrônico e tecnologia, por supostamente ter extraído de forma ilícita as capacidades do seu modelo de IA, conhecido como Claude. Em uma carta direcionada a dois membros do Congresso dos EUA, a Anthropic afirmou que operadores ligados à Alibaba teriam realizado quase 29 milhões de trocas com Claude, utilizando milhares de contas fraudulentas, caracterizando essa ação como a maior campanha de extração de suas capacidades até o momento.

Campanha de Extração e Ataques de Destilação

No documento datado de 10 de junho e enviado aos senadores Tim Scott e Elizabeth Warren, a empresa de San Francisco acusou a Alibaba, listada na Bolsa de Valores de Nova York, de realizar o que a Anthropic chamou de "a maior campanha para extrair ilegalmente as capacidades do Claude". Segundo a empresa, essa campanha utilizou o que são conhecidos como "ataques de destilação", que consistem em extrair respostas de um modelo de IA mais avançado para treinar um modelo mais fraco.

A Anthropic informou que os operadores ligados à Alibaba focaram nas capacidades mais valiosas do Claude, incluindo sua habilidade de lidar com tarefas mais longas e complexas, bem como sua abordagem à tomada de decisões. Esses ataques são realizados em uma "escala industrial" para permitir que empresas chinesas colham e reempacotem as capacidades de IA dos EUA como se fossem suas, alertou a companhia.

Implicações para a Segurança Nacional

A carta também destacou outros ataques supostamente realizados, os quais a Anthropic afirmou representar uma ameaça para o setor militar dos EUA. "Ataques de destilação transformam centenas de bilhões de dólares em investimentos e pesquisa americana em um subsídio massivo para nossos concorrentes geopolíticos", declarou a empresa.

A Anthropic fez referência a alegações do Departamento de Defesa dos EUA, que relacionam a Alibaba e outras grandes empresas, como a montadora BYD e a empresa de tecnologia Baidu, ao exército chinês. Embora essas empresas tenham negado as acusações, a Alibaba processou o governo dos EUA nesta semana na tentativa de remover seu nome da lista negra do Pentágono.

Desenvolvedores americanos já haviam acusado concorrentes chineses de utilizar ataques de destilação para treinar seus modelos e rivalizar com a tecnologia de IA dos EUA a um custo reduzido. A OpenAI também denunciou práticas semelhantes por parte de grupos chineses. A Anthropic, que está se preparando para uma estreia de sucesso no mercado de ações, juntamente com a OpenAI, é uma das líderes em desenvolvimento de IA, embora alguns de seus modelos mais avançados, como o Mythos, tenham levantado preocupações sobre cibersegurança devido à sua capacidade de explorar vulnerabilidades em sistemas computacionais.