A Anthropic, uma das principais empresas de inteligência artificial dos Estados Unidos, denunciou a gigante chinesa Alibaba por supostamente ter realizado uma extração ilícita das capacidades do seu modelo de IA, o Claude. A acusação foi feita em uma carta endereçada a senadores americanos, onde a empresa afirma que operadores vinculados à Alibaba realizaram quase 29 milhões de interações com o Claude através de milhares de contas fraudulentas, caracterizando isso como a maior campanha de extração desse tipo já registrada.

No documento, datado de 10 de junho e obtido pela BBC, a Anthropic solicitou ao Congresso que tome medidas para penalizar empresas que realizam ataques desse tipo e aumente as medidas de proteção para evitar o roubo de tecnologias americanas. A carta menciona que a campanha de extração foi realizada por meio de ataques conhecidos como "ataques de destilação", que permitem que respostas de um modelo de IA mais poderoso sejam utilizadas para treinar um modelo mais fraco.

Segundo a Anthropic, os operadores ligados à Alibaba buscaram as capacidades mais valiosas do Claude, incluindo sua habilidade de lidar com tarefas complexas e sua abordagem de tomada de decisão. A empresa alertou que esse tipo de ataque está sendo realizado em uma "escala industrial", permitindo que empresas chinesas coletem e reempacotem as capacidades de IA dos EUA como se fossem suas.

Além disso, a carta enfatizou que esses ataques representam uma ameaça à segurança nacional dos Estados Unidos, citando afirmações do Departamento de Defesa que ligam a Alibaba e outras grandes empresas, como a fabricante de automóveis BYD e a empresa de tecnologia Baidu, ao exército chinês. Essas empresas negaram as alegações, e a Alibaba processou o governo dos EUA para remover seu nome da lista negra do Pentágono.

Desenvolvedores americanos já haviam acusado concorrentes chineses de utilizarem ataques de destilação para treinar seus modelos a um custo muito menor em comparação às tecnologias de IA dos EUA. A OpenAI também já havia feito acusações semelhantes contra grupos chineses.

A Anthropic, que está se preparando para uma estreia de sucesso no mercado de ações, é considerada uma das maiores desenvolvedoras de IA, ao lado da OpenAI, criadora do ChatGPT. Entretanto, alguns dos modelos mais avançados da Anthropic, como o Mythos, levantaram preocupações relacionadas à cibersegurança por sua capacidade de explorar vulnerabilidades em sistemas computacionais.