O CEO da Anthropic, Dario Amodei, afirmou nesta segunda-feira que sua empresa "nunca defendeu um banimento de modelos de pesos abertos", em uma tentativa de responder às críticas que surgiram na indústria de tecnologia, sugerindo que o laboratório de inteligência artificial estaria buscando exercer controle excessivo sobre o futuro da IA.

As declarações de Amodei foram publicadas em um post de blog, após uma coalizão de empresas de tecnologia, incluindo Nvidia, Microsoft, Meta e Palantir, ter divulgado uma carta na semana passada pedindo que os formuladores de políticas evitem "restrições prematuras" sobre modelos de pesos abertos, que os usuários podem baixar, modificar e executar em suas próprias infraestruturas. Atualmente, startups chinesas dominam o mercado, e alguns oficiais do governo dos EUA estão começando a considerar se esses modelos deveriam ser banidos ou restringidos.

Contexto da Discussão sobre Modelos de Pesos Abertos

A Anthropic é mais conhecida pelo desenvolvimento de uma família de modelos proprietários chamada Claude, que a empresa vende para negócios. Seu principal concorrente, a OpenAI, também constrói principalmente modelos fechados, mas assinou apoio à carta sobre modelos de pesos abertos após sua publicação, enquanto a Anthropic não o fez.

“Para resumir minha posição e a da Anthropic, não temos e não estamos defendendo um banimento de modelos de pesos abertos como categoria”, escreveu Amodei. “Deveríamos nos concentrar em manter chips poderosos fora das mãos de regimes autoritários, interromper a destilação em escala industrial e exigir testes de segurança de todos os modelos suficientemente capazes, abertos e fechados.”

Preocupações sobre Destilação e Segurança Nacional

A destilação é um método de treinamento de IA onde um modelo menor e menos capaz é construído utilizando saídas de um modelo maior já disponível no mercado. No mês passado, a Anthropic enviou uma carta ao Comitê do Senado dos EUA sobre Bancos, Habitação e Assuntos Urbanos, alegando que a Alibaba da China, desenvolvedora da família de modelos Qwen, havia realizado "o maior ataque de destilação conhecido" contra a Anthropic até o momento.

Na carta divulgada na sexta-feira, os signatários afirmaram que preocupações sobre destilações ilegais deveriam ser tratadas por meio de "quadros legais e comerciais direcionados", uma ideia com a qual Amodei concordou na segunda-feira.

Amodei também expressou concordância com outras partes da carta, enfatizando que modelos de pesos abertos oferecem maior controle aos clientes, expandem o acesso à economia de IA e fortalecem a concorrência em alguns casos de uso. No entanto, ele discordou da ideia de que modelos de pesos abertos favorecem defensores cibernéticos em relação a atacantes ou que facilitam o desenvolvimento de salvaguardas.

Ainda assim, Amodei deixou claro que não apoia a proibição de modelos de pesos abertos. “Proibições protecionistas não abordariam minhas preocupações mais sérias de segurança nacional”, afirmou.