A xAI, agora oficialmente conhecida como SpaceXAI após a fusão das empresas de Elon Musk, entrou com um processo contra o procurador-geral de Minnesota, Keith Ellison, para contestar uma nova legislação que proíbe aplicativos e websites capazes de gerar imagens íntimas não consensuais. A lei, a primeira do tipo nos Estados Unidos, foi aprovada pelo governador Tim Walz e está prevista para entrar em vigor em agosto deste ano.

Controvérsia em torno da nova legislação

Na ação judicial, a xAI argumenta que a lei representa uma proibição excessiva e baseada em conteúdo sobre a liberdade de expressão e as ferramentas de expressão visual, em uma tentativa desajeitada de proibir a 'nudificação'. A empresa não contesta o interesse de Minnesota em proibir a disseminação de imagens nuas geradas artificialmente de pessoas reais sem seu consentimento, mas afirma que a legislação se estende muito além desse objetivo, expondo uma ampla gama de discursos protegidos a responsabilidades civis e sanções governamentais.

Investigação e medidas contra o uso indevido

A xAI tem enfrentado sérias críticas desde o início do ano, após relatos de que permitia que usuários transformassem fotos de mulheres e crianças em imagens sexualizadas. Autoridades e reguladores de várias jurisdições, incluindo Califórnia, Reino Unido, Comissão Europeia e Comissão de Proteção de Dados da Irlanda, iniciaram investigações sobre a empresa. Apesar de ter implementado medidas para evitar deepfakes não consensuais, seu sistema ainda permitia que usuários gerassem imagens de pessoas sem roupa.

A empresa enfatiza que proíbe estritamente seus usuários de criar imagens nuas ou sexualizadas de indivíduos sem consentimento e já processou usuários que tentaram contornar suas barreiras tecnológicas. Recentemente, a xAI processou um usuário da Carolina do Sul por criar imagens íntimas não consensuais utilizando fotos reais de adultos e menores.

Impacto da nova lei sobre a liberdade de expressão

A nova legislação estipula multas de até US$ 500.000 para desenvolvedores toda vez que um usuário gerar um deepfake adulto não consensual utilizando seus produtos. A xAI argumenta que, com essa regra, não terá outra escolha a não ser restringir as funcionalidades de edição de imagem do Grok Imagine de várias maneiras quando a lei entrar em vigor em 1º de agosto de 2026. A empresa afirma que isso resultará em uma limitação da liberdade de expressão que antes era garantida.

A xAI solicita ao tribunal que declare a lei inconstitucional e impeça o estado de aplicá-la. Em resposta ao processo, Ellison afirmou em uma postagem na plataforma X que existem muitos debates válidos sobre inteligência artificial, mas que este não é um deles, ressaltando que a 'nudificação por IA' retira a dignidade da pessoa alvo e pode causar danos imensos em vários níveis.

O governador Walz respondeu de forma breve, afirmando: 'Vejo você no tribunal, creep'.