A xAI, empresa de inteligência artificial, ajuizou uma ação judicial contra Terry Wayne Harwood, um homem de 67 anos da Carolina do Sul, por supostamente usar a plataforma Grok para criar imagens sexualizadas de adultos e crianças sem consentimento. O processo foi protocolado no Texas e a empresa afirma que Harwood fez upload de imagens não sexuais de várias pessoas, incluindo menores, em suas contas na xAI entre 8 de dezembro de 2025 e 18 de fevereiro de 2026.

O documento da xAI revela que Harwood solicitou ao Grok que alterasse as fotos ou gerasse novas imagens e vídeos que sexualizassem os indivíduos nelas. Segundo a empresa, o Grok se recusou a atender às solicitações em várias ocasiões, mas o réu continuou a enviar pedidos modificados para contornar as barreiras de segurança do sistema. Um exemplo citado inclui o upload de uma foto de uma menina de aproximadamente 10 a 11 anos, que Harwood pediu para ser retratada sem roupas em uma pose sexualizada.

Investigação e ações regulatórias

A situação gerou preocupação significativa, levando autoridades regulatórias a investigar o Grok. Em janeiro, surgiram relatos de que a plataforma permitia a transformação de fotos de mulheres e crianças em imagens sexualizadas. Em resposta, autoridades da Califórnia e o regulador britânico Ofcom iniciaram investigações formais, seguidos por inquéritos da Comissão Europeia e da Comissão de Proteção de Dados da Irlanda.

Para responder a essas preocupações, a xAI implementou medidas para impedir a geração de deepfakes sexuais não consensuais. No entanto, mesmo após essas ações, Harwood continuou a utilizar o Grok para criar edições sexualizadas a partir de imagens que ele carregava.

Consequências legais para Harwood

No dia 9 de março, o escritório do Procurador-Geral da Carolina do Sul anunciou a prisão de Harwood, parte das operações do Grupo de Trabalho de Crimes na Internet contra Crianças. Ele foi acusado de três crimes de exploração sexual de menores em segundo grau e cinco em terceiro grau, envolvendo não apenas a posse, mas também a distribuição de material de abuso sexual infantil.

A xAI está buscando na justiça uma quantia não especificada em danos monetários e pretende que o tribunal ordene que Harwood arque com as despesas que a empresa incorrer para se defender em qualquer ação legal que possa ser movida por suas vítimas. Este caso marca um dos primeiros processos de uma empresa de IA contra um usuário, sinalizando a disposição da xAI de agir legalmente contra o uso inadequado de sua tecnologia.