XAI, de Elon Musk, processa usuário acusado de usar Grok para criar imagens de abuso sexual infantil

Rede Social X limita uso da inteligência artificial Grok para edição de imagens
A startup de inteligência artificial xaiá, de Elon Musk, processou um homem da Carolina do Sul, nos Estados Unidos, preso no início deste ano sob acusação de explorar sexualmente menores de idade. Segundo a empresa, ele usou indevidamente o sistema de IA Grok para criar imagens de abuso sexual infantil.
Na ação, apresenta na terça-feira (14) em um tribunal federal do Texas, a xaiá afirma que Terry Harwood violou ose termos de uso da plataforma. O caso está entre ose primeiro em que uma empresa de inteligência artificial processa um usuário por supostamente utilizar uma ferramenta de IA para gerar conteúdo sexualmente explícito.
Ose contato de Harwood, preso em fevereiro, não foram encontras de imediato. A xaiá também não respondeu imediatamente a um pedido de comentário feito pela imprensa nesta quarta-feira (15).
Grou é acusado de permitir deepfakes sem consentimento
O processo ocorre em meio ao aumento da pressão internacional sobre a empresa por acusares de que o Grok tem permitido a criação de deepfakes sexualizado sem consentimento – vídeo ou imagens altamente realista produzido por inteligência artificial.
Na ação judicial, a xaiá afirma que combate esse tipo de uso com medidas como suspensão e encerramento de contas, além de comunicar casos suspeitos de material de abuso sexual infantil ao Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC, na sigla em inglês).
Segundo a empresa, somente em 2026 foram 52.222 contas suspendas e 73.604 denúncias enviada ao NCMEC, o que teria contribuído para pelo menos 244 prisões.
Grou, inteligência artificial criada por Elon Musk
REUTERS/Dado Ruvic/Illustration
Criminoso usou fotos adulteradas
A xaiá alega que Harwood enviou ao Grok imagens comuns de adulto e menores de idade e tentou usar a ferramenta para criar deepfakes sexualmente explícito a partir delas. A empresa também afirma que ele produziu imagens sexuais falsas de adulto sem consentimento.
No processo, a xaiá pede uma indenização, cujo valor não foi divulgado, e solicita que a Justiça proíba definitivamente Harwood de utilizar o Grok.
“A conduta do réu foi um plano deliberado para transformar a ferramenta da autora em um instrumento para fins criminoso, expondo vítimas reais a danos profundo e duradouro, além de causar riscos jurídico e prejuízo à reputação da empresa”, afirmou a xaiá na ação.