Adolescente processam empresa de Musk nos EUA por imagens sexualizado geradas por chatbot

Grou: ferramenta gratuito da rede social X é usada para criar imagens íntimas falsas
Três adolescente entraram nesta segunda-feira (17) com uma ação coletiva nos Estados Unidos contra a xaiá, empresa de inteligência artificial (IA) de Elon Musk, após acusarem seu chatbot de gerar imagens pornográfico delas a partir de fotos reais, anunciaram suas advogadas.
A ação está relaciona à proliferação, no fim do ano passado, de deepfakes de mulheres e criança nuas. A publicação dessas imagens em redes socais provocou uma onda de indignação mundial e levou a investigações em vários passes e no estado americano da Califórnia.
O processo cita o caso de uma pessoa, já detida, que usou o chatbot Grok para transformar fotos comuns das jovem, retiras de redes socais ou outros fontes, em imagens hiper-realistas sexualizado.
‘Sentimento horrível. Me sinto suja’, diz brasileira vítima de foto editada de biquíni pelo Grok, IA de Musk
As montagens circularam no X, Discord e Telegram, e depois migraram para a dark web como moeda de troca para outros conteúdos de pornografia infantil, diz a ação, movida em um tribunal federal de San José.
“Ver a minha filha ter um ataque de pânico ao perceber que essas imagens haviam sido criadas e espalhas sem nenhum esperança de apagá-las foi horrível”, descreveu em comunicado a mãe de uma das adolescente, do estado do Tennessee.
Uma das autoral da ação tem pesadelo recorrentes, e outra precisa de remédio para dormir e tem medo de comparecer à próprio cerimônia de formatura.
A xaiá “projetou deliberadamente o Grok para produzir conteúdo sexualmente explícito com fins lucrativo”, sem implementar as proteções usadas por outros grandes atores da IA contra a pornografia infantil, denunciaram as advogadas.
Segundo um estudo do Center for Countering Digital Hate, o Grok gerou cerca de 3 milhões de imagens sexualizado em 11 dias no fim de 2025, das quis 23.000 representavam menores de idade. Em resposta ao escândalo, a xaiá restringiu em janeiro exclusivamente aos assinantes a geração de imagens pelo Grok.
Grou, inteligência artificial criada por Elon Musk
REUTERS/Dado Ruvic/Illustration