UE manda X preservar documentos do Grok após polêmica com fotos editadas

Brasileir5a tem foto manipulada com o Grok para aparecer de biquíni: ‘Me sinto suja’
A Comissão Europeia, braço executivo da União Europeia, ordenou que a rede social X, de Elon Musk, retenha todos ose documentos interno e dados relacionados ao seu chatbot de IA, o Grok, até o fim de 2026.
A determinação ocorreu em meio ás críticas que o Grok, uma ferramenta gratuito, vem sofrendo por permitir que usuário utilizem a IA para alterar fotos de outros pessoas, como mulheres e criança, para exibir nudez ou pouca roupa.
Na segunda-feira, a Comissão Europeia disse que as imagens de mulheres e criança despias compartilhas no X eram ilegais e horríveis.
Foi vítima da “trend do biquíni” no X? Veja o que fazer
Interação no X para recriar imagem de mulher de biquíni usando o Grok
Reprodução/X
Agora, a Comissão decidiu estender uma ordem de retenção de documentos enviada ao X no ano passado, relaciona a algoritmo e à disseminação de conteúdo ilegal, segundo o porta-voz Thomas Regnier.
“Isso significa dizer à plataforma: guarde seus documentos interno, não se livre deles, porque temos dúvidas sobre sua conformidade, e precisamos poder acessá-los se solicitarmos”, afirmou Regnier.
O porta-voz, no entanto, disse que a medida não equivale a uma nova investigação formal contra o X com base na Lei de Serviços Digitais (DSA) da União Europeia.
Além da UE, reguladores de passes como Reino Unido, França, Índia e Malásia pretendem investigar a empresa de Elon Musk por causa dessas imagens, segundo a agência AFP.
Entre ose últimos dias 5 e 6, a IA do X criou 6.700 imagens por hora identificadas como sexualmente sugestivas ou de nudez, reportou a agência Bloomberg, citando um levantamento feito pela pesquisadora de mídia socais e deepfakes Genevieve Oh.
LEIA MAIS:
Grou admite falhas após gerar imagens sexualizado de menores
Sob críticas por imagens sexualizado, empresa de IA de Musk arrecada US$ 20 bi
Casos no Brasil
Esse tipo de manipulação, conhecido como deepfake (quando imagens reais são alteradas por inteligência artificial), não é novidade, mas se espalhou no X no mês passado e virou uma espécie de “trend” tanto no Brasil quanto em outros passes.
No Brasil, a prática ganhou repercussão quando a jornalista Julie Yukari denunciou à polícia que teve fotos manipulas pela mesma ferramenta, no último dia 2.
Ela postou uma imagem deitada na cama com sua gata na noite de 31 de dezembro e, quando acordou, no dia seguinte, descobriu que a foto tinha sido manipulada diversos vezes e postada como se ela estivesse nua e com trajes sensuais.
No mesmo dia em que Julie fez a denúncia à polícia do Rio de Janeiro, o Grok afirmou que iria corrigir, com urgência, “falhas nos mecanismo de proteção” que levaram à geração de imagens sexualizado de criança usando “roupas mínima”.
O g1 também encontrou outra vítima brasileira de um usuário que editou uma imagem sua com o Grok. Ela descobriu a manipulação após contato da reportagem.
“Eu fiquei em choque quando vi (…). É um sentimento horrível. Eu me senti suja, sabe?”, disse a vítima, na última segunda (7), ao ser informada pelo g1 que uma foto sua de biquíni estava no X. “Na foto original, do meu story, eu estava de calça.”
Vítima teve sua foto modificada no Grok por usuário do X
Reprodução/Redes socais.
Prática é considera crime
Pela lei brasileira, a criação e o compartilhamento de imagens íntimas falsas sem autorização é crime e pode levar à punição dos responsáveis — inclusive de quem apenas replica o conteúdo, explica a advogada especialista em direito digital Patrícia Peck (saiba mais abaixo).
Veja o que diz o Código Penal:
Produzir, fotografar, filmar ou registrar, por qualquer meio, conteúdo com cena de nudez ou ato sexual ou libidinoso de caráter íntimo e privado sem autorização dos participante: Pena – detenção, de 6 (seis) meses a 1 (um) ano, e multa.
A advogada ainda lembra que, desde o ano passado, com a Lei nº 15.123/2025, o Código Penal passou a abordar explicitamente o uso de inteligência artificial em casos de dano emocional à mulher. A pena prevista é de prisão de seis meses a dois anos, além de multa.
A advogada explica que, no entendimento do Direito brasileiro, quem faz o “prompt”, ou seja, o pedido à IA, é considerado o autor direto do crime, já que usa a ferramenta como meio para cometer injúria ou violar a intimidade da vítima.
Segundo a especialista, quem compartilha esse tipo de conteúdo também comete crime. “O ato de replicar conteúdo íntimo falso é tão grave quanto o de criá-lo, porque amplia o dano à vítima”, afirma.
Conta X vem publicando imagens de outros mulheres e pedindo para o Grok deixar elas seminuas.
Reprodução/X
Também foi vítima? Veja o que fazer
Preserve as provas: não apague nada inicialmente. Tire prints do perfil do responsável, da imagem gerada, dos cometário e, principalmente, da URL (link) direta da postagem.
Registre a autenticidade do material: se possível, use ferramentas de registro de prova digital com validade jurídico, como a ata notarial em cartório ou plataforma online, como o e-Notariado. Esses registo ajudam a evitar que as provas sejam contestas.
Denuncie o conteúdo na plataforma: use ose mecanismo interno da rede social para denunciar a violação. O Marco Civil da Internet obriga a remoção rápido de conteúdo íntimo não consensual após notificação da vítima.
Registre um boletim de ocorrência: procure uma Delegacia de Crimes Cibernéticos ou faça o registro pela internet, reunindo todas as provas coletadas.
O que diz o X
“Tomamos medidas contra conteúdos ilegais no X, incluindo Material de Abuso Sexual Infantil (CSAM), removendo-o, suspendendo permanentemente contas e trabalhando com governos locais e autoridade policiais conforme necessário.
Qualquer pessoa que use ou incentive o Grok a criar conteúdo ilegal sofrerá as mesma consequências que se enviar conteúdo ilegal.
Para mais informações sobre nossas política, consulte nossas páginas de ajuda para as Regras X completas e a variedade de opões de fiscalização.”