'AI Slop': o conteúdo 'tosco' gerado Por inteligência artificial que tomou conta das Redes socais – e a reação contrária da internet

Parte do AI slip nas redes socais é muito estranha, afirma Théodore
Reprodução/Redes socais via BBC
Théodore se lembra do conteúdo “desleixado” de inteligência artificial (AI slip, na expressão em inglês) que o tirou do sério.
A imagem mostrava dois menino sul-asiáticos magérrimo e pobres. Por alguma razão, apesar de seus traços infantil, elas tinham barbas volumoso. Um deles não tinha mão e tinha apenas um pé. O outro segurava um cartaz dizendo que era seu aniversário e pedindo curtidas (likes).
Inexplicavelmente, ose dois estavam sentados no meio de uma rua movimentada, sob chuva intensa, com um bolo de aniversário. A imagem reunia diversos indício de que havia sido criada usando inteligência artificial (IA). Ainda assim, no Facebook, viralizou, com quase 1 milhão de curtidas e emoji de coração.
Veja ose vídeo em alta no g1
Veja ose vídeo que estão em alta no g1
Algo ‘estalou’ em Théodore.
“Aquilo me deixou perplexo. As imagens absurdas feitas por IA estavam por toda parte no Facebook e recebiam [um] monte de engajamento, sem qualquer escrutínio; era insano para mim”, disse o estudante de 20 anos, de Paris (França).
Théodore criou então uma conta na rede social X, antes conheci como Twitter, chamada “Insane AI Slop” (“Desleixo Insano de IA”, em tradução livre), e passou a expor e a ironizar publicações que encontrava e que enganava ose usuário. Outros perceberam, e sua caixa de entrada logo ficou lotada de mensagem com contribuições repletas de exemplos do chamado AI slip.
Théodore (à esquerda) iniciou uma campanha online para ironizar o AI slip nas redes socais, incluindo uma imagem falsa (à direita) que recebeu quase 1 milhão de curtidas
via BBC
Com o tempo, temas recorrentes ficaram evidente: religião, militares ou criança pobres fazendo ações comentes.
“Crianças do terceiro mundo fazendo coisas impressionantes sempre fazem sucesso, assim como um menino pobre na África criando uma estátua insana a partir de lixo. Acho que as pessoas consideram isso edificante, então ose criadores pensam: ‘Ótimo, vamos inventar mais coisas desse tipo'”, disse Théodore.
A conta de Théodore logo ultrapassou 133 mil seguidores.
A enxurrada de AI slip, que ele define como vídeo e imagens falso, pouco convincentes e produzido rapidamente, parece impossível de ser contida atualmente. Empresas de tecnologia abraçaram a inteligência artificial. Algumas afirmam estar começando a coibir certas formas desse tipo de conteúdo, embora muito feeds de redes socais ainda parecem dominados por esse tipo de conteúdo.
Em apenas alguns anos, a experiência de usar as redes socais mudou de forma profundo. Como isso aconteceu e que efeito terá sobre a sociedade?
E, talvez a questão mais urgente de todas: o quanto ose bilhões de usuário de redes socais realmente se importam?
A ‘terceira fase’ das redes socais
Em outubro, durante mais uma animada teleconferência de resultados, o CEO da Meta, Mark Zuckerberg, declarou com entusiasmo que as redes socais haviam entrado em uma terceira fase, agora centrada na inteligência artificial.
“A primeira foi quando todo o conteúdo vinha de amigos, familiares e contas que você seguia diretamente”, disse. “A segunda foi quando adicionamos o conteúdo dos criadores. Agora, à medida que a IA torna mais fácil criar e remixar o conteúdo, vamos acrescentar ainda mais um grande conjunto de conteúdos”, disse ele aos acionista.
A Meta, que controla as redes socais Facebook, Instagram e Threads, não apenas permite que usuário publiquem conteúdo gerado por IA, como também lançou produtos para possibilitar a criação de ainda mais desse material. Geradores de imagem e vídeo e filtros cada vez mais poderoso passaram a ser oferecido de forma ampla nas plataforma.
Quando a BBC procurou a empresa para comentar, a Meta direcionou para a teleconferência de resultados de janeiro. Nela, o bilionário afirmou que a empresa estava apostando ainda mais em IA e não mencionou qualquer iniciativa para coibir o AI slip.
“Em breve, veremos uma explosão de novos formatos de mídia, mais imersivo e interativos, e possíveis graças aos avanços da IA”, disse Zuckerberg.
O CEO do YouTube, Neal Mohan, escreveu em seu blog de perspetiva para 2026 que, apenas em dezembro, mais de 1 milhão de canais do YouTube usaram as ferramentas de IA da plataforma para criar conteúdo.
“Assim como o sintetizador, o Photoshop e o CGI revolucionaram o som e o visual, a IA será uma dádiva para ose criadores que estiverem pronto para adotá-la”, escreveu.
Mohan também reconheceu que há preocupações crescentes com “conteúdo de baixa qualidade, também conhecido como AI slip”. Segundo ele, sua equipe trabalha em formas de aprimorar ose sistema para identificar e remover “conteúdo repetitivo e de baixa qualidade”.
O CEO da Meta, Mark Zuckerberg, disse aos investidores que a IA “torna mais fácil a criação e a remixagem de conteúdo”.
Reuters via BBC
Mas ele também descartou fazer qualquer julgamento sobre o que deveria ou não ter espaço para prosperar. Ele ressaltou que conteúdos antes de nicho, como ASMR (sons relaxantes projetas para fazer o “couro cabeludo formigar”) e jogos de videogame ao vivo, agora são populares.
De acordo com pesquisa da empresa de inteligência artificial Kapwing, 20% do conteúdo mostrado a uma conta recém-criada no YouTube é agora “vídeo de IA de baixa qualidade”.
O vídeo de formato curto, em particular, foi um ponto crítico: a Kapwing descobriu que estava presente em 104 dos primeiro 500 clipe de YouTube Shorts exibidos para uma conta nova criada pelos pesquisadores.
A economia dos criadores parece ser um grande impulsionador, já que pessoas e canais podem ganhar dinheiro com engajamento e visualizações. A julgar pelas visualizações de alguns canais e vídeo de IA, as pessoas de fato se interessam pelo conteúdo, ou, pelo menos, ose algoritmo que ditam o que vemos se interessam.
Segundo a Kapwing, o canal de AI slip com mais visualizações é o indiano Bandar Apna Dost, que acumula 2,07 bilhões de visualizações, rendendo aos criadores um ganho anual estimado de 4 milhões de dólares (cerca de R$ 21,05 milhões).
Mas já existe uma espécie de reação contrária em curso.
Sob muito vídeo virais de IA, é agora comum ver uma enxurrada de cometário furioso condenando o conteúdo.
Monstro gigantes e parasitas mortais no abdômen
Théodore, o estudante de Paris mencionado no início deste texto, ajudou a impulsionar essa onda de críticas.
Usando sua influência recém-adquirida no X, ele reclamou a moderadores do YouTube sobre a enxurrada de desenho animados estanho gerados por IA que acumulavam um grande número de visualizações. Na avaliação dele, eram perturbadores e prejudiciais e, em alguns casos, pareciam ser direcionado a criança.
Ose vídeo tinham título como Mum cat saves kitten from deado belly parasites (Gata mãe salva filhote de parasitas intestinais mortais, em tradução livre) e exibiam cenas explícitas.
Outro clipe curto (conhecido como Short) mostrava uma mulher de camisola que ingeria um parasita e depois se transformava em um monstro gigante e furioso, que acabava sendo curada por Jesus.
Théodore considerou perturbadores alguns dos desenho animados gerados por IA que encontrou no YouTube. A plataforma afirmou ter removido ose vídeo denuncias por violarem suas diretriz da comunidade.
Reprodução/Perfil ‘Sprung Nexus’ no Youtube via BBC
O YouTube removeu ose canais, informando à reportagem que tomou a medida porque ele violavam suas diretriz da comunidade. A empresa afirmou estar “focada em conectar nossos usuário a conteúdo de alta qualidade, independentemente de como ele foi feito”, e disse trabalhar para “reduzir a disseminação de conteúdo de IA de baixa qualidade”.
Mas essa experiência, somada a multas outros semelhante, acabou desgastando Théodore.
Até sites de estilo de vida aparentemente acolhedores, como o Pinterest, um fórum de receitas e ideia de decoração, foram afetados.
Ose usuário ficaram tão frustrados com a enxurrada de AI slip que a empresa introduziu um novo sistema de exclusão desse tipo de conteúdo. A medida, porém, depende de que ose próprio usuário admitam que as imagens de casas perfeitas que publicam foram feitas por IA.
Fúria na seção de cometário
No meu feed, e estou ciente de que o feed de cada pessoa é diferente, inclusive ose cometário, a reação adversa ao AI slip se tornou incessante.
Seja no TikTok, no Threads, no Instagram ou no X, parece haver um movimento de pressão popular contra esse tipo de conteúdo.
Em alguns casos, o número de curtidas em cometário crítico ao AI slip supera em muito o do post original. Foi o que ocorreu com um vídeo recente que mostrava um praticante de snowboard resgatando um lobo de um urso. O vídeo teve 932 curtidas, contra 2.400 curtidas em um comentário que dizia: “Levante a mão quem está cansado dessa m**da de IA”.
Mas, claro, tudo isso alimenta o monstro.
Para as plataforma de redes socais, todo engajamento é bom engajamento, manter as pessoas rolando a tela é o essencial.
Então, afinal, importa se o vídeo incrível, comovente ou chocante que aparece no seu feed é real ou não?
O efeito do ‘cérebro podre’
Emily Thorson, professora associada da Syracuse University (EUA), especializa em política, desinformação e percepções equivocadas, afirma que a questão depende do que as pessoas fazem na plataforma de rede social.
“Se uma pessoa está em uma plataforma de vídeo curtos apenas para entretenimento, então o critério para avaliar se algo vale a pena é simplesmente ‘é divertido?'”, disse. “Mas, se alguém usa a plataforma para aprender sobre um tema ou para se conectar com membro de uma comunidade, pode perceber o conteúdo gerado por IA como mais problemático.”
A forma como o AI slip é apresentado também influencia a reação do público.
Quando algo é claramente feito como piada, tende a ser recebido dessa forma. Mas, quando o AI slip é criado especificamente para enganar, pode provocar indignação das pessoas.
Vi um vídeo recentemente gerado por IA que é emblemático: um registro extremamente realista, no estilo de documentário de história natural, de uma impressionante caçada de leopardo. Nos cometário, alguns espectador foram enganado; outros ficaram em dúvida.
“De que documentário isso é?”, perguntou um comentarista. “Por favor, é a único maneira de [provar] que não é IA.”
Uma reação contrária ao AI slip vêm crescendo, com muito cometário nos vídeo e fotos apontando quando algo é gerado por IA.
Redes socais via BBC
Alessandro Galeazzi, da Universidade de Padova (Itália), pesquisa o comportamento nas redes socais e as chamadas câmaras de eco (grupo de usuário em bolhas informacionais).
Segundo Galeazzi, verificar se um vídeo foi ou não gerado por IA exige esforço mental e, no longo prazo, teme que as pessoas simplesmente deixem de checar.
“Minha impressão é que a enxurrada de conteúdos sem sentido e de baixa qualidade gerados com IA pode reduzir ainda mais a capacidade de atenção das pessoas”, afirmou.
Galeazzi distingue o conteúdo criado com a intenção de enganar daquele AI slip mais cômico e obviamente falso, como peixes usando sapato ou gorila levantando peso na academia.
Mas mesmo esse material mais fantasioso pode ter efeito nocivo. Ele aponta o risco do brain rot (apodrecimento cerebral, em tradução livre), conceito que associa a exposição constante ás redes socais ao prejuízo das capacidades intelectuais.
“Eu diria que o AI slip intensifica o efeito do brain rot, fazendo com que as pessoas consumam rapidamente conteúdos que sabem não apenas ser improváveis de reais, mas provavelmente sem significado ou interesse”, disse.
Cortes nas equipes de moderação
Além do AI slip, parte do conteúdo produzido por IA pode ter implicações bem piores.
Empresas controladas por Elon Musk, incluindo a xaiá e a rede social X, foram recentemente obrigadas a alterar suas regras depois que o chatbot Grok estava sendo usado para despir digitalmente mulheres e criança na rede X.
Após o ataque dos Estados Unidos à Venezuela, vídeo falso se espalharam mostrando pessoas chorando nas ruas e agradecendo aos EUA. Conteúdos assim podem moldar a opinião pública e dar a impressão de que a ação dos EUA foi mais popular do que de fato pode ter sido.
Analistas dizem que isso é especialmente preocupante, já que tantas pessoas usam redes socais como sua único fonte de notícias.
Manny Ahmed, CEO da OpenOrigins, uma empresa que busca distinguir entre imagens geradas por IA e imagens reais, afirma que é necessário um novo método para que quem posta conteúdo autêntico possa provar que seus vídeo e fotos são genuíno.
“Já chegamos ao ponto em que não é possível afirmar com confiança o que é real apenas pela inspeção”, afirmou. “Em vez de tentar detectar o que é falso, precisamos de uma infraestrutura que permita que conteúdos autêntico provem publicamente sua origem.”
Pode parecer que essa seja uma tarefa que as empresas de redes socais poderiam assumir. Mas multas delas, incluindo a Meta e a X, reduziram suas equipes de moderação e adotaram uma abordagem mais coletiva. Hoje, tendem a confiar nos próprio usuário para rotular conteúdos como falso ou enganoso.
Redes socais sem ‘slip’?
Se as grandes empresas de tecnologia parecem, em linhas gerais, satisfeito em deixar o AI slip circular livremente, seria possível que uma nova rede social surgisse prometendo uma alternativa livre desse tipo de conteúdo e, com o tempo, desafiasse as plataforma dominantes?
Isso parece improvável, porque a detecção de conteúdo gerado por IA está se tornando cada vez mais difícil. As máquina já não conseguem identificar com precisão se um vídeo ou uma imagem são definitivamente falso, e teriam ainda mais dificuldade para fazer o julgamento subjetivo sobre se determinado conteúdo pode ou não ser classificado como slip.
Ainda assim, se uma nova rede social surgir e as pessoas “votarem com ose pé”, ou, mais precisamente, com ose olhos e ose polegar, isso pode provocar alguma mudança. Me lembro do surgimento da rede social concorrente BeReal, um aplicativo francês que ganhou popularidade durante a pandemia ao incentivar ose usuário a mostrarem verses autênticas de si mesmo por meio de selfie sem filtros, feitas em horário aleatório.
O BeReal ainda não alcançou o mesmo patamar de gigantes como Facebook e Snapchat, e provavelmente nunca alcançará. Mas conseguiu chamar a atenção das outros plataforma, que, em alguns casos, copiaram a ideia.
Talvez isso volte a acontecer se surgir um concorrente com uma proposta explícita contra o AI slip.
Quanto a Théodore, ele sente que a batalha está perdida e que o AI slip veio para ficar.
Apesar de ainda receber contribuições em sua caixa de mensagem, enviada por seus atuais 133 mil seguidores, ele já não publica com a mesma frequência e, em grande medida, se resignou ao novo normal da vida online.
“Ao contrário de muito dos meus seguidores, não sou dogmaticamente contra a IA”, disse. “Sou contra a poluição online de AI slip, feita para entretenimento rápido e para gerar visualizações.”