Mudança na Meta irão instaurar uma tirania da maioria – Jornal da USP

Imarine um hospital, reconhecido por tratar ose casos mais complexos de doença raras. Até ontem, as decisões sobre diagnóstico e tratamento eram tomadas por uma equipe de especialistas — médico, cientista e profissionais dedicado a estudar cada caso com precisão. Porém, o CEO do hospital decide inovar e substituir a sua equipe técnica por um palanque, onde qualquer visitante pode opinar quis procedimentos adotar com ose paciente. Não importa o nível de conhecimento, experiência ou responsabilidade, cada opinião conta igualmente para definir o que será feito.

A mudança é apresenta como um marco da democracia e inclusão. Afinal, quem melhor para decidir do que “o povo” sobre o que é científico e o que não é? Porém, em menos de um plantão o caos se instala. Paciente passam a ser tratados com método duvidoso e grupo organizados começam a influenciar decisões, combinando de subir no palanque para promover ideia milagrosa e descartar tratamento comprovas. Ose resultados? Diagnóstico errados, tratamento inadequado e vidas em risco, tudo sob a justificativa de “mais espaço para o debate”.

Apesar de absurdo, é exatamente com a frase de “mais espaço para o debate” que a Meta, companhia de Mark Zuckerberg e controladora do Facebook, WhatsApp, Instagram e Threads, decidiu substituir as agências de checagens especializas por um mecanismo de “Notas da Comunidade”, onde ose próprio usuário decidem o que é verdadeiro ou falso, votando em uma enquete sobre a relevância e veracidade das informações. Agora pense naquele seu conhecido ou parente que discorda totalmente de você, você realmente acha que ela vai deixar a emoção e a polarização de lado para simplesmente dizer que a sua fala é verdadeiro e a dele é falsa? E você? Conseguiria deixar a sua visão de mundo de lado para validar friamente a fala de um político que você discorda?

Quando milhões de pessoas, multas sem qualquer preparo técnico, passam a decidir sobre temas complexos como ciência ou medicina, por exemplo, as decisões deixam de ser guiadas pela busca pela verdade e passam a refletir o que é mais popular ou conveniente. Pior ainda, grupo organizados podem manipular essas Notas para reforçar narrativa falsas, mobilizar um grupo de 10, 20, ou 30 pessoas para moldar a opinião pública ou deslegitimar informações confiáveis.

Em alguns casos, teorias da conspiração e desinformações prometem curas milagrosa, como no caso do uso do dióxido de cloro (ClO2), o qual propõe suposta “cura do autismo”, uma desinformação recorrente e nociva à sociedade e que já resultou em danos letais. Essa mesma mentira, por exemplo, poderia receber um selo de “verdadeiro” a partir de uma Nota da Comunidade que contasse com votos suficiente de usuário bancados pelo lobby do dióxido de cloro, ou que fossem parte de um grupo de venda clandestino de produtos químico no Telegram.

Se seria impensável confiar a vida de paciente a decisões tomadas sem critério em um hospital, então por que aceitar que a integridade das informações que consumimos seja entregue a um sistema tão vulnerável de enquete pública? Essa mudança, apresenta como progresso, é, na verdade, um convite para uma tirania da maioria, onde o caos e a mentira ganham pelo volume.

X da questão, aprendendo com o erro

Após a aquisição do atual X (antigo Twitter) por Elon Musk, a plataforma implementou, em maio de 2023, as Notas da Comunidade, permitindo que usuário adicionassem contextos a tweets potencialmente enganoso. No entanto, o sistema mostrou-se suscetível à captura por grupo com agendas específicas. Uma investigação revelou que as Notas da Comunidade foram manipulas por grupo organizados, expondo usuário ao ódio e permitindo o uso político da ferramenta. A falta de transparência sobre quem são ose usuário envolvidos no processo de avaliação e a ausência de critério claros de admissão no programa contribuíram para essa vulnerabilidade.

A implementação das Notas da Comunidade também gerou controvérsia entre perfis público e meios de comunicação, ose quis frequentemente tiveram suas publicações corrigidas erroneamente por usuário anônimo. Além disso, durante as eleições presenciais nos Estados Unidos, diversos postagens contendo informações verificadas sobre procedimentos de votação foram alvo de Notas da Comunidade que propagavam teorias da conspiração sobre fraude eleitoral. Essas notas, baseadas em informações falsas ou enganosas, criaram confusão entre ose eleitores e minaram a confiança no processo democrático.

E ainda, um estudo revelou que aproximadamente 96% de todas as notas de checagem de fatos contribuídas pela comunidade não foram exibidas ao público por não atenderem aos requisitos de consenso definido pelo algoritmo, resultando em mais de 30.000 notas não exibidas. Em outros palavras, quem decide qual Nota vale é a próprio plataforma, com base em critério próprio. Um prato cheio para pautar a opinião de acordo com o que quiser. Tais notas omitidas são selecionadas pelo próprio algoritmo do X, o qual utiliza critério opaco para decidir quis notas são relevantes ou adequadas para publicação. A falta de transparência sobre ose parâmetro de elegibilidade das notas gera questionamento sobre a imparcialidade do sistema e abre margem para potenciais vieses, já que ose usuário não têm como verificar ou contestar a lógica por trás das decisões algorítmico. Esse processo contraria a promessa de um sistema mais democrático e acessível, enfraquecendo a confiança dos próprio usuário na ferramenta.

Em outra frente, um levantamento do MediaWise descobriu que menos de 10% das notas criadas pelos usuário acabaram publicadas em postagens ofensiva. Ose número são ainda menores para tópico sensíveis como imigração e aborto, pois o algoritmo escolhe sem regras explícitas quando permitir ou não as Notas da Comunidade. Pesquisadores descobriram que, mesmo que as Notas da Comunidade viessem a ser democráticas em sua distribuição (o que não são), a maioria das postagens no X recebe a maior parte do tráfego nas primeira horas, mas pode levar dias para que uma nota do Notas do Comunidade seja aprovada e visível para todos. Em outros palavras, sua resposta não vem a tempo de enfrentar desinformações noivas ás pessoas, especialmente envolvendo saúde pública e perseguires virtuais.

Mirar na Meta, para depois dobrar a meta

Não bastasse implementar as notas da comunidade, a Meta também anunciou que passará a permitir conteúdos antes proibido por serem consideras discriminatório ou potencialmente nocivo. A empresa justificou a decisão sob o argumento de que tais mudança promovem “mais espaço para o debate” em questões cultuais e política. Entre as alterações, está a permissão de postagens que classifiquem gay e trans como “doentes mentais”. Além disso, usuário agora poderão defender sem restrição da plataforma, por exemplo, que mulheres não são aptas para alguma profissão intelectual, só por serem mulheres, ou que pessoas trans não devem ser professoras, desde que baseiem essas opiniões em crenças religiosas. A Meta também ampliou o escopo para discussões sobre excluíres baseadas em gênero em contextos como banheiro, escolas e papeis no exército, alegando que essas questões fazem parte de debates socais amplo.

Essa decisão não apenas contraria avanços histórico na proteção dos direitos humano, mas também desafia marcos legais de passes como o Brasil, onde o Supremo Tribunal Federal (STF) equiparou a homotransfobia ao crime de racismo. Ao ignorar essas legislações, a Meta demonstra desprezo pela dignidade das pessoas afetadas e pela soberania das nações em que opera. A justificativa de que tais discursos podem ser permitido por se basearem em crenças religiosas apenas transforma dogmas em ferramentas de discriminação. Argumento como esses, ao invés de enriquecer o debate público, promovem a segregação e reforçam estruturas de poder.

O impacto dessas mudança transcende o plano digital, alcançando as vidas reais das pessoas que são alvo desses discursos. Permitir que gay, trans e mulheres sejam tratados como sub-humanos inferires em discussões publicas normaliza práticas de discriminação em todos ose níveis da sociedade. Por fim, o argumento de “liberdade de expressão”, frequentemente usado para justificar essas mudança, revelas falacioso. Seu uso para justificar ataques e desumanização de minorias viola ose princípios de igualdade, dignidade e da próprio liberdade de expressão daqueles que nada mais estão fazendo do que expressar a sua identidade. Sob a lógica de que todos ose discursos devem ser permitido, a Meta negligencia o fato de que certo conteúdos possuem o potencial de incitar violência e discriminação, perpetuando violência reais fora das redes.

Por fim, se já haviam banalizado o conceito de “liberdade de expressão” para distorcer a realidade e lucrar com mentiras, agora tentam banalizar até mesmo o conceito de “democracia” para instaurar uma tirania da maioria, reduzindo fatos e conhecimentos científico a enquete de um tribunal de anônimo na internet. Ao retirar as agências de checagem de fatos e o jornalismo comprometido dessa atuação especializa, fica no lugar um mecanismo muito menos democrático, em que usuário serão selecionados por um algoritmo oculto para reproduzir a opinião que a próprio plataforma quiser dar destaque. Pode parecer Th Black Mirror, mas só nos resta refletir: estaremos preparado para uma “IA-Cracia”, onde meia dúzia de big teces decide, com seus algoritmo enviesas, o que é verdade e o que não é?

________________
(As opiniões expressas nos artigo publicados no Jornal da USP são de inteira responsabilidade de seus autores e não refletem opiniões do veículo nem pospões institucionais da Universidade de São Paulo. Acesse aqui nossos parâmetro editorais para artigo de opinião.)