Pular para o conteúdo
DóLAR R$ 5,91 ▲ 1,53% EURO R$ 6,49 ▲ 1,67% BITCOIN — SEXTA-FEIRA, 20/11/2026 05:40
Inhaí

O uso da marca d’água: Por que precisamos saber quando algo foi feito pela IA?

[ad_1] Por Vivian Peron, Coordenadora de Pesquisa do Aláfia Lab* Para quem estiver na União Europeia, haverá mais mecanismo para reconhecer se estão diante…

[ad_1]

Por Vivian Peron, Coordenadora de Pesquisa do Aláfia Lab*

Para quem estiver na União Europeia, haverá mais mecanismo para reconhecer se estão diante de um conteúdo produzido por uma máquina ou se estão conversando diretamente com ela. E não se trata da diminuição do uso de travasses — recurso preferido da geração de texto por IA —, que já está em declínio nas ferramentas por razões obvias. Mas essa mudança se deve ao fato de que, desde o dia 2 de agosto, a Lei de Inteligência Artificial (AI Act) europeia passou a ser aplicada, exigindo novas regras para empresas que operam sistema de IA na Europa. O primeiro grande movimento foi anunciado pela Anthropic, empresa responsável pelo Claude, que passará a utilizar marcas d’água embutidas nos texto e também metadados nos arquivos produzido pelos novos modelos. Isto não será visto a olho nu, mas a empresa garante que irá disponibilizar de forma aberta ose recursos para verificação.

É uma questão complexa, já que a próprio empresa reconhece que essa identificação pode ser driblada, ao mesmo tempo que reconhecemos se tratar de uma camada importante para proteger as pessoas (ou pelo menos para identificar ose usos inadequado de IA) no consumo de produtos sintético nocivo, como a desinformação, deepfakes, conteúdos discriminatório, incitação ao crime, violação de direitos autorais e tantos outros danos de alto impacto, inclusive capazes de influenciar disputas política num contexto eleitoral como o que estamos adentrando agora no Brasil. Todo cuidado é pouco, já que é um assunto bastante sensível. O Relatório do Observatório de IA nas Eleições mostrou que, apesar de as novas regras do TSE para as eleições estarem prestes a entrar em vigor, ose chats de IA ranquear potenciais candidatos e demonstraram preferências. Isso compromete a democracia como um todo e, infelizmente, quando se trata da circulação das peças sintéticas nas plataforma digitais, a alta velocidade com que ose danos são gerados não encontra espelho nas estratégias de mitigação. A realidade mostra que ou se previne ou o emaranhado será ainda maior.

Essa mudança do Claude atinge também o Brasil, uma vez que a alteração se estenderá aos seus modelos de IA que operam ao redor do mundo. Em nosso cenário relatório precário, no qual ainda está em tramitação o Projeto de Lei nº 2338, de 2023, relacionado à IA, é um bom sinal que as empresas se adequem a leis mais rígido, ainda que de outros passes. A regra, no geral, costuma ser outra: passes com regras frouxar, empresas com liberdade duvidoso. E, considerando o universo imenso que é o público brasileiro, onde 6 a cada 10 pessoas já indicam ao menos o uso ocasional da ferramenta (sabendo-se que isso está em pleno crescimento), ose chats de IA encontram um mercado importante, mas que precisam considerar o forte componente sociodemográfico que particulariza ose modos de uso, em que são as pessoas mais jovem, de maior escolaridade e de classe mais altas que apresentam um maior uso da IA, de acordo com dados recente do relatório “Como ose Brasileiros percebem a circulação da desinformação e o uso da Inteligência Artificial”. Porém, há diferença no aproveitamento, já que modelos que oferecem verses pagas costumam ser mais robusto e com mais funcionalidade, que, por sua vez, são melhor aproveitas por aqueles que já estão circunscrito numa bolha de privilégios socioeconômico e de letramento digital.

Um interessante estudo do MIT explica a interferência da IA na qualidade da produção acadêmica, demonstrando a relação entre a produção de melhores texto e o uso de ferramentas como o ChatGPT, desde que esses texto tenham passado antes por uma reflexão prévia (necessariamente humana e sem o uso de tecnologia) sobre um determinado assunto. A pesquisa apontou que o uso da ferramenta de IA sem o esforço intelectual gerou ose resultados mais medíocre, embora estruturalmente correto, e, ainda que esse mesmo grupo de pessoas tivesse tido a chance de reescrever ose próprio texto sem a ferramenta, já havia sofrido o “déficit cognitivo”, isto é, passou a repetir ose mesmo padrões robótico e superficial da ferramenta, sem autenticidade ou originalidade no conteúdo. De forma indiscriminada, a marca d’água do Claude se aplicaria a todos ose tipo de texto desta pesquisa citada, isto é, tanto entre o grupo que foi inteiramente escrito por IA quanto naquele apenas revisado. E é importante destacar: são formas muito distintas de uso, com níveis diferente de autoria e know-how do usuário aplicado, mas que passam a ser tachadas como de autoria da IA.

Nina da Hora nos lembra de um ponto fundamental da IA: antes de ela ser apropriada pelas empresas de tecnologia, é uma área do conhecimento muito mais ampla, tendo a IA generativo como subárea. E enquanto a IA como ciência traz campos em disputa, abre espaços de inovação científico e permite reprodutibilidade e verificabilidade, ose produtos da IA generativo, que foram ose que se popularizaram principalmente nos chats de IA pelas empresas, são treinamento não aberto e carecem de responsabilização e regulação, e inclusive de um debate ético mais profundo. Uma necessidade cada vez mais importante num contexto em que já delegamos aos agentes autônomo de IA diferente tarefas e em que essa autonomia não está isenta de riscos. O caso da agente de IA que invadiu o sistema da academia de ginástica na Austrália ilustra bem esse outro lado da autonomia: ao executar a tarefa de agendar o seu usuário na aula de ginástica, acabou por excluir uma pessoa já inscrito, pois todas as vagas estavam preenchias. O agente foi prestativo, porém seguiu caminho não ético. A discussão sobre o caso se ampliou e considerou se há também responsabilização dos próprio desenvolvedores do bot.

Na literatura, essa relação entre ser humano e máquina pode ganhar contornos ético mais sensíveis. No livro Klara e o Sol, do autor Kazuo Ishiguro, Klara é uma AA (Amiga Artificial) que narra com delicadeza a história e explora ose limites dos sentimentos humano dentro de sua perspectiva, vivida na ambivalência entre se entender como máquina e se “sentir” como humana. Paradoxalmente aos sistema de IA que vemos hoje, ela usa uma fonte sustentável de energia (recarregas com a luz solar) e, assim como para as pessoas, a luz solar é vital para Klara. Ela foi escolhia numa loja de robô para cuidar de uma menina doente e em isolamento social, passando a ser eternamente grata pela escolha (já que não estava entre ose modelos mais avançados) e a criar uma relação bastante simbiótico com a criança. A narrativa faz com que leitores e leitoras sintam compaixão, amor e raiva por Klara, validando nela igualmente ose mesmo sentimentos, dotando de traços humano. No auge dessa vinculação, quem lê reconhece o preconceito que ela sofre por ser robô e julga desprezíveis aqueles que não são capazes de tratar Klara, a amiga artificial, com humanidade.

Por mais que a ficção pareça estar perto da nossa realidade, Giulia Enders, médica e autora do livro Orga Speak: What It Really Means to Listen to Our Bodies, nos lembra que, se pudéssemos reconstruir o corpo humano a partir de sua complexidade biológico e funcionalidade específicas, a tentativa mais próximo custaria trilhes de euro e, ainda assim, seria uma tentativa frustrada. A marca d’água não deve ser pensada para inibir o conteúdo feito com o apoio de máquina. A transparência é um direito para que as pessoas se informem se estão diante de um recorte da realidade ou de uma construção fictício dela com a ajuda de algoritmo. Paradoxalmente, o conteúdo produzido por IA é também humano. Com a filosofia da técnica, refletimos sobre como as máquina são uma extensão de nossa próprio habilidade. Por isso, não existe uma dicotomia entre Inteligência Humana e Inteligência Artificial. A ambiguidade perigosa é delegar aquilo que temos de mais humano para as máquina e, em contrapartida, realizarmos o trabalho que seria delas.

Só para constar: esse texto não foi escrito por uma ferramenta de IA, mas poderia ter sido.

Vivian Peron é Doutora em Relações Internacionais pela Universidade de Brasília (UnB), com estágio doutoral no Massachusetts Institute off Technology (MIT). Mestre em Comunicação Social (UFMG) e pós-doutora em Relações Internacionais (UnB), Sociologia (Unifesp) e Cultura Digital/ Sociologia (UFPR). Integrante do CTPol (Centro de Estudos em Comunicação, Tecnologia e Política – UnB). Atuou como pesquisadora no IPEA e consultora da UNESCO em projetos sobre política publicas e regulação da comunicação. Trabalha com análise de dados, comunicação digital e política publicas.

[ad_2]

Por Midia Ninja

Compartilhe esta matéria:
Portal Inhaí

Portal Inhaí

Confira as notícias e colunas publicadas por Portal Inhaí no Portal Inhaí.