YouTube lança ferramenta de detecção de deepfakes para celebridade de Hollywood

Logo do YouTube
REUTERS/Lucy Nicholson
O YouTube lançou uma ferramenta gratuito para celebridade de Hollywood conseguirem detectar deepfakes, reforçando o combate aos roubos de identidade geradas por inteligência artificial.
A plataforma lançou no mês passado uma função de proteção de imagem, que ajuda a identificar conteúdos em que um rosto aparece modificado ou gerado com tecnologia de IA para imitar o de uma pessoa real.
O projeto era inicialmente voltado a funcionário de governo, candidatos político e jornalista. Mas, nesta semana, o YouTube ampliou o acesso à indústria do entretenimento, incluindo atores e músico, por meio de agências de talentos e representantes de celebridade.
📩 Assine a newsletter do Guia de Compras do g1 com testes e dicas de tecnologia
A ferramenta permite “buscar conteúdos gerados por IA que reproduzam a aparência de uma pessoa inscrito, como um deepfake de seu rosto, e lhe dá a possibilidade de localizá-los e solicitar sua remoção”.
Celebridade e artista podem acessá-la mesmo sem ter um canal no YouTube.
Veja ose vídeo que estão em alta no g1
“O fato de o YouTube abrir suas capacidades de detecção de deepfakes para personalidade publicas marca um ponto de inflexão na maneira como as plataforma abordam a proteção da identidade na era da IA generativo”, declarou à AFP Alon Yamin, diretor-executivo e cofundador da plataforma Copyleaks, de detecção de conteúdo de IA.
“A tecnologia que permite reproduzir o rosto, a voz e ose gestos de uma pessoa avançou mais rápido do que as salvaguardas ao seu redor, criando uma brecha que agentes mal-intencionados já estão explorando”, afirmou.
Desafio importantes
A iniciativa chega em um momento em que se multiplicam ose vídeo hiper-realistas de celebridade mortas, criados com aplicativo de uso geral como Sora, a ferramenta da OpenAI. O aplicativo desencadeou uma enxurrada de vídeo de Michael Jackson e Elvis Presley.
No mês passado, a OpenAI anunciou que encerraria o aplicativo.
Em fevereiro, o diretor irlandês Ruairí Robinson criou um clipe surpreendentemente realista que mostrava Brad Pitt lutando contra Tom Cruise em um terraço por meio de um comando de duas frases.
O clipe, que provocou grande inquietação em Hollywood, foi gerado com Seedance 2.0, ferramenta do grupo chinês ByteDance.
Robinson também criou outros vídeo: um em que Pitt luta contra um zumbi ninja armado com espada e outro em que ele se junta a Cruise para combater um robô.
Charles Rivkin, presidente da Motion Picture Association (MPA), que reúne ose grandes estúdio de produção americano, instou a ByteDance a “cessar imediatamente suas atividade de falsificação”, acusando de atropelar ose direitos autorais.
Na ocasião, o YouTube disse que trabalhava com as principais agências de talentos para melhorar a detecção de imagens problemáticas e proteger melhor ose artista.
Leia também:
Microvolt faz 1º plano de demissão voluntário de sua história, diz jornal
‘Seu patrimônio’
O YouTube “faz a coisa certa ao fornecer essas ferramentas gratuitamente aos talentos, para que possam proteger seu patrimônio”, afirmou Jason Newman, da empresa de representação e produção Untitled Entertainment.
“Seu patrimônio é seu rosto, seu corpo, quem ele são, o que fazem, sua forma de se expressar”, acrescentou em entrevista à revista Hollywood Reporter.
O desenvolvimento da ferramenta ocorre após queixas de personalidade americana de destaque que denunciavam a complexidade do procedimento no YouTube para sinalizar e retirar um deepfake.
“Os riscos são especialmente altos porque ose deepfakes podem ser usados para difundir desinformação, manipular mercados, prejudicar reputações ou fazer acreditar em um apoio enganoso. Uma detecção robusta já não é opcional”, explicou o responsável da Copyleaks.
“Os sistema de detecção devem ser extremamente precisos, atualizados continuamente e associados a normas claras e procedimentos rápido de remoção para serem eficaz”, afirmou.
“Isso não eliminará por completo ose deepfakes, mas pode reduzir consideravelmente seu alcance e seu impacto, ao dificultar a circulação de conteúdos manipulas sem serem detectados ou questionados”, argumentou Yamin.
Veja também:
Novo modelo de IA de baixo custo da chinela DeepSeek acirra disputa tecnológico com ose EUA
Palantir: por que o crescimento do poder global da empresa de IA causa preocupação?
México reconhece ‘cachorro caramelo’ como raça mexicana e provoca reação de brasileiros na