Em novembro passado, o YouTube anunciou que exigiria que todos que enviam vídeos declarassem se eles envolvem “conteúdo alterado ou sintético realista” – incluindo o uso de ferramentas de IA generativa.
A crescente prevalência de deepfakes e outras formas de conteúdo sintético gerou preocupações sobre a desinformação e o impacto potencial na confiança pública. A medida do YouTube de exigir a rotulagem de tais conteúdos é um passo positivo para aumentar a transparência e ajudar os usuários a discernir entre o que é real e o que é artificial.
No entanto, ainda há algumas lacunas a serem preenchidas.
Por exemplo, como o YouTube definirá “conteúdo alterado ou sintético realista“? A plataforma dependerá dos criadores para rotular seus próprios vídeos com precisão, o que pode levar a inconsistências. Além disso, como o YouTube lidará com conteúdo que é rotulado incorretamente?
Leia também:
- Fraude no Spotify: Artistas são punidos por streams artificiais!
- TikTok Banido nos EUA: Lei Americana Propõe Proibição do Aplicativo
- Mais de 38% das músicas do TikTok são modificadas, revela estudo
A nova ferramenta do YouTube é um primeiro passo importante para regularização da IA na plataforma, mas é apenas o começo.
A plataforma precisará continuar a trabalhar para desenvolver medidas eficazes para combater a desinformação e proteger a privacidade dos usuários.
O debate sobre deepfakes e conteúdo sintético está apenas começando. É importante que todos os stakeholders, incluindo o YouTube, os criadores de conteúdo, os usuários e os reguladores, trabalhem juntos para encontrar soluções que protejam a sociedade e promovam a verdade.
O que é conteúdo alterado ou sintético?
Conteúdo alterado ou sintético é qualquer tipo de conteúdo que foi manipulado digitalmente para parecer real. Isso pode incluir:
- Vídeos deepfake, que são vídeos manipulados para fazer com que uma pessoa pareça dizer ou fazer algo que ela não disse ou fez.
- Imagens geradas por IA, que são imagens criadas por computador que não representam nada que exista no mundo real.
- Vídeos editados para remover ou adicionar elementos, como alterar o cenário ou inserir pessoas que não estavam presentes na filmagem original.
Como o YouTube identificará esse tipo de conteúdo gerado por IA?
O YouTube usará uma combinação de tecnologia de IA e revisão humana para identificar conteúdo alterado ou sintético. A plataforma também dependerá dos criadores de conteúdo para rotular seus próprios vídeos com precisão.
A partir de agora, os criadores de conteúdo do YouTube que usarem “conteúdo alterado ou sintético realista” em seus vídeos serão obrigados a divulgá-lo. Isso pode ser feito através de uma nova opção no painel do Creator Studio.
Quais são as implicações para a privacidade?
O YouTube está trabalhando em um processo de privacidade atualizado para permitir que as pessoas solicitem a remoção de conteúdo gerado por IA ou outro conteúdo sintético ou alterado que simule um indivíduo identificável, incluindo seu rosto ou voz.
Conclusão
A nova ferramenta do YouTube para rotular “conteúdo alterado ou sintético” é um passo importante para aumentar a transparência e proteger a privacidade dos usuários. No entanto, ainda há muitas perguntas a serem respondidas sobre como essa ferramenta será implementada e quais serão seus impactos a longo prazo.