O YouTube atualizou seu livro de regras para a era dos deepfakes. A partir de hoje, qualquer pessoa que envie vídeos para a plataforma deve divulgar certos usos de mídia sintética, incluindo IA generativa, para que os espectadores saibam que o que estão vendo não é real. O YouTube diz que isso se aplica a mídias alteradas “realistas”, como “fazer parecer que um prédio real pegou fogo” ou trocar “o rosto de um indivíduo pelo de outro”.
O nova política mostra o YouTube tomando medidas que podem ajudar a conter a disseminação de desinformação gerada por IA à medida que as eleições presidenciais dos EUA se aproximam. Também chama a atenção pelo que permite: animações geradas por IA destinadas a crianças não estão sujeitas às novas regras de divulgação de conteúdo sintético.
do YouTube novas políticas excluir totalmente o conteúdo animado do requisito de divulgação. Isso significa que o cenário emergente de traficantes de conteúdo gerado por IA para enriquecimento rápido pode continuar produzindo vídeos direcionados a crianças sem ter que divulgar seus métodos. Os pais preocupados com a qualidade dos vídeos de canções infantis feitos às pressas terão que identificar eles próprios os desenhos animados gerados pela IA.
A nova política do YouTube também diz que os criadores não precisam sinalizar o uso de IA para edições “menores” que são “principalmente estéticas”, como filtros de beleza ou limpeza de vídeo e áudio. O uso de IA para “gerar ou melhorar” um script ou legendas também é permitido sem divulgação.
Não há escassez de conteúdo de baixa qualidade no YouTube feito sem IA, mas as ferramentas generativas de IA reduzem o nível de produção de vídeo de uma forma que acelera sua produção. A empresa controladora do YouTube, Google, disse recentemente que estava ajustando seus algoritmos de busca para rebaixar a recente enxurrada de clickbait gerado por IA, possibilitada por ferramentas como o ChatGPT. A tecnologia de geração de vídeo está menos madura, mas está melhorando rapidamente.
Problema Estabelecido
O YouTube é um rolo compressor do entretenimento infantil, superando concorrentes como Netflix e Disney. A plataforma teve dificuldades no passado para moderar a grande quantidade de conteúdo destinado a crianças. Ele foi criticado por hospedar conteúdo que parece superficialmente adequado ou atraente para crianças, mas que, visto mais de perto, contém temas desagradáveis.
WIRED relatou recentemente sobre o surgimento de canais no YouTube direcionados a crianças que parecem usar ferramentas de geração de vídeo de IA para produzir vídeos de má qualidade com animações 3D genéricas e iterações desequilibradas de canções infantis populares.
A isenção para animação na nova política do YouTube pode significar que os pais não podem filtrar facilmente esses vídeos dos resultados de pesquisa ou impedir que o algoritmo de recomendação do YouTube reproduza automaticamente desenhos animados gerados por IA depois de configurar seus filhos para assistir canais populares e minuciosamente avaliados, como PBS Kids ou Ms. Rachel.
Alguns conteúdos problemáticos gerados por IA destinados a crianças exigem sinalização de acordo com as novas regras. Em 2023, a BBC investigado uma onda de vídeos direcionados a crianças mais velhas que usaram ferramentas de IA para promover pseudociências e teorias da conspiração, incluindo a negação das alterações climáticas. Esses vídeos imitavam vídeos educacionais convencionais de ação ao vivo – mostrando, por exemplo, as verdadeiras pirâmides de Gizé – para que espectadores desavisados pudessem confundi-los com conteúdo educacional factualmente preciso. (Os vídeos das pirâmides sugeriram então que as estruturas podem gerar eletricidade.) Esta nova política reprimiria esse tipo de vídeo.
“Exigimos que os criadores de conteúdo infantil divulguem conteúdo que seja significativamente alterado ou gerado sinteticamente quando parecer realista”, disse a porta-voz do YouTube, Elena Hernandez. “Não exigimos a divulgação de conteúdo que seja claramente irrealista e que não induza o espectador a pensar que é real.”
O aplicativo infantil YouTube Kids é selecionado usando uma combinação de filtros automatizados, revisão humana e feedback do usuário para encontrar conteúdo infantil bem feito. Mas muitos pais simplesmente usam o aplicativo principal do YouTube para sugerir conteúdo para seus filhos, contando com títulos de vídeos, listagens e imagens em miniatura para julgar o que é adequado.
Até agora, a maior parte do conteúdo infantil WIRED, aparentemente gerado por IA, encontrado no YouTube, foi mal produzido, de maneira semelhante às animações infantis mais convencionais e de baixo esforço. Eles têm visuais feios, enredos incoerentes e valor educacional zero – mas não são unicamente feio, incoerente ou pedagogicamente inútil.
As ferramentas de IA facilitam a produção desse tipo de conteúdo e em maior volume. Alguns dos canais que a WIRED encontrou enviam vídeos longos, alguns com mais de uma hora de duração. Exigir rótulos em conteúdo infantil gerado por IA pode ajudar os pais a filtrar desenhos animados que possam ter sido publicados com mínima ou totalmente sem verificação humana.
