YouTube é um comunidade e recursos incomparáveis. É o único lugar onde tenho certeza de encontrar meu trabalho de atuação e direção, como clipes de audição inéditos de nosso Bill & Ted filmes ou um terrível comercial do KFC em que atuei como pré-adolescente que meu filho investigou. Como diretor de documentários, o YouTube é um esteio para meus pesquisadores e, muitas vezes, onde descobrimos o material de arquivo mais crítico, seja qual for o assunto. Mas o YouTube também abriga alguns dos conteúdos mais sombrios e perigosos online. Ele continua influenciando negativamente e radicalizando os usuários, levando-os até mesmo à violência no mundo real. É a maior e mais impactante de todas as plataformas de mídia, mas muitas vezes é totalmente deixada de fora da conversa sobre a influência nociva da internet. Meu último filme procurou entender por que isso acontece.
O Efeito YouTube é meu quarto documentário sobre o surgimento de várias comunidades online. Comecei a olhar atentamente para o YouTube e sua empresa controladora, o Google, após as eleições de 2016, quando o mundo online parecia perder sua mente coletiva, repleto de teorias da conspiração, propaganda eleitoral e discurso de ódio. Ao mesmo tempo, o YouTube continuou a ser um recurso inestimável para tudo o que faz bem: notícias granulares e mídia de arquivo de todo o mundo, conteúdo criativo de influenciadores e vídeos divertidos. Mas começaram a surgir problemas com o “efeito da toca do coelho”, em que o algoritmo de recomendação da empresa oferecia aos usuários conteúdos cada vez mais extremistas e radicalizadores.
As coisas chegaram ao auge em 2019, quando um atirador solitário em Christchurch, Nova Zelândia, assassinou 51 muçulmanos, deixando um manifesto que explicitamente creditava o YouTube como o principal motivador de sua onda. A empresa respondeu imediatamente: removendo a plataforma do YouTuber extremista Stefan Molyneux, uma das principais influências do atirador; formando forças-tarefa para mitigar danos futuros; e trabalhando para corrigir problemas com o algoritmo de recomendação. Mas os problemas persistiram, fazendo-me pensar se isso realmente era um problema algorítmico. O que deu ao YouTube seu poder inigualável e representou um perigo significativo para seus usuários? Mais tarde naquele ano, a produtora Gale Anne Hurd (Mortos-vivos) me perguntou se eu tinha interesse em fazer um documentário sobre o YouTube, e mergulhei de cabeça nessas questões.
É difícil para as pessoas definirem o que é o YouTube. Não é mídia social. Não são vídeos caseiros. Não são notícias, TV, filmes, rádio ou um mecanismo de busca. Não é um destino de influenciadores, uma fonte DIY ou o repositório de toda a história humana registrada. Isso é todos dessas coisas – a prole mutante da Biblioteca de Alexandria e da Torre de Babel. O YouTube é o front-end de mídia do Google, o segundo site mais visitado do planeta depois do próprio Google, e pertence e é administrado por sua empresa-mãe, a Alphabet, que é a maior de todas as grandes empresas de tecnologia em termos de engajamento do usuário.
A escala do YouTube é impressionante: mais de 4,6 bilhões de visualizações por dia, superando de longe qualquer outra plataforma da web ou aplicativo de mídia social. O produto entrou na Internet como um pequeno serviço de vídeo em 2005 e foi comprado pelo Google por US$ 1,65 bilhão em 2006. Um ano depois dessa compra, a maioria de nós estava viciada. Fomos fisgados pela facilidade de uso, diversidade de tirar o fôlego e amplo espectro de vozes, mas principalmente porque essa plataforma era visual. Forneceu uma intimidade recém-descoberta, ou um simulacro eficaz de intimidade, e o impacto emocional de vendo, não apenas conectando via áudio ou texto na tela. O YouTube era enorme, como todo mundo no mundo ao mesmo tempo, e os problemas começaram imediatamente.
Houve assédio sexual cruel e sérias ameaças de morte dirigidas a usuários – predominantemente mulheres, pessoas de cor e a comunidade LGBTQ+; incitação à violência por influenciadores radicais financiados por agentes do dinheiro negro com agendas políticas e muitas vezes extremistas; conteúdo altamente inapropriado inserido na programação infantil. E foi escalando, o que significa que esse conteúdo não estava à margem; estava ficando um envolvimento colossal e, enquanto trabalhávamos no filme, tudo apontava para outra tragédia. Desta vez foi a insurreição mortal no Capitólio dos Estados Unidos. Como a escritora Talia Lavin divulga em nosso filme, o estudo do grupo de jornalistas Bellingcat mostrou que a mobilização dos perpetradores foi impulsionada pela radicalização no YouTube mais do que em qualquer outra plataforma.
A narrativa distraída do “algoritmo” minou os esforços para explicar os perigos do YouTube ao público e aos formuladores de políticas, dificultando o progresso em direção a uma solução. Existem algoritmos em jogo e eles podem ser insidiosos. Mas um algoritmo não está na raiz do dano, e dois precedentes não técnicos bem conhecidos explicam o que é: um é a rivalidade acalorada entre Hearst e Pulitzer na década de 1890 que deu origem ao termo “jornalismo amarelo”, a disseminação de notícias conscientemente falsas ou exageradas para fins lucrativos. O outro é o livro de Ralph Nader Inseguro em qualquer velocidadeque expôs a indústria automobilística por resistir aos recursos de segurança de seus carros e ajudou a aprovar a Lei Nacional de Segurança de Trânsito e Veículos Automotores em 1966.
O problema com o YouTube é a monetização fora do comum do jornalismo amarelo por meio de uma plataforma de mídia global sem salvaguardas significativas. E quando um motivo de lucro é vinculado a uma plataforma baseada em vídeo, onde um criador de conteúdo está aparentemente olhando e falando diretamente com o usuário final, é criado um vínculo parassocial que tem um poder enorme. Agora, multiplique esse poder por 4,6 bilhões de visualizações por dia.
Alex Winter, diretor de ‘The YouTube Effect’.
Rick Wenner
Quando perguntei à então CEO Susan Wojcicki em meu filme sobre a plataforma causando danos ao mundo real, ela falou sinceramente sobre suas tentativas de abordar essas questões, como desplataformar influenciadores incendiários, o que eles acabaram de fazer no caso do teórico da conspiração Alex Jones. e sinalizar e remover conteúdo que não considerem adequado para seus anunciantes. Tudo verdadeiro e benéfico. No entanto, logo após a entrevista, Steven Crowder, um influenciador de extrema direita bem financiado, pediu guerra civil a seus quatro milhões de assinantes em seu canal repleto de anúncios no YouTube, depois que o FBI revistou pacificamente a casa do ex-presidente Trump na Flórida em busca de documentos confidenciais. Apenas algumas semanas atrás, o YouTube encerrou sua política de remoção de conteúdo relacionado ao movimento “Stop The Steal” que afirma que a eleição de 2020 foi uma fraude, a principal teoria da conspiração que impulsionou a insurreição e ainda incentiva a violência no mundo real.
O dano continua e será pior na era em que estamos prestes a entrar, quando os algoritmos forem combinados com IA sofisticada e a desinformação se espalhar como gasolina em um incêndio. Não é surpresa que, enquanto o modelo de negócios do YouTube funcionar, o lucro terá prioridade sobre as preocupações com a segurança do usuário final. Mas como um vasto monopólio tão poderoso e influente pode operar por tanto tempo sem supervisão?
O Google tem um poder de lobby incomparável. Seu dinheiro é espalhado liberalmente por todos os partidos em todo o mundo, permitindo-lhe manter os legisladores afastados com o acordo tácito de que se autopoliciará, o que não tem incentivo para fazer. Como resultado, a narrativa sobre danos causados pela Internet está sendo controlada pelas empresas de tecnologia, que culpam o usuário final pelos perigos causados por seu produto e promovem soluções impraticáveis: “Largue seu dispositivo, saia e toque na grama !”
Precisamos urgentemente que nosso Congresso e governos internacionais aprovem legislação significativa e leis antitruste e, finalmente, quebrem esses monopólios. Mas neste clima, é mais provável que tenhamos uma postura destinada a apaziguar os constituintes. Se entendermos os incentivos humanos que causam danos e rejeitamos narrativas desonestas e diversivas, podemos criar soluções viáveis e exigir ação específica do Congresso. É responsabilidade de todos nós e requer aceitação do bem que plataformas como o YouTube oferecem. Quando “outramos” ou demonizamos essas plataformas, negamos sua influência e propósito, ignorando que precisamos e as usamos diariamente.
Como Natalie Wynn, por trás do altamente popular canal ContraPoints no YouTube, afirma em nosso filme, não podemos esperar que a Big Tech nos salve; todo mundo tem que se envolver e aparecer um para o outro. Para Natalie, muitas das vozes mais altas para neutralizar os danos causados pelo YouTube podem ser encontradas no próprio YouTube. Pode parecer intragável, mas acredito que a resposta para o dano causado pela Big Tech não é desligar nossos dispositivos, mas nos engajar – para nos tornarmos mais conscientes da tecnologia e, portanto, mais criteriosos e informados sobre o que nós e nossos filhos , aceitar e, portanto, ficar mais bem armado para ajudar a lutar por soluções viáveis. E onde mais meus filhos podem ir para desenterrar coisas embaraçosas? Bill & Ted outtakes de seu pai? Então, eu estou por perto. Até que a IA venha atrás de mim.
