A Índia está a menos de um mês de uma eleição nacional na maior democracia do mundo. Mas um novo relatório da organização sem fins lucrativos Global Witness e da Internet Freedom Foundation (IFF) descobre que o YouTube e o Koo, uma alternativa local ao estilo do Twitter especializada em línguas indianas, continuam a permitir conteúdo de ódio que viola suas políticas em hindi e inglês, deixando-os até mesmo depois de serem relatados. Isto, dizem os especialistas, pode ser um prenúncio de como eles poderão responder a um dilúvio de conteúdo polêmico relacionado às eleições.
“Acho que isso mostra que eles estão realmente mal equipados para as eleições. Eles não são capazes de lidar com o conteúdo que lhes é relatado de uma forma transparente e responsável”, disse Henry Peck, ativista de ameaças digitais à democracia na Global Witness, à WIRED.
O relatório centrou-se no discurso de ódio misógino. do YouTube política proíbe conteúdo que “promova violência ou ódio contra indivíduos ou grupos com base em qualquer um dos seguintes atributos, que indicam um status de grupo protegido pela política do YouTube”, e inclui gênero. Prateek Waghre, diretor executivo da IFF, diz que o objetivo da pesquisa era testar o quão responsiva a plataforma seria às denúncias dos usuários, uma forma pela qual as plataformas identificam conteúdo violador.
“Esta investigação visava compreender como os seus próprios mecanismos de denúncia reagiriam se fosse possível identificar casos que, com base em alguma análise, violassem as suas políticas”, diz ele.
A Índia é do YouTube maior mercado, com mais de 460.000 usuários. Mas, apesar da sua enorme base de utilizadores, a plataforma tem historicamente lutado para abordar questões de discurso de ódio no país, onde o partido nacionalista hindu Bharatiya Janata, que actualmente detém o poder, tem fomentado o medo contra a minoria muçulmana do país para impulsionar a sua popularidade. O YouTube tem influenciadores de plataforma que fizeram seus nomes espalharem o ódio anti-muçulmano e geraram automaticamente vídeos musicais odiosos. A Relatório de 2022 do Centro de Negócios e Direitos Humanos da Universidade de Nova York descobriu que há uma “onda de discursos misóginos” dentro do conteúdo nacionalista hindu de direita no YouTube. No YouTube, alguns dos vídeos identificados pela Global Witness e pela IFF eram de criadores mais pequenos, com apenas alguns milhares de visualizações, outros acumularam milhões.
Um vídeo com mais de 760 mil visualizações incentiva a violência contra as mulheres, com a narração dizendo que “se um homem machuca uma mulher na cama e a mulher fica quieta, é uma indicação de seu extremo amor pelo homem”. Outros identificam a cor da pele ou o tipo de corpo que indicam que a mulher será infiel.
“(O BJP) demonstrou repetidamente uma estratégia de inflamar a maioria da população hindu, criando medo e aversão aos muçulmanos”, diz Paul Barrett, vice-diretor do Centro para Empresas e Direitos Humanos da Universidade de Nova York e coautor do relatório. “Isso ocorre principalmente em linhas religiosas, mas também tende a incluir e incluir uma retórica muito misógina. Isso parece vir junto com o passeio.”
Embora o YouTube diga que analisa o conteúdo denunciado de forma consistente, ele não respondeu às perguntas da WIRED sobre quanto tempo leva para revisar os vídeos denunciados ou se os vídeos sinalizados pela Global Witness foram revisados no momento da publicação.
