“Vamos fazer parceria com a Microsoft para descobrir se existem maneiras de usar nosso arquivo de material para criar uma espécie de sistema de detecção de IA de geração, a fim de combater a ameaça emergente de que a IA de geração será usada para conteúdo terrorista em grande escala”, Hadley diz. “Estamos confiantes de que a geração AI pode ser usada para defesa contra usos hostis da geração IA.”
A parceria foi anunciada hoje, na véspera do Christchurch Call Leaders’ Summit, um movimento destinado a erradicar o terrorismo e o conteúdo extremista da Internet, que se realizará em Paris.
“O uso de plataformas digitais para espalhar conteúdo extremista violento é uma questão urgente com consequências no mundo real”, disse Brad Smith, vice-presidente e presidente da Microsoft, em comunicado. “Ao combinar as capacidades da Tech Against Terrorism com a IA, esperamos ajudar a criar um mundo mais seguro, tanto online como offline.”
Embora empresas como a Microsoft, a Google e o Facebook tenham as suas próprias divisões de investigação em IA e provavelmente já estejam a implementar os seus próprios recursos para combater este problema, a nova iniciativa acabará por ajudar as empresas que não conseguem combater estes esforços por si próprias.
“Isso será particularmente importante para plataformas menores que não possuem seus próprios centros de pesquisa em IA”, diz Hadley. “Mesmo agora, com os bancos de dados de hash, plataformas menores podem ficar sobrecarregadas com esse conteúdo.”
A ameaça do conteúdo gerador de IA não se limita aos grupos extremistas. No mês passado, a Internet Watch Foundation, uma organização sem fins lucrativos sediada no Reino Unido que trabalha para erradicar conteúdos de exploração infantil da Internet, publicou um relatório que detalhou a presença crescente de material de abuso sexual infantil (CSAM) criado por ferramentas de IA na dark web.
Os pesquisadores encontraram mais de 20.000 imagens geradas por IA postadas em um fórum CSAM da dark web ao longo de apenas um mês, com 11.108 dessas imagens consideradas com maior probabilidade de serem criminosas pelos pesquisadores da IWF. Como escreveram os investigadores da IWF no seu relatório: “Estas imagens de IA podem ser tão convincentes que são indistinguíveis das imagens reais”.
