O Sign in with Apple foi lançado em 2019 como uma forma mais rápida, conveniente e focada na privacidade de se registrar em um aplicativo ou site. Mas um novo relatório diz que ele estava sendo oferecido por vários sites de nudez deepfake.
A inclusão de opções de login para Apple, Google e outros foi usada para criar um verniz de respeitabilidade para os sites de mau gosto usados para criar imagens de nudez não consensuais…
O crescente problema dos deepfakes
Deepfakes são imagens, áudio ou vídeo gerados por IA nos quais uma pessoa real é alterada digitalmente de alguma forma.
Elas podem ser usadas para uma variedade de propósitos desagradáveis, desde fazer um político parecer dizer coisas suspeitas até criar uma imagem falsa de alguém nu para humilhá-lo ou intimidá-lo. Em alguns casos, garotos do ensino médio as usaram para criar imagens CSAM de colegas de classe.
Deepfakes estão se tornando cada vez mais difíceis de detectar à medida que o software se torna mais sofisticado.
Entrar com a Apple disponível para seis sites
Com fio descobriu que seis dos maiores sites de deepfake voltados especificamente para criar nus falsos ofereciam opções de Login com Apple. Outros logins oferecidos eram do Google, Discord, Line e Patreon.
O site diz que a inclusão dessas opções faz parecer que elas são aprovadas por essas empresas.
Uma análise da WIRED encontrou 16 dos maiores sites de despir e “nudificar” usando a infraestrutura de login do Google, Apple, Discord, Twitter, Patreon e Line. Essa abordagem permite que as pessoas criem contas facilmente nos sites deepfake — oferecendo a elas um verniz de credibilidade — antes de pagarem pelos créditos e gerarem imagens (…)
As ferramentas de login analisadas pela WIRED, que são implantadas por meio de APIs e métodos comuns de autenticação, permitem que as pessoas usem contas existentes para ingressar nos sites deepfake. O sistema de login do Google apareceu em 16 sites, o do Discord apareceu em 13 e o da Apple em seis.
A Apple encerrou as contas dos desenvolvedores
Oferecer a opção Sign in with Apple requer uma conta de desenvolvedor. Uma vez Com fio alertada pela Apple, a empresa respondeu encerrando imediatamente todas as contas de desenvolvedores usadas dessa maneira.
Após serem contatados pela WIRED, porta-vozes do Discord e da Apple disseram que removeram as contas de desenvolvedores conectadas aos seus sites. O Google disse que tomará medidas contra os desenvolvedores quando descobrir que seus termos foram violados. O Patreon disse que proíbe contas que permitem a criação de imagens explícitas, e o Line confirmou que está investigando, mas disse que não poderia comentar sobre sites específicos. O X não respondeu a uma solicitação de comentário sobre a forma como seus sistemas estão sendo usados.
Imagem: colagem de imagens do 9to5Mac de Maçã e James Lee sobre Desaparecer
FTC: Usamos links de afiliados automáticos para geração de renda. Mais.
