Em 2024, o aumento da adopção de sistemas de vigilância biométrica, como a utilização de reconhecimento facial alimentado por IA em locais públicos e o acesso a serviços governamentais, estimulará o roubo de identidade biométrica e inovações anti-vigilância. Indivíduos que pretendam roubar identidades biométricas para cometer fraudes ou obter acesso a dados não autorizados serão apoiados por ferramentas generativas de IA e pela abundância de dados faciais e de voz publicados online.
Clones de voz já estão sendo usados para golpes. Tomemos por exemplo Jennifer DeStefano, uma mãe no Arizona que ouviu a voz em pânico de sua filha chorando “Mãe, esses homens maus me pegaram! depois de receber uma chamada de um número desconhecido. O golpista exigiu dinheiro. DeStefano finalmente conseguiu confirmar que sua filha estava segura. Esta fraude é um precursor de fraudes biométricas mais sofisticadas que visarão os nossos medos mais profundos, utilizando as imagens e sons dos nossos entes queridos para nos coagir a cumprir as ordens de quem quer que utilize estas ferramentas.
Em 2024, alguns governos provavelmente adoptarão o mimetismo biométrico para apoiar a tortura psicológica. No passado, uma pessoa de interesse poderia receber informações falsas com poucas evidências para apoiar as afirmações além das palavras do interrogador. Hoje, uma pessoa interrogada pode ter sido presa devido a uma falsa correspondência de reconhecimento facial. Homens de pele escura nos Estados Unidos, incluindo Robert Williams, Michael Oliver, Nijeer Parks e Randal Reid, foram detidos injustamente devido a erros de identificação facial, detidos e encarcerados por crimes que não cometeram. Eles estão entre um grupo de indivíduos, incluindo idosos, pessoas de cor e indivíduos que não se conformam com o gênero, que correm maior risco de erros de identificação facial.
As ferramentas generativas de IA também dão às agências de inteligência a capacidade de criar provas falsas, como um vídeo de um suposto co-conspirador confessando um crime. Talvez igualmente angustiante seja o facto de o poder de criar doppelgängers digitais não se limitar a entidades com grandes orçamentos. A disponibilidade de sistemas generativos de IA de código aberto que podem produzir vozes humanas e vídeos falsos aumentará a circulação de pornografia de vingança, materiais de abuso sexual infantil e muito mais na dark web.
Até 2024 teremos um número crescente de comunidades e pessoas “excodificadas” – aquelas cujas oportunidades de vida foram alteradas negativamente pelos sistemas de IA. No Liga da Justiça Algorítmica, recebemos centenas de relatórios sobre direitos biométricos comprometidos. Em resposta, testemunharemos a ascensão dos sem rosto, aqueles que estão empenhados em manter as suas identidades biométricas escondidas à vista de todos.
Como os direitos biométricos variam em todo o mundo, as escolhas de moda reflectirão os regimes biométricos regionais. Coberturas faciais, como aquelas usadas para fins religiosos ou máscaras médicas para evitar vírus, serão adotadas tanto como moda quanto como peças de vestuário anti-vigilância, quando permitido. Em 2019, quando os manifestantes começaram a destruir equipamentos de vigilância enquanto obscureciam a sua aparência, um Líder do governo de Hong Kong proibiu máscaras faciais.
Em 2024, começaremos a ver uma bifurcação entre vigilância em massa e territórios de rosto livre, áreas onde existem leis como a disposição da proposta da Lei da IA da UE, que proíbe o uso de biometria ao vivo em locais públicos. Nesses lugares, a moda antivigilância florescerá. Afinal, o reconhecimento facial pode ser usado retroativamente em feeds de vídeo. Os pais lutarão para proteger o direito das crianças de serem “ingénuas biométricas”, o que significa que nenhum dos seus dados biométricos, como impressão facial, impressão de voz ou padrão da íris, é digitalizado e armazenado por agências governamentais, escolas ou instituições religiosas. Novas empresas de óculos oferecerão lentes que distorcem a capacidade das câmeras capturarem facilmente suas informações biométricas oculares, e pares de óculos virão com extensões protéticas para alterar o formato do nariz e das bochechas. Ferramentas de impressão 3D serão usadas para fazer próteses faciais em casa, embora dependendo de onde você estiver no mundo, isso possa ser proibido. Num mundo onde o rosto é a fronteira final da privacidade, olhar para o rosto inalterado de outra pessoa será uma intimidade rara.
