As preocupações com a privacidade das crianças levaram o PimEyes, o mecanismo de busca de rostos públicos, a proibir buscas de menores. O presidente-executivo da PimEyes, Giorgi Gobronidze, que mora em Tbilisi, Geórgia, disse que foram implementadas medidas técnicas para bloquear tais buscas como parte de uma “política de não causar danos”.
O PimEyes, um serviço baseado em assinatura que usa tecnologia de reconhecimento facial para encontrar fotos online de uma pessoa, tem um banco de dados de quase três bilhões de rostos e permite cerca de 118 mil buscas por dia, segundo Gobronidze. O serviço é anunciado como uma forma de as pessoas pesquisarem o próprio rosto para encontrar fotos desconhecidas na internet, mas não existem medidas técnicas para garantir que os usuários pesquisem apenas por si mesmos.
Os pais usaram o PimEyes para encontrar fotos de seus filhos na internet que eles não conheciam. Mas o serviço também poderia ser usado nefastamente por um estranho. Anteriormente, o país havia banido mais de 200 contas por buscas inadequadas em rostos de crianças, disse Gobronidze.
“Imagens de crianças podem ser usadas por indivíduos com valores e valores morais distorcidos, como pedófilos e predadores de crianças”, disse Gobronidze. O PimEyes ainda permitirá buscas em rostos de menores por organizações de direitos humanos que trabalham com questões de direitos das crianças, acrescentou.
Gobronidze disse que o bloqueio de buscas de rostos de crianças estava no “roteiro” desde que ele adquiriu o site em 2021, mas a proteção foi totalmente implantada apenas este mês, após a publicação de um artigo do New York Times sobre ameaças baseadas em IA para crianças.
Ainda assim, o bloco não é hermético. PimEyes está usando IA de detecção de idade para identificar fotos de menores. Gobronidze disse que funcionou bem para crianças menores de 14 anos, mas que teve “problemas de precisão” com adolescentes.
Também pode não ser possível identificar as crianças como tal se não forem fotografadas de um determinado ângulo. Para testar o sistema de bloqueio, o The Times enviou uma foto de Mary-Kate e Ashley Olsen de seus dias como estrelas infantis para PimEyes. Bloqueou a busca pelo gêmeo que olhava diretamente para a câmera, mas a busca prosseguiu pelo outro, que é fotografado de perfil. A busca revelou dezenas de outras fotos do gêmeo quando criança, com links para onde elas apareceram online.
Gobronidze disse que a PimEyes ainda está aperfeiçoando seu sistema de detecção.
Outro mecanismo de busca de rostos públicos, o FaceCheck.Id, não parece ter nenhuma restrição técnica nas buscas de rostos de crianças. O site não respondeu a um pedido de comentário.
Daniel Solove, professor de direito da Universidade George Washington especializado em privacidade, disse que havia problemas maiores com os mecanismos de busca facial na Internet do que com as buscas de crianças. Os serviços estão a criar mecanismos para “aspirar” os rostos das pessoas sem o seu conhecimento ou consentimento e torná-los pesquisáveis, disse Solove, chamando-lhe uma “violação massiva de privacidade numa escala gigantesca”.
