As Escolas Públicas de Westfield realizaram uma reunião regular do conselho no final de março na escola secundária local, um complexo de tijolos vermelhos em Westfield, NJ, com um placar do lado de fora recebendo orgulhosamente os visitantes das equipes esportivas “Casa dos Blue Devils”.
Mas não foi como sempre para Dorota Mani.
Em outubro, algumas meninas do 10º ano da Westfield High School – incluindo a filha de 14 anos da Sra. Mani, Francesca – alertaram os administradores que os meninos da sua turma usaram software de inteligência artificial para fabricar imagens sexualmente explícitas deles e estavam circulando as imagens falsas. fotos. Cinco meses depois, dizem os Manis e outras famílias, o distrito pouco fez para abordar publicamente as imagens adulteradas ou atualizar as políticas escolares para impedir o uso exploratório de IA.
“Parece que a administração da Westfield High School e o distrito estão envolvidos em uma aula magistral para fazer com que este incidente desapareça no ar”, advertiu a Sra. Mani, fundadora de uma pré-escola local, aos membros do conselho durante a reunião.
Num comunicado, o distrito escolar disse que abriu uma “investigação imediata” ao tomar conhecimento do incidente, notificou e consultou imediatamente a polícia e forneceu aconselhamento em grupo à turma do segundo ano.
“Todos os distritos escolares estão enfrentando os desafios e o impacto da inteligência artificial e outras tecnologias disponíveis para os alunos a qualquer hora e em qualquer lugar”, disse Raymond González, superintendente das Escolas Públicas de Westfield, no comunicado.
Surpresas no ano passado pela repentina popularidade de chatbots com tecnologia de IA, como o ChatGPT, escolas nos Estados Unidos correram para conter os bots geradores de texto, em um esforço para evitar a trapaça dos alunos. Agora, um fenômeno mais alarmante de geração de imagens de IA está abalando as escolas.
Rapazes em vários estados têm utilizado aplicações de “nudificação” amplamente disponíveis para perverter fotos reais e identificáveis das suas colegas de turma vestidas, mostradas a participar em eventos como bailes de formatura, em imagens gráficas e de aspecto convincente das raparigas com seios e genitais expostos gerados pela IA. Em alguns casos, os meninos compartilharam as imagens falsas no refeitório da escola, no ônibus escolar ou por meio de chats em grupo em plataformas como Snapchat e Instagram, de acordo com relatórios escolares e policiais.
Essas imagens alteradas digitalmente – conhecidas como “deepfakes” ou “deepnudes” – podem ter consequências devastadoras. Especialistas em exploração sexual infantil afirmam que o uso de imagens não consensuais geradas por IA para assediar, humilhar e intimidar mulheres jovens pode prejudicar a sua saúde mental, reputação e segurança física, bem como representar riscos para as suas perspectivas universitárias e profissionais. No mês passado, o Federal Bureau of Investigation avisou que é ilegal distribuir material de abuso sexual infantil gerado por computador, incluindo imagens de aparência realista geradas por IA de menores identificáveis envolvidos em conduta sexualmente explícita.
No entanto, a utilização, pelos estudantes, de aplicações de IA exploradoras nas escolas é tão nova que alguns distritos parecem menos preparados para abordá-la do que outros. Isso pode tornar as salvaguardas precárias para os estudantes.
“Este fenômeno surgiu muito repentinamente e pode estar deixando muitos distritos escolares despreparados e sem saber o que fazer”, disse Riana Pfefferkornpesquisador do Stanford Internet Observatory, que escreve sobre questões legais relacionadas a imagens de abuso sexual infantil geradas por computador.
Na Issaquah High School, perto de Seattle, no outono passado, um detetive de polícia que investigava reclamações de pais sobre imagens explícitas de suas filhas de 14 e 15 anos geradas por IA perguntou a um diretor assistente por que a escola não havia relatado o incidente à polícia, de acordo com de acordo com um relatório do Departamento de Polícia de Issaquah. O funcionário da escola perguntou então “o que ela deveria denunciar”, dizia o documento policial, o que levou o detetive a informá-la de que as escolas são obrigadas por lei a denunciar abuso sexual, incluindo possível material de abuso sexual infantil. A escola posteriormente relatou o incidente aos Serviços de Proteção à Criança, disse o relatório policial. (O New York Times obteve o relatório policial através de um pedido de registos públicos.)
Em comunicado, o Distrito Escolar de Issaquah disse que conversou com estudantes, famílias e a polícia como parte de sua investigação sobre os deepfakes. O distrito também “compartilhamos nossa empatia”, dizia o comunicado, e prestou apoio aos estudantes afetados.
O comunicado acrescentou que o distrito denunciou as “imagens falsas geradas por inteligência artificial aos Serviços de Proteção à Criança por precaução”, observando que “de acordo com a nossa equipe jurídica, não somos obrigados a denunciar imagens falsas à polícia. ”
Na Beverly Vista Middle School, em Beverly Hills, Califórnia, os administradores contataram a polícia em fevereiro depois de saberem que cinco meninos haviam criado e compartilhado imagens explícitas de colegas de classe geradas por IA. Duas semanas depois, o conselho escolar aprovou a expulsão de cinco alunos, segundo documentos distritais. (O distrito disse que o código educacional da Califórnia o proibia de confirmar se os alunos expulsos eram os alunos que fabricaram as imagens.)
Michael Bregy, superintendente do Distrito Escolar Unificado de Beverly Hills, disse que ele e outros líderes escolares queriam estabelecer um precedente nacional de que as escolas não deveriam permitir que os alunos criassem e divulgassem imagens sexualmente explícitas de seus colegas.
“Isso é bullying extremo quando se trata de escolas”, disse o Dr. Bregy, observando que as imagens explícitas eram “perturbadoras e violentas” para as meninas e suas famílias. “É algo que absolutamente não toleraremos aqui.”
Escolas nas pequenas e ricas comunidades de Beverly Hills e Westfield foram um dos primeiros a reconhecer publicamente incidentes de deepfake. Os detalhes dos casos — descritos nas comunicações distritais com os pais, nas reuniões do conselho escolar, nas audiências legislativas e nos processos judiciais — ilustram a variabilidade das respostas das escolas.
O incidente de Westfield começou no verão passado, quando um estudante do ensino médio pediu para ser amiga de uma colega de classe de 15 anos no Instagram que tinha uma conta privada, de acordo com uma ação judicial contra o menino e seus pais movida pela jovem e sua família. (Os Manis disseram que não estão envolvidos no processo.)
Depois que ela aceitou o pedido, o estudante copiou fotos dela e de várias outras colegas de escola de suas contas nas redes sociais, afirmam documentos judiciais. Em seguida, ele usou um aplicativo de IA para fabricar imagens sexualmente explícitas e “totalmente identificáveis” das meninas e as compartilhou com colegas de escola por meio de um grupo Snapchat, dizem documentos judiciais.
Westfield High começou a investigar no final de outubro. Enquanto os administradores discretamente chamavam alguns meninos para interrogá-los, disse Francesca Mani, eles ligaram para ela e outras meninas do 10º ano que haviam sido submetidas aos deepfakes para a secretaria da escola, anunciando seus nomes pelo interfone da escola.
Naquela semana, Mary Asfendis, diretora da Westfield High, enviou um e-mail aos pais alertando-os sobre “uma situação que resultou em desinformação generalizada”. O e-mail descreveu os deepfakes como um “incidente muito sério”. Afirmou também que, apesar da preocupação dos alunos com a possível partilha de imagens, a escola acredita que “quaisquer imagens criadas foram eliminadas e não estão a ser divulgadas”.
Dorota Mani disse que os administradores de Westfield lhe disseram que o distrito suspendeu o estudante acusado de fabricar as imagens por um ou dois dias.
Logo depois, ela e sua filha começaram a falar publicamente sobre o incidente, instando os distritos escolares, os legisladores estaduais e o Congresso a promulgarem leis e políticas proibindo especificamente deepfakes explícitos.
“Temos de começar a atualizar a nossa política escolar”, disse Francesca Mani, agora com 15 anos, numa entrevista recente. “Porque se a escola tivesse políticas de IA, estudantes como eu estariam protegidos.”
Pais, incluindo Dorota Mani, também apresentaram queixas de assédio à Westfield High no outono passado por causa das imagens explícitas. Durante a reunião de março, no entanto, a Sra. Mani disse aos membros do conselho escolar que a escola ainda não havia fornecido aos pais um relatório oficial sobre o incidente.
As Escolas Públicas de Westfield disseram que não poderiam comentar quaisquer ações disciplinares por razões de confidencialidade dos alunos. Em um comunicado, o Dr. González, o superintendente, disse que o distrito estava fortalecendo seus esforços “educando nossos alunos e estabelecendo diretrizes claras para garantir que essas novas tecnologias sejam usadas de forma responsável”.
As escolas de Beverly Hills assumiram uma posição pública mais firme.
Quando os administradores souberam, em fevereiro, que meninos da oitava série da Beverly Vista Middle School haviam criado imagens explícitas de colegas de classe de 12 e 13 anos, eles rapidamente enviaram uma mensagem – assunto: “Terrível uso indevido de inteligência artificial” – para todos. pais, funcionários e alunos do ensino fundamental e médio do distrito. A mensagem instava os membros da comunidade a compartilhar informações com a escola para ajudar a garantir que o uso “perturbador e inadequado” da IA pelos alunos “pare imediatamente”.
Alertou também que o distrito estava preparado para instituir punições severas. “Qualquer aluno que crie, divulgue ou possua imagens dessa natureza geradas por IA enfrentará ações disciplinares”, incluindo uma recomendação de expulsão, dizia a mensagem.
Bregy, o superintendente, disse que as escolas e os legisladores precisavam agir rapidamente porque o abuso da IA estava fazendo com que os alunos se sentissem inseguros nas escolas.
“Você ouve muito sobre segurança física nas escolas”, disse ele. “Mas o que você não está ouvindo é sobre essa invasão da segurança pessoal e emocional dos alunos.”
