Um diretor atlético de uma escola secundária na área de Baltimore foi preso na quinta-feira depois de usar um software de inteligência artificial, disse a polícia, para fabricar um clipe de áudio racista e anti-semita que se fazia passar pelo diretor da escola.
Dazhon Darien, o diretor atlético da Pikesville High School, fabricou a gravação – incluindo um discurso sobre “crianças negras ingratas que não conseguem sair de um saco de papel” – em um esforço para difamar o diretor, Eric Eiswert, de acordo com Departamento de Polícia do Condado de Baltimore.
A gravação falsa, postada no Instagram em meados de janeiro, se espalhou rapidamente, agitando Escolas Públicas do Condado de Baltimore, que é o 22º maior distrito escolar do país e atende mais de 100.000 alunos. Enquanto o distrito era investigado, Eiswert, que negou ter feito os comentários, foi inundado com ameaças à sua segurança, disse a polícia. Ele também foi colocado em licença administrativa, disse o distrito escolar.
Agora, Darien enfrenta acusações que incluem interromper o funcionamento da escola e perseguir o diretor.
O Sr. Eiswert encaminhou um pedido de comentários a um grupo comercial de diretores, o Conselho de Funcionários Administrativos e de Supervisão, que não retornou a ligação de um repórter. Darien, que pagou fiança na quinta-feira, não foi encontrado imediatamente para comentar.
O caso do condado de Baltimore é apenas a mais recente indicação de uma escalada do abuso de IA nas escolas. Muitos casos incluem deepfakes ou vídeos, áudios ou imagens alterados digitalmente que podem parecer convincentemente reais.
Desde o outono passado, escolas nos Estados Unidos têm se esforçado para resolver incidentes preocupantes de deepfake, nos quais estudantes do sexo masculino usaram aplicativos de “nudificação” de IA para criar imagens falsas sem roupa de suas colegas de classe, algumas delas estudantes do ensino médio com apenas 12 anos. O incidente de voz falsa no condado de Baltimore aponta para outro risco de IA para escolas em todo o país – desta vez para educadores veteranos e líderes distritais.
A calúnia de vingança falsa pode acontecer em qualquer local de trabalho, mas é um espectro particularmente perturbador para os funcionários das escolas encarregados de proteger e educar as crianças. Um funcionário do condado de Baltimore alertou na quinta-feira que a rápida disseminação de novas ferramentas generativas de IA estava ultrapassando as proteções escolares e as leis estaduais.
“Também estamos entrando em uma fronteira nova e profundamente preocupante”, disse Johnny Olszewski, executivo do condado de Baltimore, durante comentários públicos sobre a prisão na quinta-feira. Ele acrescentou que os líderes comunitários precisam “analisar de forma mais ampla como esta tecnologia pode ser usada e abusada para prejudicar outras pessoas”.
O relato policial sobre o caso do condado de Baltimore mostra a rapidez com que a desinformação perniciosa e profunda pode se espalhar nas escolas, causando danos duradouros a educadores, estudantes e famílias.
De acordo com documentos policiais, Darien apresentou uma queixa contra Eiswert em dezembro, depois que o diretor começou a investigá-lo. Darien autorizou um pagamento distrital de US$ 1.916 a seu colega de quarto, disse a polícia, “sob o pretexto” de que o colega de quarto trabalhava como assistente técnico do time de futebol feminino de Pikesville.
Logo depois, disse a polícia, Darien usou os serviços de Internet do distrito escolar para procurar ferramentas de inteligência artificial, inclusive da OpenAI, desenvolvedora do chatbot ChatGPT, e do Bing Chat da Microsoft.
(O New York Times processou a OpenAI e sua parceira, a Microsoft, em dezembro, por violação de direitos autorais de conteúdo de notícias relacionado a sistemas de IA.)
Em meados de janeiro, o Sr. Darien enviou por e-mail um clipe de áudio falso representando o diretor para ele e dois outros funcionários da escola, de acordo com a polícia. O e-mail, com o assunto “Diretor de Pikesville – Gravação perturbadora”, foi enviado de uma conta do Gmail que parecia pertencer a um terceiro desconhecido, mas estava vinculada ao número do celular do Sr. Darien, de acordo com os documentos policiais.
Um desses funcionários da escola enviou então a gravação fabricada para organizações de notícias e para a Associação Nacional para o Avanço das Pessoas de Cor, dizem documentos policiais. Ela também o encaminhou para uma aluna que “ela sabia que espalharia rapidamente a mensagem por vários meios de comunicação social e por toda a escola”, dizem os documentos.
Logo, uma conta do Instagram que acompanha o crime local postou o áudio racista falso, dizendo que era um “discurso retórico sobre estudantes negros” e nomeando o diretor como orador. O clipe de áudio, que dura menos de um minuto, foi compartilhado mais de 27 mil vezes e gerou mais de 2.800 comentários, muitos deles pedindo a demissão do diretor.
A polícia diz que o discurso falso teve “repercussões profundas”, prejudicando a confiança entre famílias, professores e administradores da Pikesville High.
Pais e alunos chateados e irritados inundaram a escola com ligações. Alguns professores, disse a polícia, temiam que “dispositivos de gravação pudessem ter sido colocados em vários locais da escola”. Para resolver questões de segurança, o Departamento de Polícia aumentou sua presença na escola.
A polícia também forneceu monitoramento de segurança para Eiswert, que recebeu uma enxurrada de mensagens e telefonemas de assédio, alguns deles ameaçando ele e sua família com violência.
Em comentários públicos durante uma reunião do conselho escolar em janeiro, William Burke, diretor executivo do Conselho de Funcionários Administrativos e de Supervisão, que representa o diretor, disse que as redes sociais e a mídia noticiosa permitiram que os comentaristas condenassem o Sr. nenhuma responsabilidade.”
“Por favor, não se apresse em julgar”, implorou Burke. “Por favor, torne a investigação segura e justa.”
Dois especialistas externos que posteriormente analisaram a gravação para o Departamento de Polícia do Condado de Baltimore concluíram que o clipe de áudio foi manipulado. Um especialista disse que continha “vestígios de conteúdo gerado por IA com edição humana após o fato”, dizem documentos policiais.
