AI Racing Drone pode transformar a guerra – mas ainda não, afirma Maker

Há alguns anos escrevi sobre o trabalho de Davide Scaramuzza e seus colegas da Universidade de Zurique Grupo de Robótica e Percepção, e o desenvolvimento de um drone de corrida capaz de corresponder às habilidades humanas. A equipe de Scaramuzza desenvolveu um sistema de IA chamado Swift, capaz de aprender habilidades reais de vôo em um mundo virtual. A última descoberta, publicado na Naturezaviu seu sistema de aprendizado profundo vencer campeões humanos.

O mundo mudou nos últimos anos: os drones de corrida FPV deixaram de ser um nicho de e-sport apenas de interesse para os fãs de uma arma significativa no conflito da Ucrânia, com milhares de kamikazes FPV pilotados por ambos os lados. A tecnologia de Scaramuzza permitirá robôs assassinos voadores?

Máquinas de corrida

As versões iniciais do sistema usavam rastreadores de movimento externos para acompanhar os drones de corrida, dando-lhes uma vantagem injusta sobre os pilotos humanos que estavam limitados ao ponto de vista da câmera do drone. Esta configuração também exigia sensores posicionados ao redor da arena de corrida, o que não seria aplicável à maioria das situações do mundo real. Swift é muito diferente.

“Depois de muito trabalho, conseguimos recentemente ultrapassar os campeões mundiais usando apenas sensores integrados”, disse Scaramuzza à Forbes. “É baseado em um algoritmo de IA treinado por meio de aprendizado por reforço – tentativa e erro, como o do AlphaGo.”

AlfaGo desenvolvido pelo Google DeepMind foi a primeira IA a derrotar um campeão humano no jogo Go em 2015. Ainda é o jogador Go mais forte do mundo. Os programas de computador Go anteriores eram jogados em nível amador, porque os métodos padrão de teste de todos os movimentos possíveis não conseguiam lidar com o grande número de possibilidades. AlphaGo usa redes neurais profundas para obter uma visão geral do quadro Go, depois se concentrar em estratégias possíveis e avaliar cada uma delas.

Swift aplica técnicas semelhantes para pilotar vôos em alta velocidade em uma pista de corrida, aplicando IA a uma competição do mundo real.

“Estamos muito entusiasmados porque esta é a primeira vez que a IA vence um humano num desporto físico concebido por e para humanos”, diz Scaramuzza. “As vitórias anteriores de IA, como DeepBlue, AlphaGo, StarCraft, GT-Sophie, eram limitadas a jogos de tabuleiro ou simulação.”

Swift voou quadricópteros de corrida contra três humanos: Alex Vanover, campeão mundial da Drone Racing League de 2019, Thomas Bitmatta, duas vezes campeão da MultiGP International Open World Cup, e Marvin Schaepper, três vezes campeão nacional suíço, em um percurso profissional com sete portões quadrados.

Os pilotos humanos tiveram uma semana para praticar no percurso antes de enfrentar o Swift. Swift venceu várias corridas contra cada um dos pilotos humanos e registrou o tempo de pista mais rápido. Scaramuzza diz que esta é a primeira vez que um robô móvel autônomo alcança desempenho de nível de campeão mundial em um esporte competitivo no mundo real.

“A IA é sobre-humana porque descobre e realiza as melhores manobras, além de ser consistente e precisa, o que os humanos não são”, diz Scaramuzza. Ele observa que, assim como no AlphaGo, o Swift foi capaz de usar movimentos – neste caso, trajetórias de voo – que os campeões humanos nem sequer pensavam que fossem possíveis.

Levando a IA para a guerra

A implicação é que os FPVs controlados por IA podem superar os humanos. Isto tem implicações significativas para a guerra, onde os drones FPV com ogivas explosivas são armas guiadas por seres humanos tremendamente eficazes. Um FPV de US$ 400 com a ogiva de um RPG
RPG
lançador de foguetes pode derrubar um tanque, veículo de transporte de pessoal ou peça de artilharia a vários quilômetros de distância, ou perseguir e destruir um caminhão viajando em alta velocidade. Eles são baratos o suficiente para serem usados ​​contra soldados individuais e pode mergulhe nas trincheiras. Mas requer um piloto humano qualificado. Fontes ucranianas dizem que o treinamento dura cerca de um mês para alcançar proficiênciae muitas pessoas são reprovadas no curso.

As taxas de sucesso do FPV parecem variar muito, com diferentes fontes citando 20%, 30%, 50% ou 70% – muito parece depender da situação exata, da presença de interferência e da habilidade do piloto. Uma IA superqualificada pode elevar essa taxa muito acima de 70%, anular qualquer risco de interferência e permitir que frotas de drones FPV inteligentes ataquem simultaneamente sem operadores humanos.

Retardando os Robôs Assassinos

Scaramuzza observa que Swift não poderia ser facilmente transformado em uma arma.

“Existem muitos desafios em aberto que impedem que o sistema atual seja implantado em cenários de guerra”, diz ele.

Swift depende de informações confiáveis ​​sobre velocidade, localização e orientação do drone em tempo real. Isto é muito mais desafiador em ambientes externos, onde há mudanças de iluminação, rajadas de vento e outras variáveis ​​a serem enfrentadas.

Além disso, Swift precisa aprender o curso com antecedência para definir sua trajetória de vôo.

“O sistema atual só funciona para corridas de drones e para uma pista específica cujo mapa você conhece perfeitamente”, diz Scaramuzza.

A rede neural que navega pelos portões é treinada especificamente para aquele layout. O outro problema é que o Swift treina numa configuração específica e se as condições mudarem – por exemplo, o vento muda de direção – todo o seu aprendizado pode ser desperdiçado.

“O sistema de percepção e o modelo físico do Swift assumem que a aparência do ambiente e sua física são consistentes com o que foi observado durante o treinamento”, diz Scaramuzza. “Se esta suposição falhar, o sistema pode falhar.”

Este tipo de problema de deriva, onde a situação em que uma IA treinou não corresponde exatamente à realidade, é bem conhecido. A Força Aérea dos EUA já está desenvolvendo um sistema para atualizar seus drones controlados por IA em tempo real, treinando-os novamente usando dados coletados pelos drones que encontraram problemas. Mas ninguém ainda analisou se esse tipo de abordagem poderia ser aplicado ao Swift, e Scaramuzza acredita que isso demorará um pouco.

“Acho que levarão décadas até que tal tecnologia possa ser usada no campo militar”, diz Scaramuzza.

Isto pode ser pessimista, especialmente se forem atribuídas grandes quantidades de recursos (e dinheiro) ao problema. Mas sugere que pode haver um espaço para respirar antes que drones assassinos altamente eficientes controlados por IA enxameem sobre o campo de batalha.

“Este resultado deve abrir os nossos olhos sobre o que as IAs podem potencialmente permitir se forem desencadeadas”, diz Scaramuzza. “É por isso que, em inúmeras conversações nas Nações Unidas, sempre defendo que precisamos de uma convenção de Genebra para deter os robôs assassinos.”

Anos de discussões na ONU sobre este tema produziram pouco até agora; a actual proposta é um apelo a uma espécie de direito internacional até 2026 mas as tentativas anteriores de elaborar legislação foram diluídos devido a vários estados (incluindo os EUA) recuando contra acordos vinculativos.

Swift mostra o que drones alimentados por IA podem fazer e podem levar a produtos baratos Quadcopters tipo Slaughterbot sendo implantados em grande escala. Os defensores da Ucrânia podem pensar que é exactamente disso que precisam – e o mesmo podem acontecer com os invasores.