Hoffman e outros disseram que não há necessidade de interromper o desenvolvimento da IA. Ele chamou essa medida drástica, solicitada por alguns pesquisadores de IA, de tola e destrutiva. Hoffman identificou-se como um “aceleracionista” racional – alguém que sabe desacelerar ao virar uma esquina, mas que, presumivelmente, fica feliz em acelerar quando a estrada à frente está livre. “Recomendo a todos que se juntem a nós no clube dos optimistas, não porque seja uma utopia e tudo corra bem, mas porque pode ser parte de uma solução incrível”, disse ele. “É para isso que estamos tentando construir.”
Mitchell e Buolamwini, que é artista-chefe e presidente do grupo de defesa da IA, prejudicam Liga da Justiça Algorítmica, disse que confiar nas promessas das empresas para mitigar o preconceito e o uso indevido da IA não seria suficiente. Na sua opinião, os governos devem deixar claro que os sistemas de IA não podem prejudicar os direitos das pessoas a um tratamento justo ou à humanidade. “Aqueles que podem ser explorados ou extorquidos, até mesmo exterminados” precisam de ser protegidos, disse Buolamwini, acrescentando que sistemas como os drones letais devem ser interrompidos. “Já estamos num mundo onde a IA é perigosa”, disse ela. “Temos a IA como os anjos da morte.”
Aplicações como armamento estão longe do foco principal da OpenAI em ajudar programadores, escritores e outros profissionais. As ferramentas da empresa pelos seus termos não pode ser usado nas forças armadas e na guerra – embora o principal patrocinador e cliente entusiasta da OpenAI, a Microsoft, tenha um negócio considerável com as forças armadas dos EUA. Mas Buolamwini sugeriu que as empresas que desenvolvem aplicações empresariais não merecem menos escrutínio. À medida que a IA assume tarefas mundanas, como a composição, as empresas devem estar preparadas para enfrentar as consequências sociais de um mundo que pode oferecer aos trabalhadores menos oportunidades significativas para aprenderem os princípios básicos de um trabalho que pode revelar-se vital para se tornarem altamente qualificados. “O que significa passar por esse processo de criação, encontrar a palavra certa, descobrir como se expressar e aprender algo na luta para fazê-lo?” ela disse.
Fei-Fei Li, cientista da computação da Universidade de Stanford que dirige o Instituto de Inteligência Artificial Centrada no Ser Humano da escola, disse que a comunidade de IA deve se concentrar em seus impactos nas pessoas, desde a dignidade individual até as grandes sociedades. “Eu deveria começar um novo clube chamado tecno-humanista”, disse ela. “É muito simples dizer: 'Você quer acelerar ou desacelerar?' Deveríamos conversar sobre onde queremos acelerar e onde devemos desacelerar.”
Li é um dos pioneiros da IA moderna, tendo desenvolvido o sistema de visão computacional conhecido como ImageNet. A OpenAI iria querer uma voz aparentemente equilibrada como a dela em seu novo conselho? O presidente do conselho da OpenAI, Bret Taylor, não respondeu a um pedido de comentário. Mas se a oportunidade surgir, Li disse: “Vou considerar isso cuidadosamente”.
