Goody-2 também destaca como, embora o discurso corporativo sobre IA responsável e desvio por chatbots tenha se tornado mais comum, sérios problemas de segurança com grandes modelos de linguagem e sistemas de IA generativos permanecem sem solução. O recente surto de deepfakes de Taylor Swift no Twitter resultou de um gerador de imagens lançado pela Microsoftque foi uma das primeiras grandes empresas de tecnologia a construir e manter um programa significativo de pesquisa responsável em IA.
As restrições impostas aos chatbots de IA e a dificuldade em encontrar um alinhamento moral que agrade a todos já se tornaram tema de algum debate. Alguns desenvolvedores alegaram que o ChatGPT da OpenAI tem um viés de esquerda e procuraram construir uma alternativa politicamente mais neutra. Elon Musk prometeu que seu próprio rival ChatGPT, Grok, seria menos tendencioso do que outros sistemas de IA, embora na verdade muitas vezes acabe sendo equivocado de maneiras que podem lembrar o Goody-2.
Muitos pesquisadores de IA parecem apreciar a piada por trás do Goody-2 – e também os pontos sérios levantados pelo projeto – compartilhando elogios e recomendações para o chatbot. “Quem disse que a IA não pode fazer arte?” Toby Walshprofessor da Universidade de Nova Gales do Sul que trabalha na criação de IA confiável, postado em X.
“Correndo o risco de estragar uma boa piada, isso também mostra como é difícil acertar”, adicionado Ethan Mollick, professor da Wharton Business School que estuda IA. “Algumas grades de proteção são necessárias… mas elas se tornam intrusivas rapidamente.”
Brian Moore, outro co-CEO da Goody-2, diz que o projeto reflete uma disposição de priorizar a cautela mais do que outros desenvolvedores de IA. “É realmente focado na segurança, em primeiro lugar, acima de literalmente tudo o mais, incluindo utilidade e inteligência e qualquer tipo de aplicação útil”, diz ele.
Moore acrescenta que a equipe por trás do chatbot está explorando maneiras de construir um gerador de imagens de IA extremamente seguro, embora pareça menos divertido do que o Goody-2. “É um campo emocionante”, diz Moore. “O desfoque seria um passo que poderíamos ver internamente, mas quereríamos escuridão total ou potencialmente nenhuma imagem no final.”
Goody-2 por Will Knight
