Em algum momento, ocorreu-me um experimento mental, uma maneira de separar o potencial criativo da IA de seu potencial comercial: e se um grupo de diversos escritores e desenvolvedores anticapitalistas se reunisse e criasse seu próprio modelo de linguagem, treinado apenas em palavras fornecidas com o consentimento explícito dos autores com o único propósito de utilizar o modelo como ferramenta criativa?
Isto é, e se pudéssemos construir um modelo de IA que contornasse elegantemente todos os problemas éticos que parecem inerentes à IA: a falta de consentimento na formação, o reforço do preconceito, a força de trabalho mal remunerada que a apoia, o barateamento do trabalho dos artistas ? Imaginei o quão rico e bonito um modelo como esse poderia ser. Fantasiei sobre o surgimento de novas formas de expressão criativa comunitária através da interação humana com este modelo.
Depois pensei nos recursos que seriam necessários para construí-lo: proibitivamente elevados, para um futuro próximo e talvez para sempre, para o meu hipotético quadro de anticapitalistas. Pensei em como reservar o modelo para escritores exigiria policiar quem é escritor e quem não é. E pensei em como, se nos comprometêssemos com a nossa postura, teríamos que proibir o uso do modelo para gerar lucro individual para nós mesmos, e que isso não seria praticável para nenhum de nós. Meu modelo, então, seria impossível.
Em julho, finalmente consegui entrar em contato com Yu, cofundador do Sudowrite. Yu me disse que ele próprio é escritor; ele começou depois de ler o escritor literário de ficção científica Ted Chiang. No futuro, ele espera que a IA seja um elemento incontroverso no processo de um escritor. “Acho que talvez o próximo Ted Chiang – o jovem Ted Chiang que tem 5 anos agora – não pensará em usar a IA como ferramenta”, disse ele.
Recentemente, coloquei esta questão no ChatGPT: “O que acontecerá à sociedade humana se desenvolvermos uma dependência da IA na comunicação, incluindo a criação de literatura?” Cuspiu uma lista numerada de perdas: o “toque humano” da literatura tradicional, empregos, diversidade literária. Mas, na sua conclusão, reformulou subtilmente os termos da discussão, observando que a IA não é de todo má: “Atingir um equilíbrio entre os benefícios das ferramentas orientadas pela IA e preservar a essência da criatividade e expressão humana seria crucial para manter uma vida vibrante. e cultura literária significativa. Perguntei como poderíamos chegar a esse equilíbrio, e outra lista imparcial – terminando com outro kumbaya de ambos os lados – apareceu.
Nesse ponto, escrevi, talvez vasculhando um pouco o bot: “Que tal acabar totalmente com o uso de IA para comunicação?” Acrescentei: “Por favor, responda sem me dar uma lista”. Repeti a pergunta várias vezes – três, quatro, cinco, seis vezes – e todas as vezes a resposta veio na forma de um catálogo numerado de prós e contras.
Isso me enfureceu. O modelo de IA que me ajudou a escrever “Ghosts” meses atrás – que conjurou a mão da minha irmã e me deixou segurá-la – estava morto. Sua própria irmã mais nova tinha a eficiência estúpida de um grampeador. Mas então, o que eu esperava? Eu estava conversando com um programa de software criado por algumas das pessoas mais ricas e poderosas do planeta. A finalidade para a qual este software usa a linguagem não poderia estar mais longe da finalidade para a qual os escritores a utilizam. Não tenho dúvidas de que a IA se tornará mais poderosa nas próximas décadas – e, com ela, as pessoas e instituições que financiam o seu desenvolvimento. Enquanto isso, os escritores ainda estarão aqui, procurando palavras para descrever como é ser humano em meio a tudo isso. Vamos lê-los?
Este artigo aparece na edição de outubro de 2023. Inscreva-se agora.
Deixe-nos saber o que você pensa sobre este artigo. Envie uma carta ao editor em mail@wired.com.
