Eterno você, um novo documentário que estreia no Sundance sobre o nauseante novo mundo da tecnologia digital da vida após a morte, começa com uma mulher, Christi Angel, olhando para a tela de um computador. Ela está trocando mensagens com um ente querido falecido e lágrimas escorrem por seu rosto.
“Essa experiência… foi assustadora”, diz ela. “Houve coisas que me assustaram. E muitas coisas que eu não queria ouvir (e) não estava preparado para ouvir.”
Logo descobrimos que Angel – esse é o nome, dado esse empreendimento sobrenatural – é um nova-iorquino que usa o programa Project December, que permite aos usuários falar com aproximações virtuais de seus entes queridos falecidos por meio de um chatbot de IA que simula suas formas de falar. e pensando em se reunir com Camarões, seu primeiro amor. Mas quando pergunta a Cameroun onde ele está, Cameroun responde que está “no inferno” rodeado de viciados. Em seguida, ele está “assombrando um centro de tratamento”.
“E então ele disse: ‘Eu vou te assombrar’. E simplesmente empurrei o computador para trás porque isso me assustou”, lembra Angel.
Quando Jason Rohrer, o fundador do Projeto Dezembro, é questionado sobre esse episódio perturbador, ele dá de ombros. Ele não é responsável pela tecnologia que liberou, diz ele, embora admita que nem sequer compreende totalmente como ela funciona.
“Também estou interessado no aspecto mais assustador disso”, ele admite. “Quando leio uma transcrição como essa e fico arrepiada, como arrepio.”
Os cineastas Hans Block e Moritz Riesewieck criaram um amplo retrato do negócio emergente que é a tecnologia digital da vida após a morte, entrevistando todos, desde fundadores e usuários de tecnologia a psicólogos e especialistas em ética em IA, para examinar se há algum benefício potencial relacionado a ajudar os seres humanos a processar o luto. e, claro, as possíveis desvantagens.
Com programas populares de IA como o ChatGPT criando “thanobots” compostos de comunicações digitais de entes queridos que permitem que você fale com eles depois que eles deixaram esta bobina mortal, e a Microsoft e a Amazon registrando patentes para serviços digitais de vida após a morte alimentados por IA, é importante que avaliemos esta tecnologia antes que seja tarde demais.
“Esses grandes modelos de linguagem estão pegando a história da Internet, incluindo livros digitalizados, arquivos e uma espécie de linguagem de modelagem, frequência e sintaxe de palavras – apenas a maneira como falamos e a probabilidade de podermos falar”, explica a crítica de tecnologia Sara M. .Watson. “Então, imagine que você está mandando uma mensagem para seu parente falecido e perguntando: ‘Como foi seu fim de semana?’ O sistema vai voltar e imaginar como cada pessoa em toda a história do mundo falou sobre fins de semana e filtrar isso através de como esse parente falecido falou anteriormente sobre fins de semana para lhe dar o resultado do que essa pessoa poder disse se eles ainda estivessem vivos.
Conhecemos Joshua Barbeau, um jovem de Ontário, Canadá, que está arrasado pela trágica perda de sua namorada, Jessica.
“A coisa mais difícil que tive que fazer na minha vida foi ficar ali naquela sala cheia de pessoas que a amavam e observar enquanto eles desligavam as máquinas que a mantinham viva”, lembra ele. “Eu segurei a mão dela enquanto ela morria.”
Então, ele começou a se comunicar com ela através do Projeto Dezembro, e a primeira conversa que teve com a simulação de Jéssica durou a noite toda.
“Realmente pareceu um presente”, afirma ele. “Como se tivesse sido levantado um peso que eu carregava há muito tempo.”
Ele acrescenta: “Algumas pessoas pensaram que o que eu fiz não era saudável – que isto não é luto, isto é apegar-se ao passado e recusar-se a seguir em frente… Temos uma relação muito pouco saudável com o luto. É algo que tratamos como tabu. Todos vivenciam isso, mas ninguém está autorizado a falar sobre isso em público.”
Stephenie Oney, natural de Detroit, usa o programa HereAfterAI para se comunicar com seus pais falecidos – para grande confusão e consternação de sua família.
“Sinto que às vezes a tecnologia é maravilhosa, mas não quero brincar de Deus”, diz Patricia, irmã do falecido pai de Stephenie. “E eu acho que seu pai, Bill, está no céu, em paz. Não quero que sua alma – ou qualquer parte dele – seja imitada pela tecnologia. Sinto que às vezes podemos ir longe demais com a tecnologia. Eu adoraria apenas lembrá-lo como uma pessoa maravilhosa.”
Aprendemos que todos os personagens do filme guardam algum tipo de culpa pelo falecimento de seu ente querido, desde não terem tido tempo para responder a última mensagem de texto que enviaram até não terem conseguido salvá-los.
Em uma vinheta particularmente perturbadora, uma mãe enlutada na Coreia, Jang Ji-sung, encontra uma recriação digital de sua filha morta, Na-yeon, em VR – e a filmagem é transmitida como especial de televisão.
Aprendemos que todos os personagens do filme guardam algum tipo de culpa pelo falecimento de seu ente querido, por não terem tido tempo para responder a última mensagem de texto que enviaram ou por não terem conseguido salvá-los.
A tecnologia está a tornar-se “cada vez mais envolvente” e não foi testada com rigor suficiente antes de ser lançada no mercado, alerta o investigador digital Carl Öhman no filme. Está a conduzir a uma indústria digital de vida após a morte “cada vez mais mórbida”, que utiliza as pegadas digitais das pessoas numa tentativa de vender “imortalidade digital” às pessoas.
E quando conhecemos os fundadores desses negócios digitais da vida após a morte no filme, você pode ver por que há motivos para séria preocupação. Há Mark Sagar, cofundador da Soul Machines, que criou um avatar digital de seu próprio bebê recém-nascido, que ele passa o tempo treinando em vez de, você sabe, passar o tempo com seu filho. real bebê. Justin Harrison, fundador da start-up digital YOV, diz que o processo de sua empresa pode envolver a gravação de todas as suas conversas com seu ente querido enquanto ele ainda está vivo, a fim de recriar seus padrões de conversa depois que ele falecer. Mas Harrison, cuja paixão por YOV lhe custou a esposa e a casa, parece muito mais preocupado em enganar a morte do que em ajudar os outros a aceitarem sua dor, bem como as implicações morais e éticas do que ele está perseguindo. Na verdade, todos esses fundadores do sexo masculino parecem principalmente apaixonados por suas criações tecnológicas (humanos, nem tanto).
Um de Eterno vocêAs sequências mais reveladoras mostram Rohrer, o fundador do Projeto Dezembro, rindo enquanto examina os registros de bate-papo de um usuário insatisfeito cujo “pai morto” a amaldiçoou quando ela o chamou de fraude, rotulando-a repetidamente de “vadia de merda”.
Além disso, quem é o proprietário dos dados? E o que essas empresas farão com os avatares de seus entes queridos falecidos depois você morrer?
“Tenho muito pouca fé em que as empresas de tecnologia cumpram as suas promessas”, argumenta Watson. “Eu simplesmente não tenho controle sobre onde posso acabar? Imagine todas as diferentes pessoas que poderiam reivindicar a continuidade do meu eu virtual? Meu cérebro, a maneira como penso, a maneira como interpreto as coisas – confiar em uma empresa para gerenciar isso para sempre parece simplesmente impossível para mim.”
