Em um pitoresco Escritório da era regencial com vista para Russell Square, em Londres, fui cofundador de uma empresa chamada DeepMind com dois amigos, Demis Hassabis e Shane Legg, no verão de 2010. Nosso objetivo, que ainda parece tão ambicioso, louco e esperançoso quanto naquela época, era replicar exatamente aquilo que nos torna únicos como espécie: nossa inteligência.
Para conseguir isto, precisaríamos de criar um sistema que pudesse imitar e, eventualmente, superar todas as capacidades cognitivas humanas, desde a visão e a fala até ao planeamento e à imaginação e, em última análise, à empatia e à criatividade. Uma vez que tal sistema beneficiaria do processamento massivamente paralelo dos supercomputadores e da explosão de vastas novas fontes de dados provenientes da web aberta, sabíamos que mesmo um progresso modesto rumo a este objectivo teria profundas implicações sociais.
Certamente parecia muito estranho na época.
Mas a IA tem vindo a subir a escada das capacidades cognitivas há décadas e agora parece destinada a atingir um desempenho de nível humano numa vasta gama de tarefas nos próximos três anos. Essa é uma grande afirmação, mas se eu estiver quase certo, as implicações são verdadeiramente profundas.
Progressos adicionais numa área aceleram as outras num processo caótico e de catalisação cruzada, fora do controlo directo de qualquer pessoa. Ficou claro que se nós ou outros tivéssemos sucesso na replicação da inteligência humana, isto não seria apenas um negócio lucrativo como sempre, mas uma mudança sísmica para a humanidade, inaugurando uma era em que oportunidades sem precedentes seriam acompanhadas por riscos sem precedentes. Agora, juntamente com uma série de tecnologias, incluindo a biologia sintética, a robótica e a computação quântica, uma onda de IA extremamente capaz e de rápido desenvolvimento está a começar a surgir. O que, quando fundamos a DeepMind, parecia quixotesco tornou-se não apenas plausível, mas aparentemente inevitável.
Como construtor destas tecnologias, acredito que elas podem proporcionar uma quantidade extraordinária de benefícios. Mas sem o que chamo de contenção, todos os outros aspectos de uma tecnologia, todas as discussões sobre as suas deficiências éticas, ou os benefícios que poderia trazer, são inconsequentes. Vejo a contenção como um conjunto interligado de mecanismos técnicos, sociais e legais que restringem e controlam a tecnologia, trabalhando a todos os níveis possíveis: um meio, em teoria, de escapar ao dilema de como podemos manter o controlo das tecnologias mais poderosas da história. Precisamos urgentemente de respostas inequívocas sobre como a onda que se aproxima pode ser controlada e contida, como as salvaguardas e as possibilidades do Estado-nação democrático, fundamentais para a gestão destas tecnologias e ainda assim ameaçadas por elas, podem ser mantidas. No momento, ninguém tem esse plano. Isto indica um futuro que nenhum de nós deseja, mas temo que seja cada vez mais provável.
Enfrentando imensos incentivos arraigados que impulsionam a tecnologia, a contenção não é, à primeira vista, possível. E ainda assim, para o nosso bem, a contenção deve seja possível.
Parece que a chave para a contenção é uma regulamentação hábil a nível nacional e supranacional, equilibrando a necessidade de fazer progressos com restrições de segurança sensatas, abrangendo tudo, desde gigantes tecnológicos e militares até pequenos grupos de investigação universitários e startups, ligados a uma política abrangente e exequível. estrutura. Já fizemos isso antes, assim prossegue o argumento; veja carros, aviões e remédios. Não é assim que gerimos e contemos a onda que se aproxima?
Se fosse assim tão simples. A regulamentação é essencial. Mas a regulamentação por si só não é suficiente. Os governos deveriam, à primeira vista, estar mais bem preparados do que nunca para gerir novos riscos e tecnologias. Os orçamentos nacionais para essas coisas estão geralmente em níveis recordes. A verdade, porém, é que novas ameaças são excepcionalmente difíceis de serem navegadas por qualquer governo. Isso não é uma falha na ideia de governo; é uma avaliação da escala do desafio que temos diante de nós. Os governos combatem a última guerra, a última pandemia, regulam a última vaga. Os reguladores regulam coisas que podem antecipar.
