O engenheiro eletricista Gilbert Herrera foi nomeado diretor de pesquisa da Agência de Segurança Nacional dos EUA no final de 2021, no momento em que uma revolução da IA estava se formando na indústria de tecnologia dos EUA.
A NSA, às vezes chamada de brincadeira como No Such Agency, há muito tempo contrata os melhores talentos da matemática e da ciência da computação. Seus líderes técnicos foram os primeiros e ávidos usuários de computação avançada e IA. E, no entanto, quando Herrera falou comigo por telefone sobre as implicações do mais recente boom de IA na sede da NSA em Fort Meade, Maryland, parecia que, como muitos outros, a agência ficou chocada com o sucesso recente dos grandes modelos de linguagem por trás do ChatGPT. e outros produtos de IA de sucesso. A conversa foi levemente editada para maior clareza e extensão.
Gilberto HerreraCortesia da Agência de Segurança Nacional
Quão grande foi a surpresa do momento ChatGPT para a NSA?
Ah, pensei que sua primeira pergunta seria “o que a NSA aprendeu com a Arca da Aliança?” Isso tem sido recorrente desde cerca de 1939. Adoraria contar a você, mas não posso.
O que acho que todos aprenderam com o momento ChatGPT é que se você lançar dados e recursos de computação suficientes na IA, essas propriedades emergentes aparecerão.
A NSA realmente vê a inteligência artificial como a fronteira de uma longa história de utilização da automação para realizar as nossas missões com a computação. A IA há muito é vista como uma forma de operar de maneira mais inteligente, rápida e em grande escala. E por isso estamos envolvidos em pesquisas que levam a este momento há mais de 20 anos.
Grandes modelos de linguagem já existiam muito antes dos modelos generativos pré-treinados (GPT). Mas este “momento ChatGPT” – uma vez que você pode pedir para ele escrever uma piada ou uma vez que você pode iniciar uma conversa – isso realmente o diferencia de outros trabalhos que nós e outros fizemos.
A NSA e os seus homólogos entre os aliados dos EUA desenvolveram ocasionalmente tecnologias importantes antes de qualquer outra pessoa, mas mantiveram isso em segredo, como criptografia de chave pública na década de 1970. Será que a mesma coisa aconteceu com grandes modelos de linguagem?
Na NSA não poderíamos ter criado estes grandes modelos de transformadores, porque não podíamos usar os dados. Não podemos usar dados de cidadãos dos EUA. Outra coisa é o orçamento. Ouvi um podcast em que alguém compartilhou uma teleconferência sobre os lucros da Microsoft e disse que estava gastando US$ 10 bilhões por trimestre em custos de plataforma. (O total Orçamento de inteligência dos EUA em 2023 foi de US$ 100 bilhões.)
Realmente têm de ser pessoas que tenham dinheiro suficiente para investimentos de capital de dezenas de milhares de milhões e (que) tenham acesso ao tipo de dados que podem produzir estas propriedades emergentes. E assim são realmente os hiperscaladores (maiores empresas de nuvem) e potencialmente os governos que não se importam com a privacidade pessoal, não precisam seguir as leis de privacidade pessoal e não têm problemas com o roubo de dados. E deixarei para sua imaginação quem pode ser.
Isso não coloca a NSA – e os Estados Unidos – em desvantagem na recolha e processamento de informações?
Vou recuar um pouco: isso não nos coloca em grande desvantagem. Nós meio que precisamos contornar isso, e eu chegarei a esse ponto.
Não é uma grande desvantagem para a nossa responsabilidade, que consiste em lidar com metas estatais-nacionais. Se olharmos para outras aplicações, isso pode tornar as coisas mais difíceis para alguns dos nossos colegas que lidam com inteligência doméstica. Mas a comunidade de inteligência terá de encontrar um caminho para utilizar modelos de linguagem comercial e respeitar a privacidade e as liberdades pessoais. (A NSA está proibida de recolher informações nacionais, embora vários denunciantes tenham alertado que ela recolhe dados dos EUA.)
