Olá! Estamos de volta com mais uma edição bônus do Em tecnologia: IAum boletim informativo pop-up que ensina sobre inteligência artificial, como ela funciona e como usá-la.
O cenário da inteligência artificial nunca mais será o mesmo após a extraordinária reviravolta na OpenAI, a start-up que desencadeou uma corrida armamentista tecnológica ao lançar o ChatGPT há quase um ano.
O conselho da OpenAI demitiu Sam Altman do cargo de presidente-executivo na sexta-feira, chocando funcionários e investidores. Sua saída desencadeou uma série de desenvolvimentos surpreendentes, enquanto o conselho considerava brevemente e depois rejeitava uma proposta para trazê-lo de volta.
A Microsoft, maior investidora da empresa, anunciou no domingo que contrataria Altman e seu cofundador, Greg Brockman, para administrar um novo laboratório de pesquisa – uma aparente ruptura no estreito relacionamento entre a OpenAI e a gigante da tecnologia, que investiu US$ 13 bilhões em o arranque. A maioria dos funcionários da OpenAI “ameaçaram abandonar o navio para a Microsoft”.
A turbulência do fim de semana também destacou um debate não resolvido na OpenAI e na comunidade tecnológica em geral: a inteligência artificial é a nova tecnologia mais importante desde os navegadores web, ou é potencialmente perigosa para a humanidade – ou ambas?
Hoje, com a ajuda de Cade Metz, Kevin Roose e seus colegas da equipe de tecnologia do Times, iremos atualizá-lo sobre a situação dessa história em rápida evolução e sobre onde ela pode chegar. Aviso: pode haver mais reviravoltas na história.
O que acabou de acontecer?
-
Na sexta-feira, Altman foi abruptamente demitido do cargo de presidente-executivo da OpenAI por motivos que ainda não estão claros. Alguns observadores de tecnologia compararam o choque com o de quando Steve Jobs foi forçado a deixar a Apple em 1985.
-
“Simplificando, o comportamento de Sam e a falta de transparência em suas interações com o conselho minaram a capacidade do conselho de supervisionar efetivamente a empresa da maneira que foi mandatado”, disse o conselho da OpenAI em um memorando.
-
Mira Murati, diretora de tecnologia da empresa, foi nomeada presidente-executiva interina.
-
Greg Brockman, outro cofundador, foi destituído de sua presidência e renunciou.
-
Os investidores na OpenAI – que têm pouco poder devido à peculiar estrutura de governança corporativa da empresa (mais sobre isso abaixo) – começaram a traçar uma maneira de Altman retornar.
-
As negociações para trazer Altman de volta fracassaram e o conselho da OpenAI nomeou seu segundo chefe interino em dois dias. Emmett Shear, ex-presidente-executivo do serviço de streaming Twitch, substituiu Murati.
-
Horas depois, a Microsoft disse que contrataria Altman e Brockman para liderar um laboratório de pesquisa avançada na gigante da tecnologia. Altman escreveu na plataforma X, antigo Twitter, que “a missão continua”.
-
Na manhã de segunda-feira, quase todos os quase 800 funcionários da OpenAI haviam assinado uma carta dizendo que poderiam pedir demissão para ingressar no novo projeto de Altman na Microsoft, a menos que o conselho da start-up renunciasse, disseram ao Cade três pessoas que viram a carta.
O que realmente aconteceu?
Ilya Sutskever, cientista-chefe da OpenAI que também é cofundador e membro do conselho, estava cada vez mais preocupado que a tecnologia da OpenAI pudesse ser perigosa e que Altman não estivesse prestando atenção suficiente a esse risco, disseram ao Cade três pessoas familiarizadas com seu pensamento.
Kevin escreveu que o conselho “estava preocupado com o fato de Altman estar se movendo rápido demais para construir sistemas de IA poderosos e potencialmente prejudiciais, e eles o impediram”.
Em mais uma reviravolta na história, Sutskever escreveu no X na manhã de segunda-feira: “Lamento profundamente minha participação nas ações do conselho. Nunca tive a intenção de prejudicar o OpenAI. Adoro tudo o que construímos juntos e farei tudo o que puder para reunificar a empresa.”
Em suma, ainda não sabemos exatamente o que aconteceu neste fim de semana ou o resultado final de toda a turbulência.
A história ‘confusa’ da OpenAI
Altman, Brockman e Sutskever criaram a OpenAI em 2015 junto com outros nove, incluindo Elon Musk. O grupo fundou o laboratório de IA como uma organização sem fins lucrativos, dizendo que, ao contrário de uma empresa de tecnologia tradicional – digamos, a Microsoft – não seria impulsionado por incentivos comerciais.
Em 2018, depois que Musk se separou da OpenAI, Altman transformou o laboratório em uma empresa com fins lucrativos controlada pela organização sem fins lucrativos e seu conselho. Nos anos seguintes, ele levantou os bilhões de dólares que a empresa precisava para construir coisas como o ChatGPT.
“A OpenAI sempre foi uma empresa confusa”, disse Casey Newton, co-apresentador de Kevin no podcast “Hard Fork”. Musk desentendeu-se com a empresa e acabou indo embora; ele fundou uma empresa de IA chamada xAI este ano. Outro grupo de pessoas que deixou a OpenAI iniciou a Anthropic, outro concorrente.
“No mundo da IA, há muitas disputas”, disse Casey, “e muitas vezes acabam com pessoas batendo portas e muitas vezes abrindo suas próprias empresas de IA”.
A estrutura corporativa incomum da OpenAI também parece ter desempenhado um papel na demissão de Altman. A OpenAI é controlada pelo conselho de uma organização sem fins lucrativos que pode decidir a liderança da empresa. Investidores como a Microsoft não têm forma formal de influenciar as decisões e muitos dos principais líderes, incluindo Altman, não possuem quaisquer ações da empresa.
“Esse cenário torna esse tipo de drama mais provável”, disse Casey.
O movimento do altruísmo eficaz
Durante anos, uma comunidade de investigadores e activistas da IA – muitos deles afiliados ao movimento do altruísmo eficaz, cujos adeptos pensam que a razão e os dados podem ser usados para determinar como fazer o maior bem – alertaram que os sistemas de IA estão a tornar-se demasiado poderosos, e que A IA fora de controle pode representar uma ameaça existencial para a humanidade.
Pessoas com esses medos – às vezes ridicularizadas como “destruidoras” – já foram consideradas marginais. Mas, ao longo dos últimos anos, têm vindo a aproximar-se do mainstream, recolhendo assinaturas em cartas abertas e alertando os reguladores para levarem a sério a segurança da IA.
Ilya Sutskever, cientista-chefe da OpenAI, que liderou o golpe contra Altman não é um altruísta eficaz, mas parece ter sido motivado por medos semelhantes. E dois dos membros do conselho que apoiaram que expulsaram Altman, Tasha McCauley e Helen Toner, têm ligações com grupos altruístas eficazes.
E se este movimento lhe parece familiar, pode ser devido às dificuldades de Sam Bankman-Fried, o desgraçado magnata da criptografia que também apoiou o altruísmo eficaz.
O que a Microsoft ganha com isso?
A Microsoft teria ficado particularmente alarmada com a demissão repentina de Altman e liderou a campanha fracassada para reintegra-lo. A gigante da tecnologia, junto com outros investidores da OpenAI como Thrive Capital e Sequoia Capital, descobriu a demissão de Altman apenas um minuto antes do anúncio.
Satya Nadella, presidente-executivo da Microsoft, estaria profundamente envolvido nas negociações. Na noite de domingo, ele disse que a Microsoft continuava “comprometida” com a OpenAI, mas enfatizou que a nova unidade que Altman e Brockman administrariam dentro da Microsoft estaria “estabelecendo um novo ritmo para a inovação”, em um aparente contraste com o desejo de cautela do conselho da OpenAI em desenvolvendo tecnologia de IA.
Kevin disse que Nadella terminou o fim de semana vencedor:
“Na sexta-feira, quando Altman foi demitido, parecia que Nadella poderia perder um de seus aliados mais poderosos”, escreveu ele. “A Microsoft investiu US$ 13 bilhões na OpenAI e, sob a liderança do Sr. Altman, a empresa se tornou um parceiro importante da Microsoft. Sua tecnologia é a espinha dorsal de muitos dos serviços de IA, como o conjunto de produtos Copilot AI da empresa, nos quais a Microsoft está apostando o futuro de seus negócios.”
Nadella “teria claramente preferido ver Altman reintegrado”, concluiu Kevin. “Mas quando ficou claro que isso não estava acontecendo, ele fez a segunda melhor coisa: apareceu para oferecer empregos a Altman, Brockman e seus legalistas.”
As ações da Microsoft, que despencaram após a notícia da demissão de Altman na sexta-feira, recuperaram seu valor na segunda-feira e estabeleceram um novo recorde.
O que agora?
Casey e Kevin discutiram na edição deste fim de semana do “Hard Fork” como a estatura de Altman no Vale do Silício permitiu que ele recrutasse muitos talentos de primeira linha para a OpenAI. O outro lado: sua ausência pode prejudicar a sorte da empresa.
“Muitas pessoas foram trabalhar porque trabalhavam para Sam Altman”, disse Casey. “Na segunda-feira, eles vão trabalhar para outra pessoa.”
A carta dos funcionários que ameaçaram ingressar no novo projeto de Altman na Microsoft caso o conselho da OpenAI não renunciasse foi, curiosamente, assinada também por Sutskever.
“Antes de sexta-feira, a empresa era o nome mais quente em tecnologia, com um líder celebridade, um produto conhecido no ChatGPT e uma fileira de assassinos de talentos em IA que causava inveja aos gigantes do Vale do Silício”, escreveu Kevin.
Mas agora, “a empresa está um caos. Seus principais líderes se foram. O moral está abalado.”
A empresa também continua altamente dependente da Microsoft em termos de poder computacional. A partir de hoje, observou Kevin, a Microsoft “terá um mini-OpenAI crescendo dentro dela, liderado por Altman e composto por ex-funcionários da OpenAI”.
“O conselho da OpenAI pode estar satisfeito com este resultado – afinal, eles o escolheram, mesmo depois de terem tido a oportunidade de voltar atrás. Mas eles parecem bobos por não explicarem por que demitiram Altman, e até que compartilhem mais informações, é difícil imaginar a base entrando na linha.”
– Relatório por Cade Metz, Kevin Roose, Mike Isaac, Jason Karaian, John Koblin e Kevin Granville.
