Antes de Sam Altman ser demitido da OpenAI na semana passada, ele e o conselho de administração da empresa brigavam há mais de um ano. A tensão piorou à medida que OpenAI se tornou um nome popular graças ao seu popular chatbot ChatGPT.
Altman, o presidente-executivo, recentemente decidiu expulsar um dos membros do conselho porque achava que um artigo de pesquisa que ela co-escreveu criticava a empresa.
Outro membro, Ilya Sutskever, que também é cientista-chefe da OpenAI, achava que Altman nem sempre era honesto ao conversar com o conselho. E os membros do conselho temiam que Altman estivesse muito focado na expansão enquanto queriam equilibrar esse crescimento com a segurança da IA.
A notícia de que ele estava sendo expulso veio em uma videoconferência na tarde de sexta-feira, quando Sutskever, que trabalhou em estreita colaboração com Altman na OpenAI por oito anos, leu para ele uma declaração do conselho. Embora a decisão tenha surpreendido os funcionários da OpenAI, expondo os membros do conselho a questões difíceis sobre as suas qualificações para gerir uma empresa de tão alto perfil, foi o culminar de uma tensão latente na sala de reuniões.
A ruptura também mostrou como a construção de novos sistemas de IA está testando se os empresários que querem ganhar dinheiro com a inteligência artificial podem trabalhar em sincronia com os pesquisadores que temem que o que estão construindo possa eventualmente eliminar empregos ou se tornar uma ameaça para a humanidade se coisas como armas autônomas crescerem. fora de controle.
A OpenAI foi iniciada em 2015 com um plano ambicioso para um dia criar um sistema automatizado superinteligente que possa fazer tudo o que um cérebro humano pode fazer. Mas o atrito há muito atormenta o conselho da OpenAI, que nem sequer conseguiu chegar a acordo sobre a substituição dos membros que deixaram o cargo.
Agora a continuidade da existência da empresa está em dúvida, em grande parte por causa dessa disfunção. Quase todos os 800 funcionários da OpenAI ameaçaram seguir Altman até a Microsoft, que lhe pediu para liderar um laboratório de IA com Greg Brockman, que deixou seus cargos como presidente e presidente do conselho da OpenAI em solidariedade a Altman.
O conselho disse a Brockman que ele não seria mais o presidente da OpenAI, mas o convidou para permanecer na empresa – embora ele não tenha sido convidado para a reunião onde foi tomada a decisão de expulsá-lo do conselho e de Altman. a empresa.
O conselho não disse o que achava que Altman não estava sendo honesto.
Houve indícios de que o conselho ainda estava aberto ao seu retorno, já que ele e Altman mantiveram discussões que se estenderam até terça-feira, disseram duas pessoas familiarizadas com as negociações. Mas havia um ponto crítico: Altman rejeitou algumas das proteções propostas para melhorar sua comunicação com o conselho. Não estava claro quais seriam exatamente essas grades de proteção.
Sutskever não respondeu a um pedido de comentário na terça-feira.
Os problemas do conselho da OpenAI podem ser atribuídos ao início da organização sem fins lucrativos da start-up. Em 2015, Altman se uniu a Elon Musk e outros, incluindo Sutskever, para criar uma organização sem fins lucrativos para construir IA que fosse segura e benéfica para a humanidade. Eles planejavam arrecadar dinheiro de doadores privados para a sua missão. Mas, em poucos anos, perceberam que as suas necessidades informáticas exigiam muito mais financiamento do que conseguiam obter de indivíduos.
Depois que Musk saiu em 2018, eles criaram uma subsidiária com fins lucrativos que começou a levantar bilhões de dólares de investidores, incluindo US$ 1 bilhão da Microsoft. Eles disseram que a subsidiária seria controlada pelo conselho da organização sem fins lucrativos e que o dever fiduciário de cada diretor seria para com “a humanidade, não os investidores da OpenAI”. OpenAI disse em seu site.
Depois que Altman foi forçado a sair e Brockman saiu, os quatro membros restantes do conselho são o Sr. Adam D’Angelo, executivo-chefe do Quora, o site de perguntas e respostas; Helen Toner, diretora de estratégia do Centro de Segurança e Tecnologia Emergente da Universidade de Georgetown; e Tasha McCauley, empreendedora e cientista da computação.
Algumas semanas antes da demissão de Altman, ele se encontrou com Toner para discutir um artigo que ela havia recentemente co-escrito para o Centro de Segurança e Tecnologia Emergente da Universidade de Georgetown.
O Sr. Altman reclamou que o artigo de pesquisa pareceu criticar os esforços da OpenAI para manter suas tecnologias de IA seguras enquanto elogiava a abordagem adotada pela Anthropic, de acordo com um e-mail que Altman escreveu a colegas e que foi visto pelo The New York Times.
No e-mail, Altman disse que havia repreendido a Sra. Toner pelo papel e que era perigoso para a empresa, especialmente em um momento, acrescentou ele, em que a Comissão Federal de Comércio estava investigando a OpenAI sobre os dados usados para construir seu tecnologia.
A Sra. Toner defendeu-o como um artigo académico que analisava os desafios que o público enfrenta ao tentar compreender as intenções dos países e empresas que desenvolvem IA. Mas o Sr. Altman discordou.
“Não achei que estivéssemos de acordo sobre os danos de tudo isso”, escreveu ele no e-mail. “Qualquer crítica de um membro do conselho tem muito peso.”
Líderes seniores da OpenAI, incluindo Sutskever, que está profundamente preocupado com a possibilidade de a IA um dia destruir a humanidade, discutiram mais tarde se a Sra. Toner deveria ser removida, disse uma pessoa envolvida nas conversas.
Mas logo após essas discussões, Sutskever fez o inesperado: ficou do lado dos membros do conselho para destituir Altman, de acordo com duas pessoas familiarizadas com as deliberações do conselho. Ele leu para o Sr. Altman a declaração pública do conselho explicando que o Sr.consistentemente sincero em suas comunicações com o conselho.”
A frustração do Sr. Sutskever com o Sr. Altman ecoou o que aconteceu em 2021, quando outro cientista sênior de IA deixou a OpenAI para formar a empresa Antrópica. Esse cientista e outros pesquisadores foram ao conselho para tentar expulsar Altman. Depois de falharem, desistiram e partiram, de acordo com três pessoas familiarizadas com a tentativa de expulsar Altman.
“Após uma série de negociações razoavelmente amigáveis, os cofundadores da Anthropic conseguiram negociar sua saída em termos mutuamente aceitáveis”, disse uma porta-voz da Anthropic, Sally Aldous.
As vagas agravaram os problemas do conselho. Este ano, discordou sobre como substituir três diretores que estão deixando o cargo: Reid Hoffman, fundador do LinkedIn e membro do conselho da Microsoft; Shivon Zilis, diretor de operações da Neuralink, empresa fundada por Musk para implantar chips de computador no cérebro das pessoas; e Will Hurd, um ex-congressista republicano do Texas.
Depois de avaliar quatro candidatos para um cargo, os diretores restantes não conseguiram chegar a um acordo sobre quem deveria ocupá-lo, disseram as duas pessoas familiarizadas com as deliberações do conselho. O impasse fortaleceu a divisão entre Altman e Brockman e outros membros do conselho.
Horas depois de Altman ter sido demitido, os executivos da OpenAI confrontaram os demais membros do conselho durante uma videochamada, de acordo com três pessoas que estavam na teleconferência.
Durante a ligação, Jason Kwon, diretor de estratégia da OpenAI, disse que o conselho estava colocando em risco o futuro da empresa ao expulsar Altman. Isto, disse ele, violava as responsabilidades dos membros.
A Sra. Toner discordou. A missão do conselho é garantir que a empresa crie inteligência artificial que “beneficie toda a humanidade” e, se a empresa for destruída, disse ela, essa missão será cumprida. Na opinião do conselho, a OpenAI seria mais forte sem Altman.
No domingo, Sutskever foi instado no escritório da OpenAI a reverter o curso pela esposa de Brockman, Anna, de acordo com duas pessoas familiarizadas com a bolsa. Horas depois, ele assinou uma carta com outros funcionários exigindo a renúncia dos conselheiros independentes. O confronto entre o Sr. Sutskever e a Sra. Brockman foi relatado anteriormente por Jornal de Wall Street.
Às 5h15 de segunda-feira, ele postou em Xantigo Twitter, que “lamento profundamente minha participação nas ações do conselho”.
