A IA tem um problema inerente de governança?

A bagunça estrutural da OpenAI

O futuro da OpenAI, cujo ChatGPT deu início a uma corrida armamentista em inteligência artificial, tornou-se ainda mais nebuloso. A maioria de seus funcionários pediu a renúncia do conselho após destituir Sam Altman do cargo de CEO devido à rapidez com que comercializaria sua tecnologia.

O conflito sublinha ainda a supervisão peculiar de algumas das empresas líderes em IA que poderá afectar o futuro da tecnologia. E há sinais de que o conselho da OpenAI poderá não ceder, apesar da revolta do pessoal.

Aqui estão as últimas: Mais de 700 dos 770 funcionários da OpenAI — incluindo Ilya Sutskever, o cientista-chefe e membro do conselho que inicialmente pressionou pela destituição de Altman – exigiu que o conselho renunciasse. Altman ainda está tentando retornar como CEO e está em conversa com a empresa. O conselho da OpenAI tinha abordou um grande rival, Antrópicosobre uma fusão, de acordo com The Information. Marc Benioff da Salesforce está tentando atrair funcionários da OpenAI com ofertas financeiras confortáveis.

O dilema da OpenAI: Os comentaristas notaram o estrutura incomum, conflitante. Um conselho sem fins lucrativos com um missão de beneficiar a humanidade supervisiona um braço com fins lucrativos apoiado pela Microsoft e empresas de capital de risco, incluindo Thrive Capital e Khosla Ventures.

O objetivo de toda a empresa é construir uma inteligência artificial geral, sistemas altamente autónomos que “superem os humanos no máximo em trabalhos economicamente valiosos”, mas que “beneficiem toda a humanidade”. O braço comercial da OpenAI foi criado para apoiar esse objectivo extremamente dispendioso, mas está limitado por limites aos lucros que fluem para os investidores, bem como pela ausência de direitos de governação para os investidores. É por isso que a Microsoft, a Thrive e outras têm pouca influência direta sobre a forma como a empresa é administrada.

Ironicamente, Altman ajudou a conceber essa configuração – e acabou sendo vítima dela.

Essa não é a única estrutura corporativa incomum na indústria da IA. A Anthropic, iniciada por uma dúzia de ex-funcionários da OpenAI preocupados com a corrida por lucros de seu antigo empregador, é criada como uma B Corp, ou corporação de benefício públicoque visa equilibrar os interesses de uma ampla gama de partes interessadas.

Também possui um chamado confiança de benefícios de longo prazo isso inclui especialistas em ética em IA e outros especialistas e pode escolher a maioria dos diretores da empresa. (Dito isto, um dos assentos do conselho da Anthropic é ocupado por um investidor, embora isso esteja sujeito a alterações.)

Mas a estrutura da OpenAI pode levar a um conflito irreparável. Investidores, incluindo a Thrive, ainda estão pressionando para reinstalar Altman como CEO, assim como os funcionários e Sutskever.

Ainda assim, a carta dos funcionários apontava um desenvolvimento sinistro para esse campo: “Você também informou à equipe de liderança que permitir que a empresa fosse destruída ‘seria consistente com a missão’”. ações, a determinação dos três diretores restantes se fortaleceu – e se a OpenAI falhar, que assim seja.

AQUI ESTÁ ACONTECENDO

X processa um órgão de fiscalização da mídia por causa de pesquisas sobre sua publicidade. A rede social de Elon Musk cumpriu a ameaça de levar a Media Matters a tribunal pela afirmação do grupo de que a empresa colocava anúncios junto a conteúdo anti-semita. As descobertas, juntamente com a controvérsia sobre postagens recentes de Musk, levaram grandes anunciantes como Apple e IBM a interromper seus gastos no X; a empresa disse que a Media Matters manipulou seus algoritmos para apoiar suas descobertas.

Os reguladores dos EUA colocam mais pressão sobre os gigantes da criptografia. O Departamento de Justiça está buscando uma Multa de US$ 4 bilhões da Binance, a maior exchange de criptomoedas do mundo, para encerrar uma investigação sobre acusações de lavagem de dinheiro e fraude, segundo a Bloomberg. E a SEC processou Krakenuma rival, por alegações de que operava uma bolsa de valores não registrada.

O Citigroup está preparando demissões para centenas de gestores. O movimento tão esperado, anunciado na segunda-feira, é o mais recente passo no plano de Jane Fraser, CEO do banco, para simplificar a estrutura do gigante de Wall Street e reduzir custos. O Citi já demitiu mais de 7.000 trabalhadores enquanto enfrenta uma desaceleração nos negócios e altas taxas de juros.

Wall Street prepara-se para dados imobiliários decepcionantes. Espera-se que as vendas de casas existentes, previstas para às 10h, horário do leste, tenham caído para um mínimo de 13 anos à medida que o aumento das taxas de hipotecas custa mais compradores – especialmente caçadores de casas mais jovens – fora do mercado.

O que a Microsoft ganhou com a bagunça do OpenAI

O maior financiador da OpenAI, a Microsoft, está em alta, com as ações da gigante da tecnologia atingindo o maior nível em 22 meses na segunda-feira.

Satya Nadella, CEO da Microsoft, está em um tour pela mídia desde que contratou o agora deposto chefe da OpenAI, Sam Altman, e Greg Brockman, outro cofundador, e tentou consolidar sua posição como líder em inteligência artificial. Um grande ponto de discussão: como a empresa estruturou o seu acordo com a start-up e o acesso à sua propriedade intelectual.

Altman e Brockman comandarão a Microsoft Laboratório de pesquisa de IA. Depois que a maior parte do pessoal restante da OpenAI ameaçou pedir demissão, Altman e Brockman poderiam finalmente recrutar centenas de outros de seu antigo empregador. Isso permitiria à Microsoft reconstruir essencialmente “OpenAI dentro da Microsoft e não perder muito tempo ou dinheiro”, relata Karen Weise para o The Times.

Alguns investidores querem que os cofundadores da OpenAI voltem, incluindo Thrive Capital, Khosla Ventures e Tiger Global Management, para proteger seu investimento. (Vinod Khosla também pediu ao CEO interino da OpenAI, Emmett Shear, que demitir-se “antes de se tornar o único funcionário da OpenAI.”)

Até Nadella está aberta à possibilidade – com uma grande ressalva. A Microsoft não teve nenhuma palavra oficial junto ao conselho quando Altman, o principal contato da empresa, foi demitido. Nadella disse ao “Podcast Ligado com Kara Swisher” que se Altman e Brockman retornarem à OpenAI, “garantiremos que a governança seja corrigida para que tenhamos mais segurança e garantia para que não tenhamos surpresas”.

Mas Nadella foi inflexível de que eles têm as ferramentas para inovar de qualquer maneira. A Microsoft garantiu os direitos de propriedade intelectual da OpenAI, bem como cópias do código-fonte de seus principais sistemas e os “pesos” que orientam os resultados do sistema após ele ter sido treinado em dados, disseram ao The Times pessoas familiarizadas com o acordo. Isto é, em parte, uma proteção para o facto de não ter controlo sobre o conselho de administração da start-up.

Há uma grande exceção. Envolve o Santo Graal do trabalho da OpenAI: alcançar inteligência artificial geral, ou AGI OpenAI define esse avanço como “um sistema altamente autônomo que supera os humanos na maioria dos trabalhos economicamente valiosos”. Para cumprir a promessa da AGI, é necessário um imenso poder de computação, exatamente o que a Microsoft está fornecendo. A advertência: AGI é fora dos limites da Microsoft.

Ainda assim, o acordo de propriedade intelectual da Microsoft pode ser problemático. Scott Syphax, especialista em governança corporativa, disse ao DealBook que o acordo poderia levantar sinais de alerta junto aos reguladores se ameaçar o status de isenção fiscal da organização sem fins lucrativos. Outra área que a Syphax está observando: a avaliação que a Microsoft colocou na OpenAI após seu investimento e se adquiriu a propriedade intelectual a um preço justo.

Alguns veteranos das guerras de start-ups do Vale do Silício aplaudiram as manobras da Microsoft. “Se você me dissesse há 10 anos que um grupo dos engenheiros mais inteligentes do país evocaria a ameaça: ‘Faça o que eu digo ou irei trabalhar na Microsoft’, eu não teria acreditado em você”, Bill Gurley, um sócio geral da Benchmark e investidor na Grubhub, Uber e Zillow, postado em Xacrescentando “muito crédito a Satya”.

Mas outros me perguntei o que a Microsoft estava pensando em primeiro lugar, ao fazer uma aposta tão grande na OpenAI “sem quaisquer controlos reais de governação”.

“As pessoas dizem: ‘Os economistas não sabem por que estamos infelizes? Basta olhar os preços! Estamos olhando os preços e nos perguntando: por que você está comprando tantas coisas?”

– Betsey Stevensoneconomista da Universidade de Michigan que trabalhou no governo Obama, sobre a desconexão entre a percepção dos americanos sobre a economia e as suas experiências reais.

Goldman repensa acordo de golfe

A primeira grande aposta do Goldman no patrocínio esportivo está chegando ao fim. O banco não renovará seu acordo de patrocínio com o jogador de golfe Patrick Cantlay, Lauren Hirsch, do DealBook, é a primeira a relatar.

O acordo fez parte do impulso do banco ao consumidor. O Goldman assinou um acordo de três anos com a Cantlay em 2020, em parte para ajudar a aumentar o reconhecimento da marca Marcus, seu serviço bancário on-line ao consumidor. Cantlay, atualmente em quinto lugar no ranking mundial, usou um boné com a marca Marcus durante os torneios, e os dois lados assinaram um novo contrato de um ano no início de 2023.

Mas o Goldman recuou da banca de retalho. O banco vendeu partes da Marcus e reestruturou o negócio para se concentrar novamente em seus tradicionais serviços bancários de investimento e comerciais. “Avaliamos constantemente as parcerias da empresa e, neste momento, nosso logotipo não aparecerá mais em seu chapéu”, disse Tony Fratto, porta-voz do Goldman Sachs, ao DealBook.

Cantlay e Goldman ainda terão alguns links. Ele ainda poderá participar de eventos do banco daqui para frente, disse uma pessoa familiarizada com o relacionamento ao DealBook. E tanto Cantlay quanto Mark Flaherty, diretor do Goldman, fazem parte do conselho de administração do PGA Tour, que está tentando estabelecer uma parceria com o fundo soberano da Arábia Saudita e cortejando novos investidores.

A LEITURA DE VELOCIDADE

Ofertas

Política

• A empresa-mãe da Truth Social, a rede social de Donald Trump, processou 20 editores de mídia, acusando-os de um “ataque deliberado, malicioso e coordenado”. (Bloomberg)

• “Como é um super PAC criptografado está tentando balançar 2024” (Politico)

O melhor do resto

• TGL a liga de golfe indoor fundada por Tiger Woods e Rory McIlroy adiou sua temporada inaugural um ano depois que o teto de sua arena desabou. (CNBC)

Gostaríamos de receber seu feedback! Envie pensamentos e sugestões por e-mail para dealbook@nytimes.com.