Focos lugares no mundo têm mais a ganhar com uma indústria de IA florescente do que a Califórnia. Poucos também têm mais a perder se a confiança do público na indústria fosse repentinamente abalada.
Em maio, o Senado da Califórnia passou SB 1047, uma legislação de segurança de IA, em uma votação de 32 a um, ajudando a garantir o desenvolvimento seguro de sistemas de IA em larga escala por meio de padrões de segurança claros, previsíveis e de senso comum. A conta está agora ardósia para votação na assembleia estadual esta semana e, se sancionada pelo governador Gavin Newsom, representaria um passo significativo na proteção dos cidadãos da Califórnia e da crescente indústria de IA do estado contra uso malicioso.
Na segunda-feira à noite, Elon Musk chocou muitos ao anunciar seu apoio ao projeto de lei em um postar no X. “Essa é uma decisão difícil e deixará algumas pessoas chateadas, mas, considerando tudo, acho que a Califórnia provavelmente deveria aprovar o projeto de lei de segurança de IA SB 1047”, ele escreveu. “Por mais de 20 anos, tenho sido um defensor da regulamentação de IA, assim como regulamos qualquer produto/tecnologia que seja um risco potencial para o público.”
A postagem veio dias depois de eu ter falado com Musk sobre o SB 1047. Ao contrário de outros líderes corporativos que frequentemente vacilam, consultando suas equipes de RP e advogados antes de tomar uma posição sobre a legislação de segurança, Musk era diferente. Depois que delineei a importância do projeto de lei, ele solicitou a revisão do texto para garantir sua imparcialidade e ausência de potencial para abuso. No dia seguinte, ele se manifestou em apoio. Esse rápido processo de tomada de decisão é uma prova da defesa de longa data de Musk pela regulamentação responsável da IA.
No inverno passado, o senador Scott Weiner, o criador do projeto de lei, entrou em contato com o Center for AI Safety (CAIS) Action Fund para sugestões técnicas e copatrocínio. Como fundador do CAIS, meu compromisso com tecnologias transformadoras que impactam a segurança pública é a pedra angular da nossa missão. Para preservar a inovação, devemos antecipar armadilhas potenciais, porque uma onça de prevenção vale um quilo de cura. Reconhecendo a natureza inovadora do SB 1047, ficamos entusiasmados em ajudar e defendemos sua adoção desde então.
Leia mais: Exclusivo: Projeto de Lei da Califórnia propõe regulamentar IA em nível estadual
Direcionado aos modelos de IA mais avançados, ele exigirá que grandes empresas testem perigos, implementem salvaguardas, garantam capacidades de desligamento, protejam denunciantes e gerenciem riscos. Essas medidas visam prevenir ataques cibernéticos em infraestrutura crítica, bioengenharia de vírus ou outras atividades maliciosas com potencial para causar destruição generalizada e baixas em massa
Antrópico recentemente avisado que os riscos da IA podem surgir em “tão pouco quanto 1-3 anos”, contestando os críticos que veem as preocupações com a segurança como imaginárias. Claro, se esses riscos forem de fato fictícios, os desenvolvedores não devem temer a responsabilidade. Além disso, os desenvolvedores se comprometeram a enfrentar essas questões, alinhando-se com a recente ordem executiva do presidente Joe Biden, reafirmada na AI Seoul Summit de 2024.
A aplicação é enxuta por design, permitindo que o Procurador-Geral da Califórnia atue apenas em casos extremos. Não há requisitos de licenciamento para novos modelos, nem pune erros honestos ou criminaliza o código aberto — a prática de tornar o código-fonte do software disponível gratuitamente. Não foi elaborado pela Big Tech ou por aqueles focados em cenários de futuro distante. O projeto de lei visa evitar que laboratórios de fronteira negligenciem a cautela e as salvaguardas críticas em sua pressa para lançar os modelos mais capazes.
Como a maioria dos pesquisadores de segurança de IA, sou em grande parte motivado por uma crença em seu imenso potencial para beneficiar a sociedade e profundamente preocupado em preservar esse potencial. Como líder global em IA, a Califórnia também é. Essa preocupação compartilhada é o motivo pelo qual os políticos estaduais e pesquisadores de segurança de IA estão entusiasmados com o SB 1047, pois a história nos diz que um grande desastre, como o nuclear em Three Mile Island em 28 de março de 1979, poderia fazer uma indústria florescente retroceder décadas.
Os órgãos reguladores responderam ao colapso nuclear parcial revisando os padrões e protocolos de segurança nuclear. Essas mudanças aumentaram os custos operacionais e a complexidade da operação de usinas nucleares, pois os operadores investiram em novos sistemas de segurança e cumpriram com uma supervisão rigorosa. Os desafios regulatórios tornaram a energia nuclear menos atraente, interrompendo sua expansão nos 30 anos seguintes.
Three Mile Island levou a uma maior dependência de carvão, petróleo e gás natural. É frequentemente argumentado que esta foi uma oportunidade perdida significativa para avançar em direção a uma infraestrutura de energia global mais sustentável e eficiente. Embora permaneça incerto se regulamentações mais rigorosas poderiam ter evitado o incidente, está claro que um único evento pode impactar profundamente a percepção pública, sufocando o potencial de longo prazo de uma indústria inteira.
Algumas pessoas verão qualquer ação governamental na indústria com suspeita, considerando-a inerentemente prejudicial aos negócios, à inovação e à vantagem competitiva de um estado ou país. Three Mile Island demonstra que essa perspectiva é míope, pois medidas para reduzir as chances de um desastre geralmente são do interesse de longo prazo das indústrias emergentes. Também não é o único conto de advertência para a indústria de IA.
Quando as plataformas de mídia social surgiram pela primeira vez, elas foram amplamente recebidas com entusiasmo e otimismo. Um Pew Research Center de 2010 enquete descobriu que 67% dos adultos americanos que usavam mídias sociais acreditavam que elas tinham um impacto majoritariamente positivo. O futurista Brian Solis capturou esse ethos quando proclamou: “A mídia social é a nova maneira de se comunicar, a nova maneira de construir relacionamentos, a nova maneira de construir negócios e a nova maneira de construir um mundo melhor.”
Ele estava três quartos correto.
Motivada por preocupações com violações de privacidade, desinformação e impactos na saúde mental, a percepção pública das redes sociais mudou, com 64% dos americanos vendo-o negativamente. Escândalos como o Cambridge Analytica corroeram a confiança, enquanto notícias falsas e conteúdo polarizador destacaram o papel da mídia social na divisão social. Uma Royal Society for Public Health estudar mostrou que 70% dos jovens sofreram cyberbullying, com 91% dos jovens de 16 a 24 anos afirmando que as mídias sociais prejudicam seu bem-estar mental. Usuários e formuladores de políticas ao redor do mundo estão cada vez mais falando sobre a necessidade de regulamentações mais rigorosas e maior responsabilização das empresas de mídia social.
Isso não aconteceu porque as empresas de mídia social são excepcionalmente más. Como outras indústrias emergentes, os primeiros dias foram um “oeste selvagem”, onde as empresas se apressaram para dominar um mercado crescente e a regulamentação governamental era insuficiente. Plataformas com vicianteconteúdo frequentemente prejudicial prosperoue agora estamos todos pagando o preço. As empresas — cada vez mais desconfiadas pelos consumidores e na mira de reguladores, legisladores e tribunais — incluídas.
O otimismo em torno das mídias sociais não era descabido. A tecnologia tinha o potencial de quebrar barreiras geográficas e promover um senso de comunidade global, democratizar informações e facilitar movimentos sociais positivos. Como o autor Erik Qualman alertou“Não temos escolha sobre se usamos ou não mídias sociais, a questão é quão bem fazemos isso.”
O potencial perdido das mídias sociais e da energia nuclear foi trágico, mas não é nada comparado ao desperdício do potencial da IA. Legislação inteligente como a SB 1047 é nossa melhor ferramenta para prevenir isso, ao mesmo tempo em que protegemos a inovação e a competição.
A história da regulamentação tecnológica demonstra nossa capacidade de previsão e adaptabilidade. Quando as ferrovias transformaram o transporte do século XIX, os governos padronizaram bitolas, sinalização e protocolos de segurança. O advento da eletricidade levou a códigos e padrões que preveniam incêndios e eletrocussões. A revolução automobilística exigiu leis de trânsito e medidas de segurança como cintos de segurança e airbags. Na aviação, órgãos como a FAA estabeleceram padrões de segurança rigorosos, tornando o voo a forma mais segura de transporte.
A história só pode nos dar lições. Se devemos ou não dar ouvidos a elas, depende de nós.
