Kay Firth-Butterfield trabalha na interseção entre responsabilidade e IA há mais de uma década e está entusiasmado com o futuro. “Não sou um pessimista em IA. Acredito que, se acertarmos, poderemos abrir muitas portas benéficas”, diz ela. Mas ela ainda é cautelosa. Depois que os médicos a diagnosticaram com câncer de mama no ano passado, ela ficou grata por eles não confiarem muito na IA, embora ela seja cada vez mais usada para avaliar mamografias e ressonâncias magnéticas, e até mesmo no planejamento de tratamentos. Embora Firth-Butterfield, que agora está curada, se preocupasse menos se uma máquina estava lendo sua mamografia, ela notou que uma dependência excessiva dos modelos atuais de IA pode ser problemática, pois às vezes eles apresentam informações incorretas. Seus cirurgiões concordaram, diz ela.
Ex-juiz e professor, Firth-Butterfield emergiu como um dos maiores especialistas mundiais em IA responsável, moldando esforços para garantir que estes sistemas permaneçam responsáveis e transparentes. Em abril passado, ela encerrou um período de cinco anos e meio como chefe de IA e aprendizado de máquina no Fórum Econômico Mundial, onde elaborou estruturas e manuais para empresas, países e outras organizações orientarem o desenvolvimento responsável e o uso de IA . Seu trabalho assessorando o Reino Unido e o Brasil na criação de tais sistemas de IA foi transformado em lei. “Se você é um governo e usa inteligência artificial com seus cidadãos, então você tem que ser capaz de explicar aos seus cidadãos como ela está sendo usada”, diz ela. Em 2016, Firth-Butterfield cofundou o Responsible AI Institute, que fornece ferramentas para que as organizações construam sistemas de IA seguros e confiáveis, e ela atua em um conselho que assessora o Gabinete de Responsabilidade do Governo dos EUA em questões de IA relacionadas à ciência e tecnologia, e em um conselho consultivo do Centro Internacional de Pesquisa em IA da UNESCO.
Hoje em dia, ela também dirige a Good Tech Advisory—trabalhando com empresas, governos, ONGs e meios de comunicação para implementar a IA de forma responsável. Isso significa ajudar a estabelecer diretrizes para a utilização de tecnologia dependente de IA para minimizar potenciais danos, ao mesmo tempo que maximiza os benefícios e garante a conformidade legal.
Como CEO da Good Tech Advisory, Firth-Butterfield tem ajudado hospitais nos EUA a navegar pelos usos potenciais da IA, inclusive para leitura de imagens médicas e determinação de diagnósticos. Muitos não têm diretrizes claras sobre como a equipe pode usar programas como o ChatGPT, embora Firth-Butterfield aponte que essas ferramentas muitas vezes podem fornecer informações imprecisas. “Essas empresas estão lutando com algumas escolhas realmente sérias e responsáveis de IA”, diz ela. Os médicos que usam IA para digitar anotações com eficiência e lidar com tarefas administrativas podem permitir mais tempo para atendimento ao paciente. Mas confiar na IA para chegar a um diagnóstico em situações de alta pressão pode ser perigoso. E se um paciente fica mais doente ou morre, a questão de quem é o responsável torna-se um problema.
Quando a IA não é usada de forma responsável, as pessoas podem se machucar – e são desproporcionalmente mulheres e pessoas de cor, observa Firth-Butterfield. Algoritmos tendenciosos podem impedir que um trabalhador seja contratado, rejeitar injustamente pedidos de hipoteca ou tomar decisões incorretas sobre ameaças à segurança com base no reconhecimento facial, por exemplo.
No centro da defesa de Firth-Butterfield está a compreensão de como a IA impacta os membros mais vulneráveis da sociedade. No WEF, ela trabalhou com UNICEF vai pesquisar o uso de IA com crianças e organizou um prêmio Smart Toy que incentivou uma implementação cuidadosa. “Permitimos que os nossos filhos brinquem com brinquedos que são ativados pela inteligência artificial, mas não compreendemos o que os nossos filhos estão a aprender… ou para onde vão os seus dados”, diz ela.
Proibir a utilização da IA em brinquedos ou salas de aula como forma de proteger as crianças dos seus riscos potenciais não é a resposta, diz Firth-Butterfield. “Precisamos que as crianças utilizem a IA na educação porque a utilizarão no seu trabalho. Portanto, temos que encontrar uma forma responsável de permitir essa interação entre a máquina e o ser humano”, diz ela. Mas os professores precisam permanecer no comando. “Não podemos simplesmente dar educação à IA; precisamos manter os humanos informados”, diz ela. Os professores podem contar com a IA para administração de back-end, liberando tempo para se concentrarem mais em ajudar seus alunos.
É crucial prestar muita atenção à forma como os sistemas são construídos, mas Firth-Butterfield também se preocupa com quem participa. Embora mais de 100 milhões de pessoas utilizem o ChatGPT, quase 3 mil milhões de pessoas ainda não têm acesso à Internet. “Estamos a aumentar a exclusão digital a um ritmo enorme – não apenas entre o Norte Global e o Sul Global, mas também dentro dos países”, afirma ela. Embora a IA tenha o potencial de revolucionar o ensino nas escolas e o tratamento de pacientes médicos, grande parte do mundo pode não sentir os seus efeitos. “Tendemos a tendência de ficar sentados nas nossas torres de marfim a falar sobre como a IA vai fazer tudo de forma brilhante e não nos lembramos de que grande parte do mundo não fez parte da revolução da Internet”, diz ela.
O nosso futuro está em jogo nestas decisões sobre como as pessoas usam e confiam na IA, diz ela: “É uma questão de saber se nós, como seres humanos, construímos a sociedade que queremos”.
Este perfil é publicado como parte da iniciativa TIME100 Impact Awards da TIME, que reconhece líderes de todo o mundo que estão impulsionando mudanças em suas comunidades e indústrias. A próxima cerimônia do TIME100 Impact Awards será realizada em 11 de fevereiro em Dubai.
