Primeiro, eles são programados para tarefas específicas. (Exemplos criados pela OpenAI incluem “Creative Writing Coach” e “Mocktail Mixologist”, um bot que sugere receitas de bebidas não alcoólicas.) Em segundo lugar, os bots podem extrair dados privados, como documentos internos de RH de uma empresa ou um banco de dados de listagens imobiliárias. e incorporar esses dados em suas respostas. Terceiro, se você permitir, os bots podem se conectar a outras partes da sua vida online – seu calendário, sua lista de tarefas, sua conta do Slack – e realizar ações usando suas credenciais.
Parece assustador? É, se você perguntar a alguns pesquisadores de segurança de IA, que temem que dar mais autonomia aos bots possa levar ao desastre. O Center for AI Safety, uma organização de pesquisa sem fins lucrativos, listou os agentes autônomos como um de seus “riscos catastróficos de IA”Este ano, dizendo que“ atores maliciosos poderiam criar intencionalmente IAs desonestas com objetivos perigosos”.
Mas há dinheiro a ser ganho com assistentes de IA que podem realizar tarefas úteis para as pessoas, e os clientes corporativos estão ansiosos para treinar chatbots com seus próprios dados. Há também o argumento de que a IA não será verdadeiramente útil até que realmente compreenda os seus utilizadores – os seus estilos de comunicação, o que gostam e o que não gostam, o que veem e compram online.
Então aqui estamos nós, acelerando para a era do agente autônomo de IA – danem-se os condenados.
Para ser justo, os bots da OpenAI não são particularmente perigosos. Recebi uma demonstração de vários GPTs durante a conferência de desenvolvedores da empresa em São Francisco, na segunda-feira, e eles automatizaram principalmente tarefas inofensivas, como criar páginas para colorir para crianças ou explicar as regras dos jogos de cartas.
GPTs personalizados também não podem fazer muito ainda, além de pesquisar documentos e conectar-se a aplicativos comuns. Uma demonstração que vi na segunda-feira envolvia uma funcionária da OpenAI pedindo a um GPT que procurasse reuniões conflitantes em sua agenda do Google e enviasse uma mensagem do Slack para seu chefe. Outro aconteceu no palco quando Sam Altman, executivo-chefe da OpenAI, construiu um chatbot de “mentor de start-up” para aconselhar aspirantes a fundadores, com base em um arquivo carregado de um discurso que ele havia proferido anos antes.
