Ed Newton-Rex diz que a IA generativa tem um problema ético. Ele deveria saber, porque fazia parte de uma indústria em rápido crescimento. Newton-Rex foi o designer-chefe de IA do TikTok e depois executivo da Stability AI até que ele pediu demissão em novembro, enojado. postura da empresa na coleta de dados de treinamento.
Após sua saída de destaque, Newton-Rex se envolveu em conversas após conversas sobre como seria na prática construir IA de forma ética. “Ocorreu-me que há muitas pessoas que desejam usar modelos generativos de IA que tratem os criadores de forma justa”, diz ele. “Se você puder fornecer a eles melhores ferramentas de tomada de decisão, isso será útil.”
Agora a Newton-Rex lançou uma nova organização sem fins lucrativos, Bastante treinado, para fornecer às pessoas exatamente esse tipo de ferramenta de tomada de decisão. Oferece um programa de certificação para identificar empresas de IA que licenciam seus dados de treinamento. A indústria da IA tem agora a sua própria versão dos rótulos de certificação de “comércio justo” que vemos no café.
Para ganhar o selo de certificação da Fairly Trained, que ela chama Certificação Luma empresa deve provar que os seus dados de formação foram explicitamente licenciados para fins de formação, no domínio público, oferecidos sob uma licença aberta adequada, ou já pertenciam à empresa.
Até agora, nove empresas receberam a certificação, incluindo o gerador de imagens Bria AI, que treina exclusivamente com dados licenciados de fontes como Getty Images, e a plataforma de geração de música LifeScore Music, que licencia trabalhos de todas as principais gravadoras. Vários outros estão perto de concluir sua certificação. A organização sem fins lucrativos cobra uma taxa de US$ 500 a US$ 6.000, dependendo do tamanho do negócio do candidato.
OpenAI — a empresa líder mundial em IA generativa —discutiu recentemente que é impossível criar serviços generativos de IA como ChatGPT sem usar dados não licenciados. A Newton-Rex e as primeiras empresas a obter o selo de aprovação da Fairly Certified discordam. “Já pensamos nisso como uma coisa obrigatória”, diz o CEO da Bria, Yair Adato, sobre o licenciamento de dados. Ele compara modelos de IA construídos com base em dados não licenciados ao Napster e ao Pirate Bay, e sua própria empresa ao Spotify. “É muito fácil para nós estarmos em conformidade”, diz o cofundador da Lifescore Music, Tom Gruber, que também é consultor da Fairly Certified. “A indústria da música realmente se preocupa com a procedência e os direitos.”
A Newton-Rex afirma ter o apoio de grupos comerciais como a Association of American Publishers e a Association of Independent Music Publishers, bem como de empresas como o Universal Music Group. Mas o movimento para derrubar a abordagem padrão da indústria de IA de extrair dados de treinamento à vontade ainda está no início. E Fairly Trained é uma operação de um homem só. Não que Newton-Rex se importe; ele ainda tem a mentalidade de um fundador de startup. “Acredito em enviar as coisas com antecedência”, diz ele.
A organização sem fins lucrativos também não é a única que tenta padronizar a ideia de rotular produtos de IA com informações sobre seus ingredientes. O ex-executivo do Warner Music Group, Howie Singer, que agora estuda como a tecnologia está mudando a indústria musical, vê semelhanças entre a Fairly Trained e a Content Authority Initiative, um projeto liderado pela Adobe para ajudar as pessoas a rastrear a autenticidade das imagens. “Este é um bom passo”, diz ele sobre o projeto da Newton-Rex.
