O anúncio de IA do CEO da Meta, Mark Zuckerberg, levantou grandes preocupações, depois que ele disse que a empresa tinha mais dados de usuários do que os usados para treinar o ChatGPT – e em breve os usaria para treinar seus próprios sistemas de IA.
O plano da empresa de usar postagens e comentários do Facebook e Instagram para treinar um chatbot concorrente levanta preocupações sobre privacidade e toxicidade…
Zuckerberg anunciou o plano da empresa depois de divulgar o último relatório de lucros da empresa, como Bloomberg relatórios.
Para muitas pessoas, o Facebook é a Internet, e o número de seus usuários continua crescendo, de acordo com os últimos resultados financeiros da Meta Platforms Inc. Mas Mark Zuckerberg não está apenas comemorando esse crescimento contínuo. Ele quer aproveitar isso usando dados do Facebook e Instagram para criar inteligência artificial poderosa e de uso geral (…)
(Zuckerberg disse) “A próxima parte importante do nosso manual é aprender com dados exclusivos e ciclos de feedback em nossos produtos… No Facebook e no Instagram, existem centenas de bilhões de imagens compartilhadas publicamente e dezenas de bilhões de vídeos públicos, que estimamos ser é maior do que o conjunto de dados do Common Crawl e as pessoas também compartilham um grande número de postagens de texto públicas em comentários em nossos serviços.”
Common Crawl refere-se a um enorme arquivo de 250 bilhões de páginas da web, representando a maior parte do texto usado para treinar o ChatGPT. Ao recorrer a um conjunto de dados ainda maior, a Meta poderia estar em posição de construir um chatbot mais inteligente.
Como Bloomberg observa, não é apenas o grande volume de dados que pode dar uma vantagem ao Meta – é o fato de que grande parte deles é interativo.
A pilha de dados que ele contém é especialmente valiosa porque grande parte deles vem de tópicos de comentários. Qualquer texto que represente o diálogo humano é fundamental para treinar os chamados agentes conversacionais, e é por isso que a OpenAI explorou fortemente o fórum da Internet Reddit Inc.
Mas a peça também aponta para as duas grandes bandeiras vermelhas aqui. Primeiro, a Meta estaria efetivamente treinando sua IA no que podem ser postagens bastante pessoais e conversas entre amigos em comentários do Facebook. Isso levanta grandes alarmes de privacidade.
Em segundo lugar, qualquer pessoa que já leu a seção de comentários em qualquer lugar na Internet sabe que a percentagem de conteúdo tóxico é elevada. Embora usuários atenciosos debatam as questões, não faltam comentaristas que recorrem a ataques pessoais e insultos grosseiros – e uma proporção preocupante disso é racista e sexista.
Isso é algo que qualquer sistema de treinamento de chatbot precisa filtrar – e a Apple provavelmente está sendo mais cautelosa do que qualquer outra pessoa em seu próprio trabalho de desenvolvimento de chatbot, contribuindo para um relançamento muito tardio do Siri – mas a situação aqui pode ser particularmente ruim.
Parte do conteúdo do Facebook que é sinalizado como tóxico não é mais revisado por um ser humano e é deixado no site. Pior: quando Zuckerberg disse que os dados do Meta eram maiores que os do Common Crawl, ele provavelmente estava agrupando o arquivo histórico da empresa, que incluiria todo o conteúdo político hiperbólico e notícias falsas que estavam no site antes de Zuckerberg se esforçar para limpá-lo.
E esta é a empresa que, há poucos dias, disse que um vídeo falso do presidente Biden deveria ter permissão para permanecer na plataforma porque foi editado por um ser humano e não por um sistema de IA, portanto seus padrões não são exatamente altos até hoje.
foto por Mariia Shalabaieva sobre Remover respingo
FTC: Usamos links de afiliados automotivos para geração de renda. Mais.
