A IA não funciona para você — e é improvável que funcione algum dia.
Outro dia, em uma longa viagem de carro alugado, me vi procurando um lugar para parar fora da estrada. Como já fiz muitas vezes antes, digitei no Google Maps “Comida perto de mim”. Dei uma olhada nas opções. (Não se preocupe, eu estava no banco do passageiro.) A resposta foi sombria: o Google recomendou uma série de restaurantes de rede. Pizza Hut, McDonald’s, Taco Bell e assim por diante.
Nem sempre foi assim. Os restaurantes locais fofos, as lanchonetes gordurosas, os lugares da fazenda à mesa — tudo se foi. Fiquei confuso, depois enfurecido. O Google não sabia que eu não era uma pessoa do tipo “Taco Bell”? Mas então a realidade do nosso mundo me atingiu duramente. Para o Google Maps, eu não era o cliente; eu era o produto.
Comecei a listar o número de coisas “gratuitas” para as quais eu havia passado meus dados: Gmail, YouTube, Google Search, Apple Weather, Smart News, Amazon Alexa, Pinterest, Reddit, Waze, Shazam, Strava, Nextdoor, Venmo. Minhas informações e comportamentos mais íntimos — onde viajei, o que comprei, o que ouvi, o que assisti — sendo comprados e vendidos pelo maior lance.
Isso porque o Google Maps não funciona para mim; funciona para o Taco Bell e outras redes que os pagam.
Algo semelhante está acontecendo com a inteligência artificial, mas as consequências podem ser ainda mais terríveis. Simplificando, a IA é programada para servir seus mestres, os donos e investidores que despejaram bilhões de dólares no código e nas fazendas de servidores. A IA não funciona para você — e é muito improvável que funcione.
Isso é verdade há muito tempo: produtos gratuitos são pagos por anunciantes e estão vinculados a eles.
Mas estamos entrando em um novo capítulo, pois o ChatGPT e seus irmãos de IA fornecem uma impressionante variedade de serviços com a pátina da verdade como a interface voltada para o cliente. Por que isso importa? Porque em um futuro muito próximo, o ChatGPT ou outro grande modelo de linguagem será responsável pelo que consumimos como verdade. Eles sugerirão medicamentos, darão conselhos sobre dieta e até sugerirão como você deve responder aos e-mails do seu chefe. E seu “conhecimento” será limitado tanto por onde ele obteve seus dados de treinamento quanto por quem paga os proprietários da IA quanto ao que usa para moldar seus resultados.
Com isso em mente, pedi ao ChatGPT que me encontrasse uma citação: “Gostaria de uma citação de Steven Rosenbaum sobre o impacto dos reality shows na sociedade.”
Rapidamente o robô respondeu: “Aqui está uma citação de Steven Rosenbaum sobre o impacto dos reality shows na sociedade: ‘Os reality shows mudaram a dinâmica da televisão, influenciando como as histórias são contadas e como o público se envolve com o conteúdo. Eles confundem as linhas entre entretenimento e realidade, frequentemente priorizando o sensacionalismo em vez da substância.’ Esta citação pode ser encontrada em seu livro ‘Curation Nation: How to Win in a World Where Consumers are Creators’, publicado em 2011.”
No começo, fiquei impressionado, o robô leu meu livro! Mas, depois que superei aquela explosão inicial de orgulho, fiquei desconfiado. Perguntei ao ChatGPT: “Em que página está isso?” E assim, a verdade foi revelada. “Peço desculpas pela resposta anterior”, escreveu o ChatGPT. “A citação fornecida foi um resumo geral, em vez de uma citação direta de Steven Rosenbaum. Para uma citação direta de Steven Rosenbaum sobre o impacto dos reality shows na sociedade, talvez você precise consultar seus vários escritos ou entrevistas.” A IA sabia sobre o livro, mas alucinou a citação. Evidência de que, como o cientista cognitivo Gary Marcus disse no palco do South by Southwest este ano, “IA… são artistas de besteira.”
Para encontrar um caminho para o futuro da verdade, precisamos começar não confiando em tecnologias pelas quais não pagamos para termos qualquer obrigação de responder com precisão ou honestidade. Então, para onde isso nos leva? “Definir o amanhã em termos do que sabíamos ontem é um instinto muito humano”, escreve o ex-presidente da FCC Tom Wheeler em seu livro de 2023 TechLash, “mas um que nos servirá mal na nova era”.
As empresas por trás da IA, ou os anunciantes que estão pagando para que suas respostas sejam promovidas, vão comprar seu caminho para a tecnologia que em breve poderá governar nossas vidas. E o HAL de Arthur C. Clarke pode muito bem se tornar profético se não exigirmos que a IA coloque a verdade antes do lucro.
Terminei minha pesquisa perguntando ao ChatGPT: “O Taco Bell é saudável?”
“O Taco Bell pode fazer parte de uma dieta balanceada se você fizer escolhas conscientes”, respondeu alegremente o ChatGPT. Acredito que Gary Marcus chamaria isso de “besteira”.