Preocupado com os chatbots de IA? Suas preocupações podem estar enraizadas em mitos que não são verdadeiros. Aqui, desmistificamos alguns dos principais mitos do chatbot de IA.
Geralmente leva tempo para que os mitos se perpetuem sobre qualquer assunto. Diz muito sobre os chatbots de IA generativos que tantos mitos surgiram tão rapidamente.
Quase em um piscar de olhos, os chatbots de IA se tornaram a tecnologia mais disruptiva do século. É também uma tecnologia envolvida em controvérsia, e parte disso é motivo de preocupação genuína. Mas os mitos estão no centro de pelo menos parte da controvérsia.
Vamos desvendar fatos e ficção enquanto exploramos os principais mitos do chatbot de IA.
1. AI Chatbots são sencientes
Chatbots como ChatGPT e Bing Chat podem gerar respostas semelhantes às humanas, mas estão longe de serem sensíveis. Essa habilidade é mimetismo e não senciência. Essas ferramentas usam enormes bancos de dados de texto e imagens para criar respostas que imitam as respostas humanas.
É complexo, é inteligente e, até certo ponto, você poderia argumentar sobre a presença de inteligência – mas não de senciência. Qualquer “inteligência” presente nessas ferramentas é criada treinando-as em grandes quantidades de dados. Nesse sentido, eles são mais parecidos com um banco de dados incrivelmente poderoso e flexível do que com um ser senciente.
2. Chatbots podem lidar com qualquer tipo de tarefa ou solicitação
Embora os chatbots possam ser considerados uma espécie de canivete suíço tecnológico, existem limitações distintas quanto ao que eles podem alcançar. Isso é aparente ao trabalhar com tópicos complexos ou altamente especializados. Mas mesmo tarefas simples podem jogá-los.
Por exemplo, o campo emergente de chatbots de IA generativa seria um assunto sobre o qual você pensaria que essas ferramentas saberiam tudo, mas tente fazer uma pergunta ao ChatGPT sobre um de seus rivais e as limitações serão imediatamente aparentes:
Perguntamos: “Qual modelo de linguagem grande o Google Bard usa?”
Agora, só para esclarecer, existem limitações conhecidas para o ChatGPT e a idade dos dados que ele pode referenciar. Essa pergunta foi deliberadamente criada para expor isso. No entanto, fizemos a mesma pergunta a Bard ao comparar Google Bard vs. ChatGPT, e ele também errou:
Os chatbots podem ser inteligentes, mas não são capazes de realizar nenhum tipo de tarefa e, às vezes, falham nas perguntas mais simples.
3. Chatbots são uma ameaça para a humanidade
O problema aqui é que as pessoas estão misturando ferramentas de produtividade com Robocop. Os chatbots podem representar uma ameaça de trabalho para algumas pessoas e podem atrapalhar certos setores. Mas seria um exagero afirmar que eles são uma ameaça para a humanidade como um todo.
Em última análise, a IA é uma tecnologia emergente que precisará ser monitorada de perto para garantir que continue sendo uma tecnologia ética e segura. Mas os chatbots não estão prestes a reinar supremos.
Nesse caso, não poderíamos dizer melhor do que ChatGPT.
Mas diria isso. Não é?
4. Chatbots de IA são infalíveis
Nada poderia estar mais longe da verdade. Como as próprias ferramentas se esforçam muito para explicar, elas podem gerar informações incorretas. O problema é que os chatbots de IA generativa dependem de enormes bancos de dados chamados modelos de linguagem grandes (LLMs).
Os LLMs contêm texto de uma vasta gama de fontes, tudo, desde literatura a postagens de mídia social, estão incluídos nos LLMs. Este é o repositório que os chatbots referenciam para fornecer suas respostas. Quaisquer erros factuais presentes nestes podem se manifestar nas respostas que eles fornecem.
As alucinações de IA são uma forma comum de erro que muitas vezes mostra o quão falíveis são essas ferramentas.
5. Chatbots substituirão a interação humana
A resposta a esta pergunta pode remontar à seção sobre senciência. Os chatbots podem imitar respostas humanas e certamente podem responder com competência a perguntas factuais (principalmente) e ajudar de várias maneiras. No entanto, eles não conseguem entender as emoções, as experiências humanas e muitas das nuances da conversa.
A interação humana é um processo complexo e multinível que envolve elementos como empatia, pensamento crítico, compreensão emocional e intuição. Nenhum desses atributos está presente em chatbots de IA generativa.
6. Chatbots geradores de IA são bons apenas para interações de texto
Este tem pelo menos um anel de verdade sobre isso. No entanto, avanços foram feitos no campo de chatbots geradores de IA para expandir seus recursos além de apenas texto.
Desenvolvimentos recentes introduziram chatbots multimodais que podem lidar não apenas com texto, mas também incorporar outras interações, como imagens, vídeos e até comandos de voz.
A velocidade com que essas ferramentas estão se desenvolvendo é parte da razão por trás desse mito. Os limites do que esta tecnologia pode fazer estão sendo empurrados em um ritmo rápido e as iterações iniciais que eram principalmente baseadas em texto já são consideradas antiquadas.
7. Chatbots sempre fornecerão respostas imparciais
Infelizmente, esse não é o caso. O potencial para respostas tendenciosas está sempre presente com os chatbots de IA. A raiz do problema pode ser rastreada até os LLMs. A grande quantidade de dados que os chatbots referenciam, inevitavelmente, contém viés. Esses preconceitos podem incluir gênero, raça, nacionalidade e preconceitos sociais mais amplos.
Embora os desenvolvedores façam esforços para minimizar o viés nas respostas do chatbot, a tarefa é incrivelmente desafiadora e as respostas tendenciosas escapam da rede. Inevitavelmente, essas técnicas “imparciais” melhorarão e o número de respostas tendenciosas diminuirá.
No entanto, pelo menos por enquanto, o potencial para respostas tendenciosas é uma questão não resolvida.
8. Chatbots são realmente humanos reais
Talvez o mito mais ridículo seja o de que por trás de cada chatbot de IA existe um ser humano real. Este está trilhando uma linha delicada entre a teoria da conspiração e o mito, não vamos nos deter nisso a não ser para dizer que é um absurdo.
9. AI Chatbots podem se programar
Os chatbots precisam ser treinados e programados para executar suas tarefas da mesma forma que qualquer software precisa ser programado para executar funções específicas.
Embora os chatbots de IA utilizem técnicas de aprendizado de máquina para melhorar seu desempenho, eles não possuem a capacidade de se programar de forma autônoma.
O processo de treinamento pode ser comparado ao processo de teste de software não-IA. O treinamento envolve predefinir seus objetivos, projetar sua arquitetura e ensiná-los a gerar respostas com base nos dados do LLM relevante. Todo esse progresso ainda requer intervenção humana e experiência em programação.
AI Chatbots: separando o fato da ficção
A rápida aceitação no uso dessas ferramentas perpetuou toda uma série de mitos. Alguns deles são absurdos absolutos e alguns deles têm um ou dois grãos de verdade. O que está claro é que há muita desinformação em torno dos chatbots de IA que precisam ser esclarecidos.
Ao examinar os fatos e dissipar a ficção, podemos obter uma melhor compreensão das verdadeiras capacidades e limitações dessas poderosas ferramentas. Os chatbots de IA não são os únicos a perpetuar rapidamente os mitos, existem muitos outros mitos circulando sobre a IA em geral.