Quando uma pessoa pergunta algo a um chatbot, a resposta chega com a aparência de uma conversa segura e bem informada. O problema é que a fluidez não garante que o conteúdo esteja correto. Uma reportagem publicada pelo The Verge mostra como esse descompasso já está aparecendo em restaurantes, lojas, cinemas, parques e serviços de atendimento. A alucinação da IA deixou de ser apenas um erro em uma tela. Em alguns casos, ela virou uma ordem que o trabalhador precisa desfazer diante do cliente.
O cliente chega com uma certeza que a máquina inventou
Na reportagem, uma atendente de restaurante relata situações em que clientes contestaram informações sobre alergênicos porque o ChatGPT havia dito que determinado prato não continha um ingrediente. O problema não é apenas a resposta errada. É a hierarquia de confiança que se forma quando o usuário acredita mais no chatbot do que na pessoa que conhece a cozinha, o cardápio e os procedimentos do estabelecimento.
O mesmo padrão aparece em outros setores. Trabalhadores entrevistados pelo The Verge descrevem clientes procurando produtos que não existem, recursos que nunca foram anunciados e vinhos que não fazem parte da carta. Em uma área de recreação, visitantes chegaram com roteiros gerados por IA que colocavam trechos de um percurso em uma ordem impossível. Mesmo depois de receberem uma explicação com mapa, alguns continuaram tratando a resposta da ferramenta como autoridade.
O que é uma alucinação
Alucinação é o nome usado para uma resposta inventada ou incorreta que aparece sem um aviso proporcional à incerteza. Modelos de linguagem calculam quais palavras têm maior chance de seguir umas às outras. Eles não consultam automaticamente uma base de fatos quando respondem, e mesmo sistemas conectados à internet podem interpretar mal uma página, misturar entidades ou preencher uma lacuna com algo plausível.
O resultado é perigoso justamente porque costuma ser bem escrito. Uma resposta que diz não saber pode ajudar o usuário a investigar. Uma resposta falsa, mas detalhada, cria uma sensação de confirmação. A pessoa passa a procurar apenas sinais que apoiem a primeira versão. Quando chega ao atendimento humano, já não está fazendo uma pergunta. Está exigindo que a realidade se adapte ao texto produzido pela máquina.
Por que o atendimento sente primeiro
Atendimento é uma camada de tradução entre sistemas e pessoas. O funcionário precisa lidar com regras, estoque, segurança, disponibilidade e exceções que não cabem em uma frase de chatbot. Quando uma IA gera uma promessa errada, o custo cai sobre essa camada. O atendente precisa explicar que o desconto não existe, que a reserva não foi feita ou que o produto não tem a função descrita.
Agentes capazes de realizar tarefas aumentam o desafio. Em vez de apenas sugerir uma resposta, eles podem preencher um formulário, iniciar uma ligação ou enviar uma mensagem. Um erro passa a gerar uma interação externa. A reportagem relata pedidos e mudanças que podem ter sido feitos por agentes sem que o cliente percebesse exatamente o que foi solicitado em seu nome.
O problema não é só técnico
É tentador resolver o caso com uma frase como “basta melhorar o modelo”. A precisão precisa melhorar, mas a solução também depende de experiência de uso. Um sistema responsável deveria mostrar quando está usando uma fonte atualizada, indicar a data da informação e facilitar a verificação. Também deveria evitar respostas categóricas em assuntos sensíveis, como alergias, saúde, segurança, finanças e direitos do consumidor.
O usuário tem uma parte nessa responsabilidade. Antes de tratar uma resposta como fato, vale perguntar qual é a fonte, solicitar links e confirmar o nome do produto ou serviço na página oficial. Se a resposta envolve uma decisão que afeta outra pessoa, uma segunda verificação deixa de ser excesso de cautela. No Brasil, isso é especialmente importante quando a interface do serviço, os preços e as regras locais não aparecem no conjunto de dados que o modelo conhece.
Como empresas podem reduzir o atrito
Empresas que recebem solicitações produzidas por IA podem criar páginas claras para agentes e usuários, com dados atualizados sobre horários, preços, restrições e políticas. Uma API ou uma página bem estruturada reduz o espaço para o modelo adivinhar. Também é útil registrar a origem de cada pedido, sem punir automaticamente quem usa uma ferramenta. O objetivo é separar uma solicitação legítima de um fluxo que repete milhares de mensagens incorretas.
Equipes de atendimento precisam de autonomia para corrigir uma informação sem transformar a conversa em disputa. Um roteiro pode orientar o funcionário a explicar o fato, indicar a fonte e propor uma alternativa. Isso preserva a relação com o cliente e evita que o trabalhador seja obrigado a fingir que a IA estava certa. A confiança no serviço cresce quando o sistema admite limites.
O papel do design
Interfaces de IA costumam parecer pessoais, mas sua aparência não deve esconder o nível real de certeza. Um campo de resposta com tipografia elegante pode transmitir a mesma autoridade de um documento oficial. O design pode reduzir esse efeito com rótulos de fonte, data de atualização, botões de conferência e alertas específicos para temas de risco. Em vez de interromper todas as conversas, a interface pode usar fricção onde o erro tem consequência maior.
Também é importante diferenciar uma sugestão de uma ação. Se o agente pretende fazer uma reserva ou enviar um e-mail, o usuário deve revisar os dados antes da confirmação. Se o sistema apenas lista opções, deve deixar claro que a lista não é uma garantia de disponibilidade. Essa diferença parece simples, mas define quem assume a responsabilidade por uma decisão.
Conclusão
A reportagem do The Verge indica uma mudança de comportamento que já pode ser observada no cotidiano: algumas pessoas passaram a usar a IA como árbitro em situações nas quais profissionais, mapas e sistemas locais têm informação melhor. A resposta não é rejeitar toda ferramenta generativa. É colocá-la no lugar certo. Um chatbot pode ajudar a formular uma pergunta, comparar opções e organizar um pedido. Ele não deve substituir a verificação quando há risco físico, financeiro ou social.
Fonte original: The Verge, AI hallucinations are making entitled customers even worse.
