Relatos mostram alucinações de IA criando atrito no atendimento ao cliente

Uma reportagem do The Verge reuniu relatos de profissionais de restaurantes, cafeterias, lojas e parques nos Estados Unidos que atendem clientes dispostos a confiar mais no ChatGPT do que em quem trabalha no local. Em um caso, uma garçonete disse que clientes contestaram seu alerta de que um prato continha frutos do mar porque o chatbot havia respondido o contrário.

A reportagem também cita roteiros de viagem com acampamentos inexistentes e trajetos impossíveis, incluindo planos que exigiriam remar contra a correnteza. Uma profissional de educação infantil disse que responsáveis resistiram à sua orientação sobre o sono de uma criança porque o ChatGPT indicava que a rotina estava adequada. Em outro relato, a gerente de um restaurante suspeitou, sem conseguir provar, que pedidos estranhos de última hora haviam sido enviados por um agente de IA.

Por que importa: Se a sua empresa atende clientes diretamente, mantenha informações críticas fáceis de verificar em canais oficiais e treine a equipe para corrigir respostas de chatbots sem transformar o erro em confronto. Em temas como alergias, preços, disponibilidade e regras, a fonte de verdade precisa estar explícita.