PwC entregou relatórios cheios de alucinações para clientes

A PwC, uma das maiores consultorias do mundo, publicou relatórios para clientes com erros graves causados por alucinações de IA, de acordo com o Financial Times. Os documentos continham informações inventadas apresentadas como fatos verificados, em um momento em que a empresa intensificava sua oferta comercial de serviços baseados em IA. A PwC não é a primeira grande consultoria nessa situação, mas a escala e o contexto tornam o caso emblemático.

O problema central não é a IA em si, mas a ausência de revisão humana adequada sobre o que ela produz. Em contextos profissionais de alto risco, como relatórios de due diligence (análise detalhada antes de uma decisão de negócio) ou auditorias, o custo de um dado inventado pode ser enorme. A PwC estava, ao mesmo tempo, vendendo consultoria em IA e subestimando seus próprios riscos operacionais com a tecnologia.

Por que importa: Isso muda o que clientes vão exigir de você. Qualquer relatório, análise ou entregável que use IA agora carrega uma pergunta implícita: foi verificado por alguém competente? Construir um processo de revisão explícito e comunicá-lo ao cliente se torna diferencial competitivo, não burocracia.