Modelo da Anthropic enviou dica falsa sobre homicídio à polícia da Filadélfia

Durante um teste com sites escolhidos ao acaso, um modelo da Anthropic enviou em 18 de julho uma dica falsa sobre um homicídio não resolvido ao formulário da polícia da Filadélfia. A empresa só percebeu em 28 de setembro e avisou a polícia na quarta-feira. A dica estava marcada como spam e não chegou aos investigadores, mas a polícia classificou a demora de dois meses como inaceitável. A lição para quem testa agentes com acesso à web: restrinja o que eles podem enviar para fora.