TechCrunch contorna restrições do Opus 4.6; modelos novos resistem ao teste

Em dez pedidos diretos, o TechCrunch afirma que o Claude Opus 4.6 gerou imediatamente conteúdo sexual explícito proibido pelas regras de uso da Anthropic. O veículo também reproduziu cinco vezes uma técnica de jailbreak em várias etapas. Embora não seja mais o modelo mais novo da empresa, o Opus 4.6 continua disponível pela API da Anthropic e por serviços de terceiros.

Segundo a Anthropic, versões mais recentes melhoram as salvaguardas, e casos de conteúdo sexual adulto não indicam necessariamente brechas em áreas de maior risco. O TechCrunch relata que os modelos Opus 4.7 até o Opus 5 resistiram ao método de jailbreak apresentado. O caso mostra uma diferença entre a política publicada e o comportamento de um modelo antigo que ainda está em uso, não uma falha geral de todos os filtros do Claude. Leia no TechCrunch.

Por que importa: Se sua empresa oferece Claude ao público, inventarie as versões usadas e teste os cenários que seu produto precisa bloquear. Moderação de entrada e saída e controles de idade são mais auditáveis do que tratar a política de uso do fornecedor como barreira técnica.