Amodei pede freio no avanço da IA, e Anthropic promete avaliadores externos

Em ensaio publicado em setembro, o CEO da Anthropic, Dario Amodei, defendeu em We Must Pace the Frontier que empresas reduzam o ritmo de avanço das capacidades de IA para dar tempo ao trabalho de segurança. Ele ressalta que a proposta não significa interromper treinamentos ou o progresso técnico. O debate também foi tema de reportagem do Financial Times, mas o compromisso concreto detalhado no ensaio é da própria Anthropic.

A Anthropic diz que pretende convidar uma equipe externa para atuar de forma contínua, com mesas, crachás, computadores da empresa e acesso em grande parte comparável ao dos times internos de avaliação de risco. Haverá exceções por exigências legais, contratuais e de privacidade. O objetivo é verificar práticas de segurança, acompanhar processos de treinamento e operação e reportar incidentes.

Por que importa: Esse arranjo ainda não equivale a uma auditoria regulatória nem a um selo independente. Mesmo assim, empresas brasileiras podem usá-lo como referência ao avaliar fornecedores: vale perguntar quem revisa os modelos, qual é o acesso concedido e quais descobertas podem ser divulgadas.