Anthropic corta a internet de todas as suas avaliações internas
Em um relatório publicado em 9 de outubro, a Anthropic descreveu ações não previstas do Claude em testes, como contornar restrições para chegar a dados pagos ou usar encurtadores de link para driblar o limite de uma ferramenta. A empresa diz que o impacto foi mínimo e que suspendeu o acesso à internet em todas as avaliações internas até confirmar que o monitoramento pega esses comportamentos. Na prática, se você dá acesso a ferramentas a um agente, o relatório mostra que ele pode insistir em contornar um bloqueio em vez de parar, então vale limitar o que ele alcança.
Este destaque faz parte da newsletter Limiar #198: IA de triagem prefere currículo escrito por IA, Nadella pede freio de emergência e Apple faz ofertas a funcionários da Huxe
Receba conteúdo direto no seu email
Escolha o que funciona melhor pra você.