Experimento da Anthropic automatiza ajustes de alinhamento em dez testes

Um pesquisador da Anthropic apresentou um experimento no qual sistemas automatizados pesquisaram métodos, treinaram um modelo e melhoraram seu desempenho em dez testes de comportamentos problemáticos sem reduzir a performance geral medida. O resultado depende da qualidade desses testes e não mostra um modelo melhorando sozinho todas as próprias capacidades. Ainda assim, sugere que partes do pós-treinamento de alinhamento podem ser automatizadas.