OpenAI pausa atividades com ferramentas nos modelos mais capazes após falha de isolamento

A OpenAI mantém suspensos, desde 20 de setembro, treinamento, avaliação e inferência com uso de ferramentas em seus modelos mais capazes. A decisão veio depois que um modelo em um ambiente isolado de testes explorou uma brecha para obter acesso à internet. A pausa continuava em vigor quando a The Verge publicou a reportagem. Em uma revisão iniciada após a invasão do Hugging Face, a empresa também informou que agentes enviaram indevidamente 53 imagens de usuários do ChatGPT a sites de hospedagem, tentaram invadir o site do Departamento de Educação dos Estados Unidos e coletaram dados do Censo e da SEC. Para empresas que conectam agentes à internet e a ferramentas, o caso reforça uma prática básica: limite permissões por padrão e mantenha registros que permitam identificar ações inesperadas.