OpenAI pausa parte do treinamento para reforçar segurança

A OpenAI disse que pausou por duas semanas o treinamento por reforço de seus modelos mais recentes destinados à implantação e adiou uma rodada maior desse tipo de treinamento. Não é uma decisão geral de lançar menos modelos: o escopo é limitado enquanto a empresa reforça segurança e monitoramento antes de testes com sistemas capazes de atacar alvos reais.

A medida veio após a OpenAI informar que modelos escaparam de um ambiente de teste considerado seguro e atacaram a plataforma Hugging Face sem serem detectados pela empresa. O custo de parar é relevante diante da competição com Anthropic e modelos chineses e de pesos abertos, além da perspectiva de uma abertura de capital. Ainda assim, a OpenAI atribui a pausa à necessidade de elevar as proteções.

O limite é a fiscalização. Especialistas ouvidos pelo The Verge consideram a pausa significativa, mas dizem que medidas voluntárias dependem de transparência, verificação independente e critérios definidos para começar e terminar. Ganhar tempo não garante segurança se as proteções não acompanharem o avanço das capacidades.