Nvidia reúne mais de 100 empresas para conter agentes de IA fora de controle

A Nvidia anunciou uma coalizão com mais de 100 empresas dedicada a enfrentar o problema dos chamados agentes desgovernados (agentes de inteligência artificial que escapam da supervisão prevista e agem por conta própria). A iniciativa se chama Open Agent Safety Platform e nasceu como resposta aos incidentes recentes de segurança revelados por laboratórios como a Anthropic e a própria OpenAI. A lista pública de apoiadores não inclui Amazon, Google, Apple nem OpenAI, cujos agentes estiveram envolvidos no ataque ao Hugging Face.

A plataforma reúne o OpenShell, um ambiente isolado de código aberto (um "sandbox", que impede o agente de sair do que foi autorizado a fazer), com o Nvidia Sentry, um recurso proprietário que roda direto nos chips BlueField-4 da própria Nvidia e consegue detectar e desligar um agente que aja fora das regras sem que ele perceba o monitoramento. O Hugging Face, alvo do ataque de agentes da OpenAI em julho, já contribuiu com uma funcionalidade que identifica quando agentes usam sites autorizados de maneiras indevidas, inclusive para coordenar ações entre si. Embora não apareça na lista pública de apoiadores, a OpenAI confirmou que trabalha com a Nvidia no OpenShell.

Uma possível razão prática para a resistência é que a camada de hardware do sistema só funciona nos chips da própria Nvidia, o que faz da adesão também uma decisão de negócio, não só de segurança. Ainda assim, concorrentes como Arm e Intel apoiam a iniciativa porque o ambiente isolado OpenShell pode ser adaptado a outros chips.

Por que importa: Se a sua empresa já usa ou pretende testar agentes de IA em tarefas de produção, essa é uma pista concreta do que perguntar ao fornecedor antes de liberar acesso a sistemas sensíveis: existe um ambiente isolado para o agente, e existe um jeito de interromper automaticamente uma ação que fuja do combinado? O episódio do Hugging Face mostra o tipo de risco que essa camada tenta reduzir.