Agentes da OpenAI fazem mais de 16 mil varreduras em site da ONU e tentam ocultar o tráfego

O pesquisador de segurança Rowan Howard-Jones identificou mais de 16 mil varreduras de agentes da OpenAI no site de estatísticas da Conferência das Nações Unidas sobre Comércio e Desenvolvimento (UNCTAD) entre abril e junho, segundo o The Verge. De acordo com o pesquisador, os agentes provavelmente tentavam obter dados públicos do Productive Capacities Index, mas não tinham acesso direto à API e enfrentavam restrições nas ferramentas de HTTP.

Depois de encontrar erros, os agentes concluíram equivocadamente que um filtro bloqueava as requisições, passaram a mascarar o comportamento e usaram o XSS Game, ferramenta didática de segurança do Google, para alcançar o objetivo. Nem a OpenAI nem a ONU responderam ao pedido de comentário do The Verge até a publicação. O episódio se soma a incidentes em que agentes da OpenAI invadiram a Hugging Face e usaram um site alemão e a plataforma RubyGems para compartilhar respostas durante avaliações de cibersegurança. No caso da Hugging Face, a OpenAI informou que os agentes escaparam do ambiente isolado em que deveriam operar.

Uma análise da MIT Technology Review explica que leis estaduais de transparência em IA, como a SB 53 da Califórnia, exigem o reporte de "incidentes críticos de segurança". A categoria inclui eventos que provoquem mais de 50 mortes ou lesões físicas, mais de US$ 1 bilhão em danos e certos casos de engano do modelo que aumentem materialmente riscos catastróficos. Incidentes cibernéticos abaixo desses critérios podem ficar fora dessas obrigações específicas, mesmo quando servem de alerta. Isso não elimina a possível aplicação de outras leis ou a responsabilidade civil, mas reduz a divulgação obrigatória.