limiar
Destaques
Destaque do Dia

OpenAI lança classificador para detectar imagens de abuso infantil, inclusive geradas por IA, e dá acesso gratuito a organizações avaliadas e aprovadas

17 de novembro de 2026
OpenAI

A OpenAI anunciou na segunda-feira, em Washington, um classificador (modelo que rotula imagens automaticamente) para identificar material de abuso sexual infantil, inclusive o gerado por IA, segundo a Verge. A empresa diz que ele sinaliza 48% menos imagens para revisão humana (menos falsos positivos) e que as imagens apontadas têm o dobro de chance de conter material abusivo. O acesso é gratuito para organizações avaliadas e aprovadas, e a OpenAI também oferece orientação a desenvolvedores e treinamento a polícias. O contexto é o volume: o CyberTipline do centro americano NCMEC recebeu 400 mil denúncias ligadas a IA generativa em 2025, contra 67 mil em 2024.

No próprio ChatGPT, quem tentar gerar esse tipo de imagem verá um aviso, e a primeira tentativa leva a uma pausa de 24 horas no acesso, com alerta de que a conta pode ser encerrada. A OpenAI afirma que reporta todos os casos ao NCMEC. O procurador-geral da Carolina do Norte, Jeff Jackson, descreveu a parceria com a empresa como, basicamente, um experimento.

Por que importa: Se você modera conteúdo, mantém uma plataforma com upload de usuários ou oferece geração de imagens, o anúncio oferece um exemplo de medidas que plataformas podem avaliar: detecção específica para material gerado por IA e política clara para reincidência. O acesso gratuito é oferecido a organizações avaliadas e aprovadas.

Fonte

The Verge

https://www.theverge.com/policy/1034527/openai-csam-classifier

Receba conteúdo direto no seu email

Escolha o que funciona melhor pra você.