OpenAI vai implementar marca d'água invisível no texto do ChatGPT e do Codex na União Europeia

A OpenAI vai implementar nas próximas semanas uma marca d'água invisível e legível por máquina em respostas de texto do ChatGPT e do Codex para usuários elegíveis de todos os planos na União Europeia. A tecnologia, batizada de textGrain, faz parte da adequação da empresa às exigências de transparência do AI Act europeu. Separadamente, clientes de API em todo o mundo já podem optar por saídas com marca d'água em modelos selecionados.

A OpenAI afirma que seus testes não mostraram diferença relevante de desempenho entre textos com e sem a marca. A empresa também ressalta que o textGrain não garante detecção confiável e não serve para comprovar a autoria humana, a precisão ou a propriedade de um texto. O detector não será público no lançamento: pesquisadores e organizações especializadas aprovados poderão solicitar acesso. A Anthropic anunciou em agosto uma marca d'água baseada no SynthID para atender às mesmas regras europeias. Fonte: The Verge

Por que importa: Empresas que usam ChatGPT ou Codex na União Europeia terão de considerar essa camada de procedência em seus fluxos. No restante do mundo, clientes da API podem escolher ativá-la em modelos selecionados. Como a própria OpenAI admite falsos positivos e marcas não detectadas, o resultado do detector não deve ser tratado isoladamente como prova de autoria ou fraude.