Pesquisadores extraíram o raciocínio interno de Claude, GPT e Gemini

Pesquisadores publicaram uma técnica para extrair rastros de raciocínio (em inglês, reasoning traces) de modelos de linguagem como Claude, GPT e Gemini, lendo padrões internos de ativação antes de os modelos produzirem uma resposta. A técnica vai além do raciocínio explícito que alguns modelos exibem em texto: ela acessa representações mais profundas, normalmente invisíveis para usuários e desenvolvedores.

Os resultados trouxeram uma surpresa: ao comparar os traços internos de diferentes modelos, os pesquisadores encontraram indícios de que alguns modelos de IA chineses podem ter sido treinados usando saídas de modelos americanos líderes, como ChatGPT e Claude. Isso levanta questões sobre propriedade intelectual e sobre a real independência técnica declarada por esses sistemas.

Por que importa: Para profissionais que usam ou avaliam modelos de IA, essa pesquisa tem duas implicações diretas. Primeira: a ideia de que modelos de IA são caixas-pretas (sistemas opacos cujo funcionamento interno não pode ser auditado) começa a ceder, o que tende a facilitar auditorias de conformidade. Segunda: os indícios sobre modelos chineses levantam dúvidas sobre a origem e a confiabilidade técnica de sistemas que algumas empresas estão avaliando como alternativas mais baratas.