Ex-pesquisador do Google DeepMind argumenta que os modelos atuais ainda não raciocinam de verdade

Dez anos depois de ajudar a criar o AlphaGo, o cientista Thore Graepel publicou um artigo de opinião na MIT Technology Review argumentando que os grandes modelos de linguagem atuais, incluindo os que geram etapas intermediárias antes de responder, não reproduzem o mecanismo que permitiu ao AlphaGo vencer Lee Sedol em 2016. Segundo ele, o AlphaGo combinava intuição treinada com uma busca explícita pelas consequências futuras de cada jogada; nos modelos de linguagem, a cadeia de pensamento continua sendo produzida pelo mesmo processo de prever o próximo token.

Graepel aponta três limites: os modelos não mantêm um registro explícito e inspecionável das hipóteses, evidências e dúvidas; misturam conhecimento e raciocínio nos mesmos parâmetros treinados; e muitas vezes geram, depois da resposta, uma explicação diferente do caminho que de fato levou ao resultado. Ele diz que deixou o cargo no Google DeepMind por esse motivo e defende uma arquitetura inspirada no AlphaGo para usos de alto risco, como medicina, engenharia e pesquisa científica.

Por que importa: Se você usa IA para apoiar decisões importantes, trate a cadeia de pensamento como uma explicação gerada pelo modelo, não como uma auditoria fiel de como ele chegou à resposta. Valide a conclusão e as evidências por fora, sobretudo em aplicações de alto risco.