Agente que relê logs gigantes piora: guardar a saída em arquivo e devolver só um ID reduziu o histórico de 252 mil para 9 mil tokens

A newsletter The Neuron destacou uma dica para quem constrói ou compra agentes. Quando uma ferramenta devolve uma saída enorme, como um lote de logs, o agente relê tudo a cada passo, as respostas pioram e nenhum erro aparece. Janela de contexto maior (quanto texto o modelo consegue manter à vista) não resolve. Segundo a newsletter, em um teste com o framework de código aberto Strands, da AWS, oito consultas de logs deixaram o agente padrão com cerca de 252 mil tokens de histórico, e um plugin que guarda a saída fora da conversa e entrega ao agente só um identificador reduziu isso para cerca de 9 mil.

A segunda correção é limitar quantas vezes o agente chama a mesma ferramenta por tarefa. Em um caso citado, um agente que repetia a mesma chamada 14 vezes passou a fazer duas quando ganhou um sinal claro de conclusão. O teste mediu quanto texto fica no contexto, não se as respostas melhoraram, e o relato original não pôde ser lido por inteiro, então trate os números como indicação.

Por que importa: Se você constrói ou configura agentes, pode testar isso hoje. Peça: revise meu agente e, para cada ferramenta que pode devolver saída grande (logs, resultados de busca, arquivos), salve o conteúdo completo em arquivo e devolva só um resumo curto com um ID, defina um máximo de chamadas por ferramenta em cada tarefa e crie uma condição clara de término. Isso pode reduzir o volume de texto no contexto e as chamadas repetidas; valide o efeito na qualidade antes de adotar.