The Verge testa IA local com Hermes Agent e Qwen e relata o que funciona e o que quebra

O revisor de laptops Antonio G. Di Benedetto começou um diário de testes de IA rodando na própria máquina, segundo o The Verge. Ele instalou o Hermes Agent (app de agente de código aberto, gratuito com modelos locais) num Mac Studio com 256 GB de memória e escolheu o Qwen 3.8 Flash Next, modelo de 125 bilhões de parâmetros (a medida de tamanho do modelo) que ocupa cerca de 105 GB. Ele também ligou o agente ao celular por um bot do Telegram.

As tarefas foram pequenas e concretas. Um resumo matinal de e-mail e agenda, agendado como cron job (tarefa automática com hora marcada), falhou até ele descobrir que o Mac não podia estar em repouso às 7h30. O agente também organizou mais de 400 jogos da biblioteca Steam por gênero, usando uma chave de API que ele revogou em seguida, e analisou planilhas financeiras e comparou especificações de um laptop sob embargo. Esses dois últimos usos, segundo o autor, ele não confiaria a um serviço de nuvem.

Por que importa: A lição é a ordem de grandeza. Você não precisa de um computador de US$ 12.000 para o resumo matinal, e o próprio autor reconhece que o agente quebrou várias vezes. Se você lida com dados de clientes ou documentos confidenciais, vale testar uma tarefa pequena e repetitiva localmente, dar ao agente só a permissão necessária e revogar a chave depois.