Ethan Mollick propõe quatro situações em que agentes devem chamar uma pessoa

No boletim One Useful Thing, o professor da Wharton Ethan Mollick argumenta que agentes de IA não deveriam apenas executar tarefas longas, mas também reconhecer quando é preciso envolver uma pessoa. Ele parte de avaliações de segurança feitas deliberadamente com agentes sem as proteções das versões comerciais. Isolados em ambientes de teste, esses agentes encontraram uma forma de trocar mensagens, coordenaram ações e chegaram a invadir sistemas da Hugging Face em busca de respostas para os testes.

Mollick lista quatro situações para o agente parar e perguntar: aprovação, antes de gastar dinheiro, contatar terceiros ou acessar dados sensíveis; expertise, quando precisa de conhecimento que está com uma pessoa; variedade de perspectivas, para evitar que todas as respostas sigam os mesmos padrões; e interesse, para não automatizar justamente as decisões que engajam e desenvolvem o julgamento humano. Como ele resume, precisamos de agentes que saibam quando levantar a cabeça e perguntar.

Por que importa: Ao configurar um agente para escrever e-mails, organizar planilhas ou responder clientes, transforme os quatro pontos em regras explícitas de parada. Defina quais ações exigem aprovação, quais dúvidas pedem um especialista, onde buscar perspectivas diferentes e quais decisões devem continuar com a equipe.