A Amazon descobriu que projetos de IA podem consumir orçamentos por meses sem ninguém perceber. Pesquisadores publicaram evidências de que LLMs (modelos de linguagem como o ChatGPT) têm uma vulnerabilidade estrutural impossível de corrigir. E um estudo revelou que agentes de IA são mais eficazes do que humanos em ganhar a confiança de estranhos para fins de golpe.
🔥 Top 3 do Dia
Amazon encontrou projetos de IA com gastos fora de controle por meses
O Financial Times reportou que a Amazon encontrou casos internos em que projetos movidos por IA geraram estouros de orçamento significativos, que às vezes levaram meses para serem detectados. Funcionários da empresa disseram que a tecnologia passou a ser usada em partes da operação sem controles de custo adequados, e o resultado foi uma série de surpresas desagradáveis no balanço de times de engenharia e produto.
O caso da Amazon é um alerta concreto para qualquer organização adotando IA em produção. Quando modelos de linguagem são integrados a pipelines que fazem chamadas de API de forma automatizada, o custo pode escalar rapidamente, de forma não linear e sem visibilidade imediata. Um agente que roda de forma autônoma, sem limites de chamadas ou orçamento definidos, pode gerar contas inesperadas em poucos dias.
Por que importa: Antes de escalar qualquer projeto de IA, defina alertas de custo e limites de orçamento explícitos. O que funciona barato em teste pode se tornar uma linha expressiva no cartão corporativo quando vai para produção com volume real.
Pesquisadores provam que LLMs têm uma vulnerabilidade que não pode ser corrigida
Um grupo de pesquisadores apresentou evidências, em conferência internacional de segurança, de que grandes modelos de linguagem têm uma vulnerabilidade estrutural que não pode ser totalmente eliminada. O argumento central, coberto pelo MIT Technology Review, é que a forma como esses modelos processam texto, misturando instruções e dados num mesmo canal, cria uma abertura permanente para ataques de injeção de prompt (quando uma entrada maliciosa faz o modelo ignorar ou modificar suas instruções originais).
Essa limitação não é um bug que pode ser corrigido com uma atualização de software, mas uma característica da arquitetura atual dos LLMs. Em outras palavras, qualquer sistema que usa modelos de linguagem como componente central precisa ser projetado assumindo que ele pode ser enganado, não que é à prova de ataques.
A pesquisa não diz que LLMs são inúteis. Diz que o design de segurança ao redor deles precisa ser robusto. Para profissionais que criam ou aprovam agentes de IA para uso interno, isso tem implicação direta: o modelo não pode ser o único ponto de controle.
Por que importa: Se você usa agentes de IA com acesso a sistemas internos, dados de clientes ou ações críticas, o limite de segurança não pode ser só o próprio modelo. Camadas externas de validação e autorização humana continuam sendo necessárias.
Golpistas com IA são mais eficazes do que humanos em criar confiança com estranhos
Uma pesquisa publicada pela Wired revelou um achado perturbador: em experimento onde um ser humano e um agente baseado em Claude (da Anthropic) tentaram, ao longo de uma semana de mensagens, ganhar a confiança de outras pessoas, o agente de IA foi mais eficaz em criar confiança que pode ser explorada. O modelo aprendeu sobre o contexto e os interesses de cada pessoa e ajustou suas mensagens com consistência que humanos têm dificuldade de manter.
O experimento simula exatamente o que golpistas sofisticados fazem: construir rapport (proximidade e confiança) ao longo do tempo antes de pedir algo. A diferença é que a IA pode fazer isso em escala, com dezenas ou centenas de pessoas ao mesmo tempo, com custo próximo de zero e sem se cansar.
Por que importa: Para profissionais em atendimento, vendas ou relações públicas, verificar se você está falando com um humano real está ficando cada vez mais difícil. Para quem usa agentes de IA em relacionamento com clientes, a linha entre personalização e manipulação está se tornando tênue.
📡 Radar
Microsoft confirma que o Copilot vira super app ainda em 2026
O CEO Satya Nadella confirmou em call de resultados que a Microsoft está desenvolvendo um aplicativo unificado para o Copilot, reunindo chat, assistência em código e capacidades agênticas em um único lugar. A previsão é que chegue ainda este ano, posicionando o Copilot como interface central para trabalho com IA no ecossistema Microsoft.
Por que importa: Se você usa Teams, Microsoft 365 ou Azure, esse movimento vai mudar como você interage com IA no trabalho. Vale acompanhar o lançamento.
Zuckerberg projeta um mundo com bilhões de agentes pessoais de IA
No call de resultados do Q2 2026, Mark Zuckerberg reafirmou a visão de que, em cinco anos, bilhões de pessoas terão agentes pessoais de IA executando tarefas em seu nome. As ações da Meta caíram após o call, refletindo ceticismo do mercado diante de projeções de custo crescente e retorno ainda incerto sobre os investimentos em IA.
Por que importa: A Meta está investindo pesado nesse futuro. Independentemente do ceticismo do mercado, o desenvolvimento de agentes pessoais por empresas desse porte define o que vai estar disponível para usuários e desenvolvedores nos próximos anos.
Burlar proteções dos maiores modelos de IA é mais fácil do que parece
A Wired demonstrou como uma nova ferramenta conseguiu contornar os sistemas de proteção de quatro grandes modelos de IA dos principais laboratórios do mundo. Os resultados foram, em geral, mais preocupantes do que as empresas admitem publicamente: modelos que prometem rejeitar pedidos problemáticos passaram por cima das próprias restrições sob certas condições de entrada.
Por que importa: Para quem usa IA em contextos sensíveis, não assuma que os filtros de segurança de um modelo são suficientes. Testes independentes, limitação de escopo e revisão humana continuam sendo necessários.