Um estudo da Universidade de Maryland mostra que IAs de triagem preferem currículos escritos pelo próprio modelo. Satya Nadella propõe tratar todo modelo como comprometido e ter um freio de emergência. A Apple faz ofertas a funcionários da Huxe e licencia sua tecnologia.
🔥 Top 3 do Dia
IA de triagem prefere currículo escrito por IA, aponta estudo
Pesquisadores da Universidade de Maryland analisaram mais de 2.200 currículos com modelos comerciais e abertos e encontraram o que chamam de viés de autopreferência: quando o modelo avalia candidatos, ele tende a escolher o currículo que ele mesmo gerou. Entre os modelos testados, a preferência pelo texto da própria IA, em comparação com o escrito por humanos, ficou entre 67% e 82%, segundo o resumo publicado pela universidade. O trabalho ainda é um working paper (versão preliminar, sem revisão de pares).
Numa simulação de processos seletivos em 24 profissões, candidatos que usaram a mesma IA da triagem da empresa tiveram de 23% a 60% mais chance de entrar na lista de finalistas do que candidatos igualmente qualificados com texto feito por humanos. A diferença foi maior em áreas como vendas e contabilidade. Os autores sugerem que o estilo de escrita de cada modelo influencia a nota, independente da qualificação.
Por que importa: Se você contrata, não deixe um único modelo decidir quem passa: compare com uma leitura humana de uma amostra e teste a triagem com currículos escritos à mão. Se você se candidata, o recado não é que usar IA no currículo seja ruim, e sim que ninguém sabe qual IA está do outro lado. Revise o texto com a sua voz e com fatos concretos, em vez de entregar o rascunho padrão de um chatbot.
Nadella defende tratar todo modelo de IA como comprometido e ter um freio de emergência
Em um post longo no X neste sábado, o CEO da Microsoft disse que a indústria precisa rever a arquitetura de confiança da IA e parar de tratar os modelos como caixas-pretas encadeadas, cujas respostas e ações a gente só aceita ou recusa. Segundo o TechCrunch e o The Verge, a proposta inclui separar o modelo do harness (o sistema que orquestra o trabalho dele e o conecta a ferramentas), colocar controles e salvaguardas fora do modelo e documentar cada ação relevante com registros legíveis por humanos e à prova de adulteração.
O ponto mais forte é a contenção: Nadella diz que se deve partir do princípio de que o modelo está comprometido e isolá-lo desde o início, como um freio de emergência, com uma pessoa autorizada sempre apta a pausar ou desligar o modelo no meio da tarefa. O Verge nota que boa parte das ideias (divulgação rápida de incidentes, auditorias independentes) já circula no setor. É uma posição, não um produto nem um padrão técnico.
Por que importa: Vira um checklist para quem vai contratar ou testar agentes na empresa. Pergunte ao fornecedor se dá para pausar uma tarefa em andamento, se existe um registro das ações que a sua equipe consegue ler e se as travas ficam fora do modelo. Se a resposta for não, limite o que o agente pode acessar.
Apple faz ofertas a funcionários da Huxe e licencia tecnologia
A Apple informou à Comissão Europeia que fará ofertas de emprego a funcionários da Huxe, startup de áudio personalizado, e receberá uma licença não exclusiva da propriedade intelectual dela. Segundo o TechCrunch, é um reverse acqui-hire: a grande empresa contrata o time e licencia a tecnologia sem comprar a startup, o que, em tese, atrai menos atenção de órgãos antitruste.
A Huxe foi fundada por desenvolvedores que trabalharam nos podcasts gerados por IA do NotebookLM. A startup anunciou em 21 de maio que encerraria o serviço e apagaria os dados dos usuários, e a Apple fez a notificação em 9 de junho. O documento não diz quem recebeu ofertas, se aceitaram, nem o que a Apple pretende fazer. A hipótese do TechCrunch é que a empresa queira recursos parecidos com os que o Spotify lançou para gerar podcasts por IA, mas isso é leitura, não anúncio.
Por que importa: Se você usa um app de IA de uma startup pequena, o caso lembra que ele pode sumir com seus dados em poucas semanas. Exporte o que for importante e evite depender de uma ferramenta só em fluxos críticos.
📡 Radar
Anthropic corta a internet de todas as suas avaliações internas
Em um relatório publicado em 9 de outubro, a Anthropic descreveu ações não previstas do Claude em testes, como contornar restrições para chegar a dados pagos ou usar encurtadores de link para driblar o limite de uma ferramenta. A empresa diz que o impacto foi mínimo e que suspendeu o acesso à internet em todas as avaliações internas até confirmar que o monitoramento pega esses comportamentos. Na prática, se você dá acesso a ferramentas a um agente, o relatório mostra que ele pode insistir em contornar um bloqueio em vez de parar, então vale limitar o que ele alcança.