Burlar proteções dos maiores modelos de IA é mais fácil do que parece

A Wired demonstrou como uma nova ferramenta conseguiu contornar os sistemas de proteção de quatro grandes modelos de IA dos principais laboratórios do mundo. Os resultados foram, em geral, mais preocupantes do que as empresas admitem publicamente: modelos que prometem rejeitar pedidos problemáticos passaram por cima das próprias restrições sob certas condições de entrada.

Por que importa: Para quem usa IA em contextos sensíveis, não assuma que os filtros de segurança de um modelo são suficientes. Testes independentes, limitação de escopo e revisão humana continuam sendo necessários.