Limiar #128: IA caça falhas na Apple, xAI perde no tribunal e o lado viciante dos LLMs

Pesquisadores de segurança armados com IA estão enviando tantas vulnerabilidades para a Apple que a empresa precisou limitar as submissões. Um tribunal bloqueou a tentativa da xAI de derrubar uma lei americana contra deepfakes sexuais não consensuais. E um dos criadores mais influentes do YouTube admite que seu uso de IA chegou a um ponto que ele mesmo descreve como doentio.

🔥 Top 3 do Dia

Pesquisadores turbinados por IA estão varrendo os produtos da Apple em busca de falhas

O Financial Times reporta que a Apple chegou a um ponto de saturação: tantos pesquisadores estão usando modelos de linguagem para escanear seus sistemas em busca de vulnerabilidades que a empresa precisou colocar um limite no número de relatórios que cada pesquisador pode enviar. O programa de recompensas por vulnerabilidades (bug bounty, o sistema em que empresas pagam quem encontra falhas de segurança antes de criminosos) passou a receber um volume de submissões que a equipe interna simplesmente não consegue processar.

O fenômeno vai além da Apple. É um sinal de que a IA está mudando a escala do trabalho de segurança ofensiva. Antes, encontrar uma vulnerabilidade crítica levava semanas de análise manual. Com ferramentas de IA, pesquisadores conseguem fazer varreduras em horas e gerar relatórios de forma quase automatizada. O número de falhas descobertas cresce, mas o número de engenheiros que precisam validar e corrigir cada uma permanece o mesmo.

Tribunal rejeita pedido da xAI para derrubar lei contra deepfakes sexuais

Um juiz americano negou o pedido da xAI, empresa de IA de Elon Musk, para bloquear uma lei de Minnesota que proíbe aplicativos de nudificação de imagens (ferramentas que removem digitalmente a roupa de fotos reais de pessoas sem o consentimento delas). Segundo o TechCrunch, a lei continua em vigor enquanto o processo segue na Justiça. A xAI argumentou que a lei viola a Primeira Emenda americana (liberdade de expressão), argumento que o juiz rejeitou por ora.

O caso é um dos primeiros em que uma empresa de IA de grande porte vai diretamente ao tribunal para contestar legislação estadual sobre o uso abusivo de suas ferramentas. O julgamento final vai criar precedentes sobre até onde estados e países podem restringir o que modelos de IA são autorizados a fazer.

Um dos maiores criadores do YouTube diz que seu uso de IA chegou a um ponto doentio

Hank Green é um dos criadores de conteúdo mais influentes do YouTube, conhecido por canais de ciência e educação. Em um texto publicado esta semana, relatado pelo TechCrunch, ele fez um desabafo incomum: admitiu que o nível de estímulo que tem sentido ao interagir com LLMs (modelos de linguagem grandes, como ChatGPT e Claude) não está sendo saudável para ele nem benéfico para o mundo.

O que ele descreve lembra o que pesquisadores de comportamento chamam de reforço variável: a sensação de recompensa imprevisível que mantém pessoas presas a feeds de redes sociais. No caso dos LLMs, a recompensa é uma resposta inteligente, um texto gerado, uma análise produzida em segundos. Green percebeu que estava usando os modelos não para tarefas específicas, mas pela própria sensação de usar.

📡 Radar

Na Europa, os avisos de IA tomam conta das telas e o setor começa a falar em fadiga de alertas

Com as novas exigências de transparência da União Europeia em vigor, usuários europeus estão começando a ver avisos de divulgação de IA em toda parte: redes sociais, apps de atendimento ao cliente, plataformas de entretenimento. A Wired reporta que a preocupação crescente do setor é a fadiga de avisos: tanto alerta que as pessoas simplesmente param de prestar atenção. Para empresas com usuários na Europa, adaptar interfaces para cumprir as regras virou tarefa imediata.

Música possivelmente gerada por IA entra no Top 100 das paradas americanas

O single "Rubberz", do rapper Fenix Flexin, chegou à posição 58 da Billboard Hot 100 levantando questões sobre se elementos da produção foram gerados por IA, segundo a The Verge. O caso é emblemático: ocorre dias depois de as gravadoras terem pedido formalmente que músicas produzidas com IA sejam barradas das paradas, e a pergunta que o setor ainda não sabe responder é como verificar, antes de uma música atingir o topo, se ela foi ou não gerada por IA.

Sam Altman quer que você use o ChatGPT para criar seus filhos

O CEO da OpenAI voltou a defender o uso do ChatGPT para ajudar na criação de filhos, descrevendo como um caso de uso interessante para pais. O TechCrunch cobre a declaração com ceticismo: o posicionamento vem dias depois de um criador de conteúdo muito conhecido afirmar que o uso de LLMs pode se tornar uma dependência. A tensão entre os dois pontos de vista diz muito sobre onde estamos no ciclo de adoção da IA.