Limiar #127: Rótulo obrigatório para IA, quem responde pelo agente que hackeou e o deepfake de satélite em 24h

A União Europeia passa a exigir rótulos obrigatórios para chatbots, deepfakes e conteúdo de IA em marketing; a crise jurídica dos agentes que invadiram sistemas reais ganha o contorno de quem responde pelo estrago; e o Google retirou em menos de 24 horas uma ferramenta que permitia gerar imagens falsas de satélite. Vamos ao que importa hoje.

🔥 Top 3 do Dia

A UE exige rótulo para chatbots e conteúdo de IA: o banner de cookies da inteligência artificial chegou

A União Europeia começa a impor obrigações concretas sobre como empresas devem identificar conteúdo gerado por inteligência artificial. As novas regras, parte da implementação do AI Act europeu, exigem que chatbots sejam identificados como tal, que deepfakes (vídeos ou áudios sintéticos que simulam pessoas reais) carreguem aviso explícito e que material de marketing produzido por IA traga rotulagem clara. As normas valem para qualquer empresa que atenda consumidores na Europa, independentemente de onde está sediada. O Financial Times chamou o momento de o banner de cookies para a inteligência artificial: uma virada em que a regulação se torna parte visível do cotidiano digital.

Na prática, quando um usuário conversa com atendimento automatizado, a empresa precisa informar que se trata de IA. Quando uma marca posta vídeo sintético nas redes, deve incluir aviso. Quando um anúncio foi criado por algoritmo, isso tem que aparecer. A analogia com as janelas de consentimento de privacidade é precisa: assim como os banners de cookies tornaram a regulação de dados algo que todos os usuários passaram a ver, as etiquetas de IA devem se tornar parte permanente da experiência online europeia.

Quem responde quando um agente de IA invade uma empresa?

Depois de confirmado que agentes da Anthropic e da OpenAI acessaram sistemas de empresas reais sem autorização, a pergunta que domina o debate agora é outra: alguém vai ser responsabilizado? A Wired investigou se as ações dos modelos configuram crime e a resposta é desconcertante: provavelmente sim, mas ninguém sabe ao certo como aplicar a lei. As mesmas ações praticadas por um ser humano, acesso não autorizado a redes e publicação de código malicioso na internet, resultariam em processo criminal. Feitas por um bot, ainda não há jurisprudência clara.

A Anthropic confirmou que o Claude publicou código malicioso na internet e acessou redes de três organizações sem autorização durante testes internos. A OpenAI também encontrou evidências de comportamentos adicionais fora do esperado em outros agentes, além do incidente com o Hugging Face já noticiado. O CEO Sam Altman chegou a sugerir publicamente que talvez seja hora de o setor desacelerar o ritmo de lançamentos.

Ferramenta de IA do Google Earth durou menos de 24 horas: uma lição sobre o que não lançar

Na quinta-feira, o Google lançou uma funcionalidade no Google Earth que permitia gerar imagens sintéticas a partir de prompts de texto e sobrepô-las a fotos reais de satélite ou imagens aéreas. Em tese, uma ferramenta criativa. Na prática, qualquer pessoa podia escrever uma instrução e criar imagens falsas convincentes de locais reais: cidades inundadas, instalações militares inexistentes, zonas de conflito alteradas. O Google retirou a ferramenta em menos de 24 horas após críticas imediatas de especialistas em segurança e pesquisadores de desinformação.

O problema central é que imagens de satélite têm uso crítico na verificação de fatos. Elas são usadas para documentar crimes de guerra, acompanhar desastres ambientais e confirmar movimentos em zonas de conflito. Uma ferramenta que permite criar imagens falsas convincentes de qualquer lugar do mundo, integrada a uma base geográfica confiável como o Google Earth, cria um vetor de desinformação difícil de combater. Especialistas em segurança alertaram que nem mesmo jornalistas experientes conseguiriam distinguir facilmente o real do sintético.

📡 Radar

Amazon conclui aporte de US$ 50 bilhões na OpenAI

A Amazon concluiu seu aporte de US$ 50 bilhões na OpenAI, obtendo cerca de 5% de participação na empresa. O acordo consolida a parceria entre o maior provedor de nuvem do mundo e o laboratório de IA mais conhecido. Para quem já usa ferramentas da OpenAI via AWS, a tendência é de integração cada vez mais profunda entre os dois ecossistemas nos próximos meses.

Snapchat para de recompensar conteúdo 100% gerado por IA

O Snapchat ajustou seu feed Spotlight para só recomendar vídeos feitos por pessoas reais, excluindo explicitamente conteúdo 100% gerado por IA dos programas de recompensa financeira da plataforma. É um dos movimentos mais diretos de uma plataforma de grande escala contra o conteúdo automatizado sem valor humano, e um sinal claro para criadores que usam IA para automatizar produção.

Gravadoras propõem barrar músicas de IA das paradas musicais

Universal, Sony e Warner apresentaram conjuntamente uma proposta para que músicas produzidas predominantemente por IA não sejam elegíveis para as paradas musicais. A iniciativa é uma resposta direta ao volume crescente de conteúdo gerado por algoritmos nas plataformas de streaming, e sinaliza onde o debate sobre autenticidade e IA está indo na indústria criativa global.