Reconhecimento facial indica o suspeito errado — e um inocente passa por um processo criminal inteiro

A ACLU abriu um processo contra dois departamentos de polícia da Flórida depois que um homem de Fort Myers foi preso por sequestro infantil com base em uma correspondência de reconhecimento facial. O problema: a ferramenta indicou o suspeito errado. O software apontou outra pessoa, e os policiais trataram o resultado como prova quase definitiva — sem verificação adicional independente.

A ferramenta em questão é um dos sistemas de reconhecimento facial mais antigos em uso ativo pelas forças policiais dos EUA. Pesquisas do NIST documentaram taxas de erro sistematicamente maiores para pessoas negras — e o caso de Fort Myers segue esse padrão. O que a investigação da ACLU expõe não é apenas um erro pontual, mas uma falha estrutural: agentes que não compreendem as limitações da ferramenta e a tratam como oráculo infalível.

Por que importa: No Brasil, o debate sobre uso de reconhecimento facial pela polícia e em espaços públicos ainda está em formação. Esse caso nos EUA é o argumento mais concreto contra a adoção sem salvaguardas: sistemas de IA em decisões irreversíveis — prisão, julgamento, exclusão — exigem padrões de auditoria e contestação que a maioria dos frameworks regulatórios ainda não impõe.