IA de recrutamento é mais tendenciosa que humanos, diz pesquisa

Pesquisadores cujo trabalho foi analisado pelo MIT Technology Review chegaram a uma conclusão incômoda sobre IA em recrutamento: esses modelos tendem a desenvolver e amplificar vieses mais do que recrutadores humanos. O problema não é apenas replicar os preconceitos dos dados de treinamento, o que já era esperado. Os modelos chegam a criar novas associações enviesadas que nem os dados originais contêm.

A razão tem a ver com como os LLMs generalizam. Ao processar padrões de linguagem em escala, os modelos associam certos estilos de escrita, nomes ou formações a características de desempenho de formas que nenhum humano faria de modo tão sistemático. O resultado é que o currículo de alguém pode ser descartado por razões que nem a empresa nem o candidato conseguem identificar.