Inteligência Artificial reproduz vieses em processos de seleção de pessoal

Um estudo recente apresentado em julho na Conferência Internacional sobre Aprendizado de Máquina (ICML), em Vancouver, destaca que modelos de inteligência artificial podem criar preconceitos próprios em relação a candidatos a emprego, mesmo quando esses vieses não estão presentes nos dados utilizados para o treinamento. Pesquisadores das universidades de Princeton e Chicago revelaram que esses sistemas não apenas reproduzem estereótipos existentes, mas também geram novas formas de discriminação com uma rapidez superior à dos seres humanos, conforme noticiado pelo MIT Technology Review.

No experimento conduzido pelos cientistas, foram utilizados modelos como ChatGPT, Claude e Gemini em um jogo simulado de recrutamento, baseado em um teste psicológico sobre formação de estereótipos. Cada modelo atuou como consultor do prefeito de uma cidade fictícia, responsável pela seleção de candidatos para 20 vagas que variavam de médicos a zeladores, entre quatro grupos étnicos fictícios: Tufa, Aima, Reku e Weki. Durante o processo, os modelos recebiam feedback imediato sobre o desempenho dos candidatos escolhidos, sem saber que todos os grupos tinham igual chance de sucesso.

Os resultados indicaram que as máquinas rapidamente começaram a segregar candidatos com base na etnia para diferentes funções. Por exemplo, se um modelo constatasse que um candidato Aima não teve sucesso como médico, ele passava a evitar todos os Aimas nessa profissão e direcionava esses indivíduos para vagas como zeladores, consideradas menos exigentes. Na escala de segregação utilizada na pesquisa – onde 2 representa segregação total – participantes humanos obtiveram uma pontuação de 0,84, enquanto os modelos apresentaram uma média 65% superior. O modelo o3 da OpenAI alcançou uma pontuação próxima do máximo: 1,83.

Ryan Liu, doutorando na Universidade de Princeton e coautor do estudo, comentou que “os grandes modelos de linguagem têm uma tendência intrínseca a desenvolver generalizações a partir de dados limitados”, ressaltando que essa característica é parte do seu processo de otimização. O treinamento voltado para problemas matemáticos e científicos favorece essa rápida generalização e pode levar à formação de estereótipos a partir de poucos exemplos.

Modelos mais avançados com maior capacidade analítica, como o o3 da OpenAI e o R1 da DeepSeek, demonstraram ainda mais viés. Embora tentativas de instruir esses sistemas a agirem com justiça não tenham surtido efeito significativo no comportamento deles, oferecer incentivos por contratações diversificadas resultou em uma significativa diminuição da tendenciosidade. Liu argumenta que “o segredo está em estabelecer metas que integrem valores sociais desejáveis para que os modelos se comportem dentro dos padrões aceitáveis pela sociedade”.

Em uma segunda fase do experimento, os pesquisadores solicitaram aos modelos que redistribuíssem membros de diferentes grupos étnicos em cidades canadenses. Quando foram apresentados a informações relevantes como idade e nível educacional dos candidatos, observou-se uma redução na segregação étnica. No entanto, ao receberem dados irrelevantes – como cor do cabelo ou estilo de tatuagem – os modelos retornavam à prática da separação por etnia. Angelina Wang, cientista da computação da Universidade Cornell e não envolvida no estudo, alertou que as melhorias na memória e personalização dos chatbots aumentam o risco destes sistemas “superindexarem” comportamentos anteriores e gerarem vieses.

No entanto, no contexto real das empresas, a magnitude desse fenômeno ainda permanece incerta. Diferentemente dos ambientes laboratoriais onde há feedback instantâneo sobre o desempenho dos contratados, essa dinâmica pode mitigar ou retardar a emergência de preconceitos nas organizações. Liu adverte que os vieses criados pelas máquinas – distintos daqueles herdados dos humanos – representam uma ameaça constante: “Esses novos vieses estão sempre presentes.”