Os algoritmos adotam os mesmos preconceitos da sociedade e podem influenciar a ideia das pessoas sobre o “gênero ideal” dos candidatos a uma vaga
Alguns anos atrás, escrevi sobre pesquisas mostrando como banco de imagens podem ser tendenciosos. Seus resultados para pesquisas pelo termo “desenvolvedores” costumam trazer imagens predominantemente masculinas e pesquisas por “responsáveis pela limpeza” retornam imagens predominantemente femininas.
Leia mais: Metaverso e Web3 têm demanda em alta e salários começam em R$ 10 mil
Uma pesquisa da Universidade de Nova York destaca como esses resultados de pesquisa podem ser prejudiciais e reforçar preconceitos, inclusive na hora de buscar profissionais para as empresas. O estudo revela que mesmo os buscadores de internet neutros em termos de gênero ainda podem gerar resultados dominados por homens, o que pode ter um impacto significativo nas decisões de contratação e ajudar a propagar preconceitos de gênero.
“Há uma preocupação crescente de que os algoritmos usados pelos modernos sistemas de Inteligência Artificial produzam resultados discriminatórios, presumivelmente porque são treinados em dados nos quais os preconceitos sociais estão incorporados”, explicam os pesquisadores. “Como consequência, seu uso por humanos pode resultar na propagação, em vez de redução, das disparidades existentes entre homens e mulheres” no mercado de trabalho.
Preconceito não é só do algoritmo
Para tentar melhorar as coisas, os pesquisadores conduziram uma série de estudos para determinar como o nível de desigualdade na própria sociedade se transfere para o nível de preconceito de gênero nos algoritmos. E, a partir disso, como a exposição a essas buscas e seus resultados influenciam os tomadores de decisão a perpetuar os preconceitos.
Eles começaram coletando dados do Global Gender Gap Index (GGGI), que fornece uma classificação da desigualdade de gênero em cerca de 150 países. O índice abrange uma ampla gama de métricas de desigualdade, incluindo participação econômica, saúde e sobrevivência, escolaridade e empoderamento político, com cada país recebendo uma pontuação de “desigualdade de gênero”.
Eles então tentaram avaliar o viés de gênero nos resultados da pesquisa. Fizeram isso examinando palavras que neutras (e que deveriam ter chance igual de se referir a um homem ou uma mulher), mas que são consideradas masculinas pelo algoritmo, como “estudante”.
Os pesquisadores realizaram buscas via Google para essas palavras no idioma de 37 países, com os resultados mostrando que a proporção de imagens “masculinas” foi maior em países com níveis mais altos de desigualdade de gênero e machismo – o que sugere que os algoritmos estão adotando o mesmo preconceito de gênero da sociedade em que se encontram.
Diferença das buscas em cada país
Os pesquisadores então se propuseram a entender se a exposição a esses algoritmos tendenciosos era suficiente para moldar as percepções das pessoas e, de fato, até mesmo suas decisões.
Eles fizeram isso como parte de uma série de experimentos em que os participantes olharam resultados de pesquisa de imagens do Google para quatro profissões diferentes, todas desconhecidas por eles.
Fizeram isso em países com alta desigualdade de gênero, como Hungria e Turquia, e também para aqueles considerados com menor desigualdade de gênero, como Finlândia e Islândia. Cada participante forneceu uma declaração referente a cada profissão antes de começar, respondendo se, para aquela profissão, ele achava que era mais provável de ser ocupada por homem ou por uma mulher.
Resultados podem influenciar contratação
Quando fizeram a mesma pergunta depois de serem expostos aos resultados da pesquisa de imagens, os voluntários nas condições de baixa desigualdade mudaram o que pensavam em relação à sua avaliação inicial, aquela feita antes de olharem o resultado das buscas.
Aqueles na condição de alta desigualdade normalmente mantinham seu preconceito masculino, que foi reforçado pela pesquisa de imagens, mas o principal é que os participantes que vivem em países de baixa desigualdade ficaram inclinados a classificar a maioria das profissões como masculinas depois de olhar as imagens das buscas.
“Esses resultados sugerem um ciclo de propagação de viés entre sociedade, Inteligência Aritificial e usuários”, declararam os pesquisadores. “As descobertas demonstram que os níveis sociais de desigualdade são evidentes nos algoritmos de busca na Internet e que a exposição a isso pode levar os usuários a pensar e agir de maneiras que reforçam esse problema.”
