Leia mais: Metaverso e Web3 têm demanda em alta e salários começam em R$ 10 mil
Uma pesquisa da Universidade de Nova York destaca como esses resultados de pesquisa podem ser prejudiciais e reforçar preconceitos, inclusive na hora de buscar profissionais para as empresas. O estudo revela que mesmo os buscadores de internet neutros em termos de gênero ainda podem gerar resultados dominados por homens, o que pode ter um impacto significativo nas decisões de contratação e ajudar a propagar preconceitos de gênero.
Preconceito não é só do algoritmo
Para tentar melhorar as coisas, os pesquisadores conduziram uma série de estudos para determinar como o nível de desigualdade na própria sociedade se transfere para o nível de preconceito de gênero nos algoritmos. E, a partir disso, como a exposição a essas buscas e seus resultados influenciam os tomadores de decisão a perpetuar os preconceitos.
Eles começaram coletando dados do Global Gender Gap Index (GGGI), que fornece uma classificação da desigualdade de gênero em cerca de 150 países. O índice abrange uma ampla gama de métricas de desigualdade, incluindo participação econômica, saúde e sobrevivência, escolaridade e empoderamento político, com cada país recebendo uma pontuação de “desigualdade de gênero”.
Eles então tentaram avaliar o viés de gênero nos resultados da pesquisa. Fizeram isso examinando palavras que neutras (e que deveriam ter chance igual de se referir a um homem ou uma mulher), mas que são consideradas masculinas pelo algoritmo, como “estudante”.
Diferença das buscas em cada país
Os pesquisadores então se propuseram a entender se a exposição a esses algoritmos tendenciosos era suficiente para moldar as percepções das pessoas e, de fato, até mesmo suas decisões.
Eles fizeram isso como parte de uma série de experimentos em que os participantes olharam resultados de pesquisa de imagens do Google para quatro profissões diferentes, todas desconhecidas por eles.
Fizeram isso em países com alta desigualdade de gênero, como Hungria e Turquia, e também para aqueles considerados com menor desigualdade de gênero, como Finlândia e Islândia. Cada participante forneceu uma declaração referente a cada profissão antes de começar, respondendo se, para aquela profissão, ele achava que era mais provável de ser ocupada por homem ou por uma mulher.
Resultados podem influenciar contratação
Aqueles na condição de alta desigualdade normalmente mantinham seu preconceito masculino, que foi reforçado pela pesquisa de imagens, mas o principal é que os participantes que vivem em países de baixa desigualdade ficaram inclinados a classificar a maioria das profissões como masculinas depois de olhar as imagens das buscas.
“Esses resultados sugerem um ciclo de propagação de viés entre sociedade, Inteligência Aritificial e usuários”, declararam os pesquisadores. “As descobertas demonstram que os níveis sociais de desigualdade são evidentes nos algoritmos de busca na Internet e que a exposição a isso pode levar os usuários a pensar e agir de maneiras que reforçam esse problema.”