Por que a inteligência artificial pode ser uma ameaça para igualdade no trabalho

Reprodução/Forbes
Segundo o EPIC, a HireVue coleta dados faciais para avaliar expressões de emoção e personalidade, e isso pode prejudicar os participantes “fora do padrão”

Resumo:

 

  • O Electronic Privacy Information Center, centro de pesquisa de interesse público dos Estados Unidos, denunciou a HireVue, empresa de recrutamento que pretende avaliar as qualificações de um candidato a emprego por meio de entrevista por vídeo on-line, ou desafio baseado em jogos;
  • Os processos alegam que os empregadores utilizam algoritmos de software para discriminar trabalhadores mais velhos, direcionando anúncios de emprego na Internet exclusivamente para aqueles mais jovens;
  • Segundo o EPIC, a HireVue coleta dados faciais para avaliar expressões de emoção e personalidade, e isso pode prejudicar os participantes “fora do padrão”, como  aqueles com excesso de peso, que apresentam depressão ou autismo.

Justo quando pensamos que tudo estava seguro novamente, surgiu uma nova ameaça para a igualdade de oportunidades de trabalho, uma vez que os empregadores começam a fundamentar as decisões de contratação em avaliações de vídeo e jogos baseados em inteligência artificial.

VEJA MAIS: Daniel Hulme: por que o Brasil deve regulamentar a inteligência artificial

O Electronic Privacy Information Center, ou EPIC, um centro de pesquisa de interesse público com sede em Washington, D.C., recentemente pediu à Federal Trade Commission (agência independente do governo dos Estados Unidos que visa a prevenção de práticas comerciais anticompetitivas), para investigar a HireVue, uma empresa de recrutamento com sede em Utah que pretende avaliar as qualificações de um candidato a emprego por meio de “entrevista por vídeo” online e / ou “desafio baseado em jogos”.

De acordo com seu site, a HireVue possui mais de 700 clientes em todo o mundo, que contemplam mais de um terço da Fortune 100 e marcas líderes como Unilever, Hilton, JP Morgan Chase, Delta Air Lines, Vodafone, Carnival Cruise Line e Goldman Sachs. A empresa afirma que já realizou mais de dez milhões de entrevistas e um milhão de avaliações.

A denúncia do EPIC segue uma onda de processos nos últimos anos, que alegam que os empregadores utilizam algoritmos de software para discriminar trabalhadores mais velhos, direcionando anúncios de emprego na internet exclusivamente para os mais jovens.

A HireVue usa um algoritmo próprio para avaliar “dezenas de milhares de pontos de dados” de entrevistas em vídeo, incluindo a “entonação”, “inflexão” e “emoções” do candidato. Essas e outras informações são inseridas em “algoritmos previsíveis” que comparam candidatos com os melhores desempenhos de uma empresa.

A HireVue declara que suas avaliações algorítmicas baseadas em vídeo fornecem “uma excelente percepção de atributos como inteligência social (habilidades interpessoais), habilidades de comunicação, traços de personalidade e aptidão geral para o trabalho”.

Já o EPIC diz que “as práticas comerciais da HireVue produzem resultados tendenciosos, improváveis e não replicáveis”.

Videogames e trabalhadores mais velhos

A denúncia do EPIC se concentra no viés potencial contra mulheres e minorias, mas o conceito de usar avaliações baseadas em videogames parece particularmente suspeito em relação aos trabalhadores mais velhos.

VEJA TAMBÉM: Entenda por que a inteligência artificial já está na era de ouro

A idade média dos jogadores de videogame é de cerca de 30 anos. Muitos profissionais de idade avançada não praticam esta atividade e é provável que menos mulheres mais velhas que homens o tenham feito. Mesmo se tiverem, seu desempenho possivelmente será mais lento do que o de um jovem jogador habilidoso.

Loren Larsen, diretor de tecnologia da HireVue, declarou em um comunicado à imprensa que as avaliações baseadas em jogos medem o “QI emocional” e “se fundamentam no entendimento das habilidades cognitivas, de modo a permitir que os gerentes de contratação entendam mais sobre as habilidades de um candidato”.

As entrevistas em vídeo penalizam candidatos “fora do padrão”?

O EPIC diz que a HireVue “coleta dados faciais de candidatos a emprego para avaliar expressões de emoção e personalidade” e que as chamadas “unidades de ação facial” representam 29% da pontuação de um candidato.

Mas como o algoritmo da HireVue avalia aqueles com excesso de peso, que sofrem de depressão ou não falam inglês? E os candidatos com autismo que tendem a olhar para a boca das pessoas e evitar o contato visual direto?

A HireVue publicou um comunicado à imprensa em setembro, anunciando uma parceria com a Integrate Autism Employment Advisors, uma organização sem fins lucrativos que ajuda empresas a recrutar “profissionais qualificados no espectro do autismo”. Os 600 candidatos na rede da Integrate Autism serão treinados sobre como usar a plataforma da HireVue “eficientemente e efetivamente”. Entretanto, seria necessário tanto esforço se o algoritmo da HireVue não penalizasse autistas?

O EPIC afirma que a Robert H. Smith School of Business, da Universidade de Maryland, diz aos alunos que se preparam para entrevistas de IA: “Os robôs o comparam com as histórias de sucesso existentes, eles não procuram candidatos fora do padrão”.

E MAIS: Como empresas usam inteligência artificial para evitar fraudes

O EPIC relata que a Amazon abandonou uma ferramenta de recrutamento de IA depois de aprender que dados históricos de contratação priorizavam candidatos masculinos. Nesse caso, o sistema penalizou currículos que incluíam a palavra “mulheres” e os nomes das faculdades de todas elas. O centro de pesquisa afirma também que a única maneira de realmente saber se um algoritmo de contratação não é tendencioso é “desligá-lo e contratar candidatos a partir de outros critérios para descobrir se eles atendem ou não aos mesmos padrões de desempenho”.

O algoritmo é secreto

O algoritmo da HireVue é secreto para que o público não tenha como saber se ele discrimina trabalhadores mais velhos, mulheres, deficientes, minorias etc.. O centro de pesquisa, por sua vez, diz que a empresa se recusa a fornecer aos candidatos a emprego sua pontuação de avaliação.

O EPIC defende que a HireVue viola a Lei de Comunicações dos Estados Unidos porque não possui uma “base adequada” para apoiar suas reivindicações e não pode ser responsabilizada pelo bom funcionamento de suas avaliações algorítmicas secretas. O centro de pesquisa também contesta a alegação da empresa de recrutamento de que ela não usa a tecnologia de reconhecimento facial para fins de verificação de identidade, o que também foi considerado uma violação da lei.

O EPIC alega que a plataforma da HireVue também falha em atender aos padrões mínimos de tomada de decisão baseados em IA, estabelecidos a partir dos princípios desta tecnologia aprovados pelos 36 países membros da Organização para Cooperação e Desenvolvimento Econômico (OCDE), incluindo os EUA. Essas normas dizem que todos têm o direito de conhecer a fundamentação para uma decisão referente a IA que os preocupa e que esses sistemas tecnológicos devem ser implantados somente após uma avaliação adequada de seus riscos e as instituições devem garantir que eles não reflitam tendências injustas.

Siga FORBES Brasil nas redes sociais:

Facebook
Twitter
Instagram
YouTube
LinkedIn

Tenha também a Forbes no Google Notícias.

Copyright Forbes Brasil. Todos os direitos reservados. É proibida a reprodução, total ou parcial, do conteúdo desta página em qualquer meio de comunicação, impresso ou digital, sem prévia autorização, por escrito, da Forbes Brasil ([email protected]).