Contratação sem viés: como a inteligência artificial da Gupy aprendeu a ser ética

Como desenvolver robôs que não apenas contratem pessoas, mas façam isso com ética? O uso de inteligência artificial para analisar candidatos cresce no mesmo passo que as suspeitas sobre seus vieses.

Segundo pesquisa da consultoria Korn Ferry, cerca de dois terços dos profissionais de recursos humanos afirmaram que a IA estava ajudando nos processos de recrutamento em 2018. No mesmo ano, a Amazon cancelou sua tecnologia para selecionar candidatos após descobrir que a IA tinha bias contra mulheres.

Esses questionamentos continuam hoje — mas uma startup brasileira está desenvolvendo mecanismos para barrar vieses da sua própria IA de recrutamento e seleção. Em 2015, a Gupy criou a inteligência artificial Gaia, com o objetivo de fazer um ranqueamento de candidatos mais ágil e preciso. O negócio figurou três vezes seguidas na lista 100 Startups to Watch. A mais recente foi divulgada na semana passada.

Foram cincos anos de desenvolvimento para distanciar os critérios do algoritmo dos vieses secos dos recrutadores — uma certa faculdade, gênero, raça ou região de moradia. Os cofundadores Mariana Dias (CEO) e Robson Ventura (CTO) explicaram seus progressos a PEGN. "Se a gente treinar o algoritmo sem ter cuidado com os vieses, ele tende a mandar homens para cargos de liderança e de tecnologia", afirma Ventura.

A Gupy começa aplicando um teste para extrair o perfil dos funcionários da empresa cliente. A startup entrevista quem recebeu promoções recentemente, quem foi demitido e quem performa melhor. Esse banco de dados é usado para alimentar a Gaia. A IA consegue então desenhar o candidato ideal não pela aparência, mas com base em características como organização, flexibilidade e foco em resultados. "Não existe certo ou errado, apenas o perfil mais adequado à cultura de trabalho de cada empresa", diz Ventura.

Também são analisados quesitos como a descrição da posição, a missão da empresa e, claro, as características dos candidatos. A inteligência artificial estuda cerca de 200 variáveis e apresenta os profissionais mais indicados. Considerando que cada vaga recebe em média 240 currículos, segundo a Gupy, a IA gera ao profissional de RH uma economia de cinco horas de leitura por vaga. De todos os contratados pelas empresas clientes até hoje, quase 70% estavam entre os mais bem posicionados pela Gaia.

Um ponto crucial para que a inteligência artificial seja cada vez mais inteligente é aumentar a quantidade de dados não enviesados dos quais ela se alimenta. Tirar gênero e raça da construção do perfil desejado não é suficiente — os vieses podem continuar caso tais informações apareçam nos currículos. A Gupy usa técnicas como levar em consideração apenas o radical das palavras — por exemplo, procurar "engenheir" e não "engenheiro".

"Geralmente, os códigos são feitos em inglês. Tivemos de desenvolver regras próprias, dado que a língua portuguesa tem gênero até em objetos e profissões", diz Ventura. Além dos estudos de cada empresa cliente, a Gupy construiu um banco com mais de 5 bilhões de frases gerais e 30 milhões de frases de currículos. As frases permitem que a inteligência artificial entenda palavras dentro do contexto mais corporativo, eliminando outros significados possíveis.

A validação vem logo depois do desenvolvimento. A Gupy tem uma "base de ouro", equilibrada entre homens e mulheres. Caso o ranqueamento de candidatos não se aproxime da proporção indicada, a Gaia é reprovada. A startup faz o debug da inteligência artificial e seus cientistas de dados a reformam. O objetivo é ser ethical by design, ou ético desde sua montagem. Metade dos 180 funcionários da startup estão em engenharia e produto.

A Gupy processa 2 milhões de currículos por segundo — cada alteração em uma vaga ou currículo gera outro reprocessamento. São 15 milhões de currículos na base, e outros 3 milhões entram a cada mês. Mais de 20 mil contratações ocorrem mensalmente.

Com a pandemia, muitas empresas congelaram vagas, e a Gupy sentiu os efeitos no final de março. Para manter clientes grandes, a startup lançou uma plataforma de conteúdo para a área de RH, preparando os gestores para o trabalho remoto. As novas vagas que surgiram no período trouxeram também a exigência de processos digitais.

A startup surfou essa necessidade derivada da pandemia. Entre os mais de 600 clientes estão Ambev, GPA, Renner e Vivo. A receita cresceu 40% desde dezembro de 2019. O objetivo é triplicar o faturamento neste ano, mesma proporção vista em 2019.

"O setor de recursos humanos cuida do maior ativo da empresa, que é gente. Mas continua muito operacional. Os processos estão cada vez online e precisam de tecnologia. E isso vai continuar mesmo depois da pandemia”, finaliza Dias.