IA: legislação para controlar o uso de bots na contratação cresce

[Romildo de Paula Leite]

Estados e municípios buscam restringir uso de IA para seleção de candidatos a empregos devido a questões de privacidade e preconceito.

Imagem: Shutterstock

As organizações estão adotando rapidamente o uso de inteligência artificial (IA) para a descoberta, triagem, entrevista e contratação de candidatos. Ela pode reduzir o tempo e o trabalho necessários para encontrar candidatos a emprego e pode combinar com mais precisão as habilidades do candidato a uma vaga de emprego.

Mas os legisladores estão preocupados com o fato de que o uso de ferramentas baseadas em IA para descobrir e avaliar talentos pode invadir a privacidade dos candidatos a emprego e introduzir preconceitos raciais e de gênero já incorporados ao software.

“Vimos uma onda substancial nos últimos dois a três anos em relação à legislação e à criação de regras regulatórias no que se refere ao uso de IA em várias facetas do local de trabalho”, disse Samantha Grant, Sócia do escritório de advocacia de Reed Smith.

Estados, incluindo California, Maryland e Washington, promulgaram ou estão considerando legislações para estabelecer regras sobre o uso da IA para aquisição de talentos. A Lei de IA da União Europeia [EU AI Act], da União Europeia, também visa abordar questões relacionadas ao software de contratação automatizada.

O Congresso dos Estados Unidos está considerando a Lei Federal de Responsabilidade Algorítmica, que, se aprovada, exigiria que os empregadores realizassem uma avaliação de impacto de qualquer sistema automatizado de tomada de decisão que tenha um efeito significativo no acesso, condições ou disponibilidade de emprego de um indivíduo.

Além disso, a Comissão de Oportunidades Iguais de Emprego (EEOC) dos Estados Unidos anunciou recentemente que pretende aumentar a supervisão e o escrutínio das ferramentas de IA usadas para selecionar e contratar trabalhadores. Como parte desse esforço, a EEOC realizou uma audiência pública em 31 de janeiro para explorar os potenciais benefícios e malefícios da IA em situações de contratação, de acordo com Grant.

“A atual onda de leis e regulamentos relacionados à IA em RH é como uma onda sob a água – crescendo, ganhando impulso e se preparando para chegar à costa”, disse Cliff Jurkiewicz, vice-presidente de Estratégia Global da Phenom, um provedor de plataforma de contratação habilitado para IA. “As novas leis são necessárias e bem-vindas, pois a tecnologia ultrapassou as regulamentações existentes para proteger grupos sub-representados”.

A cidade de Nova York está agindo

Uma das últimas tentativas de lidar com ferramentas automatizadas de decisão de emprego baseadas em IA é a Lei Local 144 da cidade de Nova York, prevista para entrar em vigor em abril. A lei, originalmente aprovada em 2021, foi adiada devido ao “alto volume de comentários públicos” durante o processo de regulamentação. Ela proíbe os empregadores de usar ferramentas automatizadas de seleção de empregos, a menos que uma organização institua uma auditoria de viés específica e torne os dados resultantes disponíveis publicamente.

Uma empresa também deve divulgar seu uso de IA para candidatos a empregos que moram na cidade de Nova York.

A lei da cidade de Nova York pode ser um catalisador para que outros estados adotem legislação semelhante – já que muitas empresas fazem negócios na cidade e é um epicentro de finanças e comércio, disse Jurkiewicz. “A implementação de tal lei sem dúvida influenciará leis semelhantes nos Estados Unidos e potencialmente em outras regiões”, disse ele.

Embora a lei municipal implique que os empregadores devem realizar uma auditoria, os fornecedores estão fazendo isso preventivamente para ajudar as empresas com as quais trabalham, “tanto como segurança para os clientes existentes quanto como uma maneira de diferenciar/atrair clientes em potencial”, disse Ben Eubanks, Diretor de Pesquisa da Lighthouse Research & Advisory.

“Acho que todo mundo está prendendo a respiração e observando para ver o que vai acontecer em Nova York, em parte porque as regras sobre essas ferramentas [exigem que elas] sejam auditadas [e] avaliadas e o fornecedor tem que provar que passou em alguma lista de verificação aprovada”, disse Eubanks. “Neste ponto, é difícil saber como será o lançamento. Tenho muitas empresas dentro da comunidade de fornecedores que estão observando isso de perto”.

As empresas que oferecem software de recrutamento baseado em IA incluem Paradox, HireVue, iCIMS, Textio, Phenom, Jobvite, XOR.ai, Upwork, Bullhorn e Eightfold AI.

Por exemplo, o serviço da HireVue inclui um chatbot que pode manter conversas baseadas em texto com candidatos a emprego para orientá-los para os empregos que melhor se adaptam às suas habilidades. O chatbot de algoritmo de deep learning da Phenom envia recomendações de trabalho personalizadas e conteúdo com base em habilidades, adequação ao cargo, localização e experiência para os candidatos, para que os empregadores possam “encontrar e escolher você mais rapidamente”. Ele não apenas seleciona os candidatos, mas também pode agendar entrevistas de emprego.

O software de aquisição de talentos de IA usa pontuações numéricas com base no histórico, nas habilidades e na entrevista em vídeo de um candidato para fornecer uma pontuação e classificações gerais baseadas em competências que podem ser usadas na tomada de decisões do empregador.

Esta semana, a Beamery, fornecedora multinacional de software de gerenciamento de talentos baseada em IA, anunciou o lançamento do TalentGPT, um chatbot baseado em GPT-4 e outros modelos de linguagem grande (LLMs). O chatbot visa auxiliar gerentes de contratação, recrutadores, candidatos e funcionários na aquisição de talentos e procura de emprego. A empresa afirma que sua IA automatiza a conformidade com as regras e mitiga os riscos de viés associados aos LLMs, que são os algoritmos por trás dos chatbots.

O software e os serviços de aquisição de talentos divulgaram suas plataformas baseadas em IA como oferecendo maior diversidade, inclusão e igualdade (DEI) porque o software de computador pode ser programado para ser neutro em termos de gênero e etnia; o objetivo é eliminar o máximo de viés humano possível.

O problema: humanos programam o software.

Desafios inerentes à IA

Como acontece com qualquer “tecnologia disruptiva”, Jurkiewicz disse que a IA traz desafios que devem ser considerados e planejados pelas organizações contratantes. Eles incluem:

• Viés algorítmico.
• Falta de Transparência.
• Preocupações legais e éticas.
• Excesso de confiança na IA.
• Privacidade e segurança de dados.
• Desumanização no processo de contratação.
• Desalinhamento com a cultura e os valores organizacionais.

Um relatório conjunto dos Estados Unidos e da União Europeia divulgado este ano sobre o potencial impacto econômico da IA no futuro da força de trabalho constatou que, embora ela possa aumentar a eficiência e a inovação da força de trabalho, pode exacerbar a desigualdade.

“Há evidências substanciais (…), a IA introduziu e perpetuou formas raciais ou outras de viés, tanto por meio de problemas com os conjuntos de dados subjacentes usados para tomar decisões quanto por decisões não intencionais ou aparentemente benignas feitas por designers de algoritmos”, disse o relatório. “O desafio para os formuladores de políticas é promover o progresso e a inovação em IA, protegendo trabalhadores e consumidores de possíveis tipos de danos que possam surgir”.

Os desafios só devem crescer. Espera-se que de 35% a 45% das empresas usem software e serviços de aquisição de talentos baseados em IA para ajudar a selecionar e entrevistar perspectivas de emprego no próximo ano, de acordo com dois estudos recentes.

Embora existam poucas leis trabalhistas relacionadas à IA no momento, os empregadores devem esperar que isso mude à medida que o uso da IA se expande além de apenas contratações e avaliações de desempenho, projeções de carreira e decisões de promoção/demissão, de acordo com Paul Starkman, Advogado do escritório de advocacia Clark Hill, com sede em Chicago.

“E [isso] pode se transformar em leis de proteção de informações do consumidor, como o GDPR da União Europeia e o CCPA/CPRA da Califórnia”, disse Starkman.

Algoritmos de contratação não são novos

Embora o uso de algoritmos de computador para triagem de possíveis candidatos a empregos não seja novo – pesquisas de texto simples têm sido usadas para analisar currículos há décadas – a sofisticação dos aplicativos e a amplitude de seu uso cresceram rapidamente.

Quase três em cada quatro organizações impulsionaram a compra de tecnologia de aquisição de talentos em 2022 e 70% planejam continuar investindo este ano – mesmo se uma recessão chegar – de acordo com uma pesquisa da plataforma de contratação corporativa on-line Modern Hire. O quinto relatório anual de contratação da Modern Hire descobriu que 45% das empresas em todo o mundo estão usando IA para melhorar as funções de recrutamento e recursos humanos.

Os especialistas alertam que os sistemas de recrutamento de IA são tão bons quanto os programadores que “alimentam a máquina”. Se uma ferramenta de IA ingere dados de currículos de pessoas previamente contratadas por uma empresa – e os departamentos de recrutamento que tomaram essas decisões abrigam preconceitos e preferências subconscientes – esses vieses podem ser herdados pela ferramenta de IA.

Por exemplo, a Amazon passou uma década treinando seu algoritmo de triagem de candidatos usando seus próprios dados de contratação. Mas assim que foi ao ar, supostamente mostrou preconceito contra as mulheres. Apenas a palavra “mulher” faria com que o algoritmo classificasse as candidatas abaixo dos homens.

Por outro lado, também há dicas importantes de sites de busca de emprego on-line, instruindo os candidatos sobre como redigir currículos que passarão por um software de triagem automatizada, garantindo que os candidatos a emprego sejam vistos.

Embora a correspondência de currículos com as descrições de cargo seja o uso mais comum da IA, as ferramentas também estão sendo usadas para analisar padrões de candidatos em potencial, incluindo a segmentação de candidatos com base em experiência, educação, habilidades e seu potencial de retenção após a contratação, de acordo com Bret Greenstein, Parceiro da PricewaterhouseCoopers (PwC) e Pesquisador de Análise de dados e IA.

Para realizar pesquisas mais detalhadas de possíveis candidatos, as plataformas de IA devem coletar grandes quantidades de dados sobre possíveis candidatos sem sua permissão expressa, de acordo com Eubanks, autor do livro Talent Scarcity: How to Hire and Retain a Shrinking Workforce. Essas informações podem incluir software de reconhecimento facial e entrevistas em vídeo que as empresas podem manter, compartilhar e filtrar com IA para determinar candidatos favoráveis.

Em 2019, a Illinois Artificial Intelligence Video Interview Act (“AIVI Act”) f..., tornando o estado o primeiro a regulamentar “bots de entrevista” automatizados e outras formas de IA para analisar expressões faciais, linguagem corporal, escolhas de palavras dos candidatos e tons vocais durante entrevistas em vídeo. E em 2020, Maryland promulgou uma lei semelhante proibindo os empregadores de usar algoritmos de reconhecimento facial na contratação, a menos que o candidato concordasse com isso.

Em uma postagem de blog de 2019, Starkman escreveu que a IA foi usada em entrevistas em vídeo para determinar se um candidato mostra características de candidatos “bem-sucedidos”. “Os empregadores de vários estados devem observar a Lei AIVI, pois ela se aplica explicitamente ‘ao considerar candidatos a cargos em Illinois’”, escreveu ele.

O problema de viés embutido

Em uma resposta por e-mail ao Computerworld, Starkman disse que, sem desenvolvimento e uso adequados, “os sistemas de IA podem ser tendenciosos, seja por causa do viés nos dados em si ou em como o algoritmo processa os dados, e isso pode resultar na eliminação não intencional de certos candidatos com deficiência, candidatos nascidos no exterior e outros de forma discriminatória, se não houver salvaguardas”.

Por exemplo, disse ele, os chatbots orientados por IA que se comunicam com candidatos a empregos devem ser monitorados para limitar o recebimento inadvertido de informações sobre deficiências e outras características pessoais que possam levar a reivindicações de discriminação. “Outro sistema de contratação e avaliação de desempenho assistido por algoritmo teve que ser descartado porque se baseava em práticas de contratação anteriores e não podia ser treinado para desaprender o viés de seu programador”, disse ele.

Em outra ilustração, Starkman disse que o software projetado para desconsiderar candidatos com lacunas em seus currículos pode ter impactado indevidamente as candidatas porque elas eram estatisticamente mais propensas a deixar a força de trabalho do que os homens.

“Eu entendo onde estão seus corações – eles querem tornar as coisas mais seguras e mais equitativas para a população candidata lá fora”, disse Eubanks. “Mas o desafio é que as regras que eles estão fazendo [não estão] sempre alinhadas com a forma como as empresas contratam”.

Por exemplo, disse Eubanks, a lei de Illinois exige que as empresas excluam todas as entrevistas em vídeo após 30 dias. Muitos funcionários se demitem pouco tempo depois de serem contratados. Portanto, quando a empresa volta a procurar um candidato de segunda escolha, a entrevista em vídeo está excluída.

“Algumas dessas nuances que eles colocam nas leis… [são] colocadas em prática por pessoas que nem sempre entendem como funciona a contratação”, disse Eubanks. “Elas não estão fazendo o dia a dia [de trabalho]. E por causa disso, cria algumas complexidades, desafios e dores de cabeça”.

Para enfrentar os desafios, as organizações devem adotar uma abordagem equilibrada que combine os pontos fortes da IA com o julgamento humano ou um ser humano no processo de contratação que tenha experiência, disse Jurkiewicz. “É vital garantir que as ferramentas de emprego orientadas por IA sejam explicáveis, imparciais, testadas e compatíveis com as leis aplicáveis e diretrizes éticas”, disse ele.

Quando desenvolvidas, testadas, monitoradas e implementadas com responsabilidade, as ferramentas com tecnologia de IA podem aumentar significativamente a diversidade e a inclusão no local de trabalho.

Estudos têm mostrado que muitas comunidades sub-representadas carecem de habilidades ou não entendem o impacto de não promover seus atributos favoráveis (habilidades, comportamentos, competências e experiências) como outras comunidades sistemicamente bem treinadas podem e têm feito historicamente, de acordo com Jurkiewicz.

“A IA pode trazer à tona os atributos positivos dos indivíduos e encorajar grupos sub-representados a competir por trabalhos que talvez não tenham pensado ser possível”, disse ele.

Lucas Mearian, Computerworld

https://itforum.com.br/computerworld/legislacao-controlar-ia-contra...

Para participar de nossa Rede Têxtil e do Vestuário - CLIQUE AQUI