Por Inês Arruda, sócia da Pérez-Llorca

A utilização de algoritmos e sistemas de inteligência artificial (“IA”) na gestão de Recursos Humanos deixou de ser uma tendência para se tornar uma realidade transversal a empresas de todas as dimensões. Porém, este salto tecnológico traz um conjunto exigente de obrigações legais que, se ignoradas, podem gerar responsabilidade significativa.

O ponto de partida é a transparência. A lei impõe ao empregador o dever de informar os trabalhadores sempre que decisões que os afectem sejam tomadas, total ou parcialmente, com base em sistemas automatizados. Não basta que a ferramenta seja utilizada internamente, o trabalhador tem direito a saber que existe, como funciona nos seus traços essenciais e de que forma influencia decisões sobre a sua contratação, avaliação, promoção ou cessação do vínculo. A opacidade, neste domínio, não é uma opção legítima.

A esta obrigação de informação acresce o direito do trabalhador a uma revisão humana das decisões automatizadas que o afectem de forma significativa. A revisão humana exigida pela lei não é uma formalidade: tem de ser real, documentada e, sobretudo, capaz de justificar o resultado da decisão tomada quando tal se coloque.

O Regulamento da Inteligência Artificial da União Europeia classifica os sistemas de IA utilizados em contexto laboral como sistemas de alto risco, o que implica obrigações adicionais para as empresas que os desenvolvam ou utilizem – desde a avaliação prévia de conformidade até à manutenção de registos técnicos detalhados e à supervisão humana continuada. Para os departamentos de Recursos Humanos, isto traduz-se na necessidade de conhecer, com rigor, as ferramentas que adoptam, nomeadamente a sua origem, os dados em que foram treinadas, os critérios que aplicam e os enviesamentos que possam conter.

Riscos:

Os enviesamentos são, precisamente, uma das áreas de maior risco, dado que um algoritmo que reproduza padrões discriminatórios – a título exemplificativo, por género, etnia ou idade – não isenta o empregador de responsabilidade pelo simples facto de a decisão ter sido tomada por uma máquina. Pelo contrário: a discriminação algorítmica é discriminação, independentemente de quem ou do que a produziu. Como tal, a empresa que adopta o sistema é responsável pelos seus resultados.

Um outro domínio de risco elevado prende-se com a gestão de dados dos trabalhadores. Os sistemas de IA em contexto laboral processam, por definição, grandes volumes de dados pessoais, devendo o seu tratamento respeitar integralmente o RGPD. Tal exige, entre outros aspectos, a identificação de uma base legal adequada para cada tipo de tratamento, a realização de avaliações de impacto sobre a protecção de dados quando o risco for elevado e a garantia de que os dados utilizados para alimentar os sistemas são pertinentes, exactos e não excessivos face às finalidades prosseguidas.

Exemplo prático:

Uma empresa adopta uma plataforma de recrutamento com triagem automática de candidaturas. O sistema analisa currículos e atribui pontuações com base em padrões históricos de contratação. Sem que ninguém na empresa se aperceba, o algoritmo penaliza consistentemente candidatos com interrupções no percurso profissional, o que, na prática, afecta desproporcionalmente mulheres que tenham beneficiado de períodos de licença parental. A empresa não informou os candidatos da existência do sistema nem realizou qualquer avaliação de impacto. Quando confrontada com uma queixa por discriminação, esta não consegue demonstrar que houve revisão humana das decisões nem que o sistema foi previamente auditado.