Após terem negado anteriormente o uso de ferramentas de IA, os líderes da Polícia Metropolitana da Scotland Yard admitiram estar a usá-la para monitorizar o comportamento e o desempenho dos seus trabalhadores, o que gerou críticas por parte do sindicato Police Federation.
A Polícia Metropolitana confirmou que a usa para analisar dados internos sobre os níveis de absentismo por doença, faltas e padrões de horas extraordinárias, avança a HR Magazine, citando o The Guardian.
Os representantes do sindicato alertaram que confiar em insights de IA poderia levar à interpretação errónea de “pressões insustentáveis de carga de trabalho, absentismo por doença ou horas extraordinárias como indicadores de irregularidades”. A Polícia Metropolitana, por sua vez, argumentou que as ferramentas de IA eram necessárias para melhorar os padrões e a cultura, uma vez que as evidências sugerem uma correlação entre o aumento do absentismo por doença e as horas extraordinárias e “falhas nos padrões, na cultura e no comportamento”.
«Qualquer sistema que crie perfis de polícias utilizando padrões algorítmicos deve ser tratado com extrema cautela… Se as forças policiais levam a sério a elevação dos padrões e a confiança pública, o foco deve permanecer na supervisão adequada, em processos justos e no julgamento humano, e não na automatização da suspeita», avançou o sindicato.
Ainda que a IA possa identificar os padrões e ligar os pontos, a interpretação final deve ser sempre feita por um ser humano e bom senso, aconselham os especialistas.
Os resultados de um inquérito publicado pela Catalyst e pelo think tank global Coqual sugerem que as empresas no Reino Unido estão à frente das congéneres europeias na adopção de medidas para garantir que os dados de IA são utilizados e interpretados de forma justa e que os seus resultados não criam nem reflectem desigualdades.
Quase metade (46%) dos colaboradores do Reino Unido referiu que as suas organizações estão a tomar medidas para garantir que a IA não amplifica as desigualdades. Os líderes devem redobrar esforços para garantir que as decisões baseadas na IA são justas, sugeriu Ellie Smith, directora de investigação para a Europa da Catalyst. «As organizações devem perguntar-se como é que os líderes, os RH e as equipas de toda a empresa podem promover a equidade e a inclusão através da IA. Esta não é apenas uma questão de RH. Os líderes devem definir os padrões.»
