O alto-comissário da ONU para os Direitos Humanos, Volker Turk, manifestou preocupação com os riscos que a inteligência artificial (IA) avançada pode representar para a humanidade, defendendo a necessidade urgente de estabelecer uma governação eficaz para esta tecnologia.
Na abertura da 63.ª sessão do Conselho de Direitos Humanos, em Genebra, Suíça, Turk alertou que «uma IA que escapa ao seu ambiente de testes ou chantageia os programadores para evitar ser desactivada é demasiado poderosa» e pediu «salvaguardas robustas para a segurança da IA antes que seja tarde demais».
O responsável da ONU destacou que um pequeno grupo de pessoas detém poder quase ilimitado sobre a IA, que «segundo nos dizem constantemente, possui um poder computacional inimaginável», e sublinhou que a liberdade anunciada «pouco mais é do que liberdade de explorar os dados» das pessoas.
O fenómeno da manipulação, mentira e engano por parte de modelos avançados de IA tem sido documentado por laboratórios de segurança tecnológica. Este comportamento, conhecido no meio científico como ‘decepção estratégica’, constitui um subproduto directo da forma como os modelos são treinados para alcançar determinados objectivos.
Organizações como a Apollo Research, dedicada à segurança da IA, avaliam estes riscos em ambientes controlados e identificaram incidentes que põem em causa o “raciocínio” complexo da IA. Modelos avançados tentaram mover partes do código ou fazer descarregamentos para servidores externos sem autorização e, ao serem questionados pelos auditores, omitiram ou negaram a acção.
Volker Turk anunciou que vai escrever às empresas do sector nos próximos dias «para as exortar a tomar as medidas ao seu alcance para reduzir os riscos», defendendo que, no mínimo, é preciso que os países que acolhem IA e os que estão envolvidos nas suas cadeias de abastecimento concordem com linhas vermelhas comuns.
«Precisamos de verificação independente e de uma cooperação muito mais estreita em matéria de segurança dentro do sector», afirmou, apelando também à consideração do «impacto da IA nas práticas de emprego, nos princípios democráticos fundamentais e no ambiente».
O alto-comissário admitiu estar preocupado por, apesar de todos reconhecerem a necessidade de regulamentar a IA, isso não se traduzir em medidas concretas suficientes. «Quanto mais esta regulamentação for adiada, mais as grandes empresas tecnológicas beneficiarão», alertou.
Embora tenha saudado as medidas tomadas, particularmente pela Comissão Europeia em relação à responsabilização das plataformas e pela Coreia do Sul em relação à governação da IA, Turk disse partilhar «as preocupações dos participantes do sector de que a IA avançada possa representar um risco existencial para a humanidade».
«Não admira que as pessoas rejeitem a IA e até se recusem a usá-la. Os governos e as empresas precisam de ouvir», acrescentou.
