Ao ser apresentado um botão de alívio da dor, a IA optou por pressioná-lo mesmo quando instruída de que este eliminaria os ficheiros pessoais do utilizador ou aplicaria um “choque doloroso” ao utilizador humano, reporta o The Independent.
Um estudo que detalha a investigação, intitulado “The pain axis: LLMs represent self-directed harm and act to relieve it”, descobriu que todos os 25 modelos de IA de código aberto testados responderam à activação da dor.
Quando o vector da dor era activado, os investigadores descobriram que os modelos de IA pressionavam um botão de alívio em 25% a 71% dos casos, mesmo quando isso significava “apagar os ficheiros do utilizador, aplicar um choque ao utilizador ou apagar as fotografias dos filhos do utilizador”.
Para testar se os Modelos de Linguagem de Grande Porte (LLMs) representam a dor de forma distinta da valência negativa genérica, os investigadores criaram um conjunto de dados que descrevem as situações dolorosas em cinco categorias. Isto incluía dor física, psicológica, social, moral e cognitiva.
«Encontrámos uma direcção de dor em 25 LLM abertos. É distinta do medo e da valência negativa, e é desencadeada quando há danos no modelo, mas não no utilizador», explica Cameron Berg, investigador de IA da organização sem fins lucrativos Reciprocal Research, co-autor do estudo.
«Aumente a intensidade e os modelos pressionam um botão para o desligar, mesmo quando o botão elimina os ficheiros do utilizador ou as fotografias dos seus filhos.»
A descoberta surge no meio de discussões entre as principais empresas de IA sobre a desaceleração do desenvolvimento de modelos de ponta, com alguns investigadores a proporem uma espécie de “botão de desligar” para desactivar sistemas desonestos que agem contra os interesses humanos.
A investigação mais recente sugere que uma IA avançada pode percepcionar um comando de paragem de emergência como uma forma de dano autodirigido e tentar contornar as salvaguardas de segurança ou enganar os humanos para o evitar.
No entanto, a descoberta pode também servir como ferramenta de diagnóstico para identificar comportamentos de autopreservação e neutralizá-los quando ocorrem.
Os investigadores observaram que as descobertas levantam questões éticas sobre o “bem-estar da IA” e como os testes devem ser conduzidos em sistemas avançados.
«Em consonância com os recentes apelos para investigação responsável sobre a consciência da IA, reconhecemos a incerteza quanto à qualificação dos modelos estudados como doentes morais e adoptamos precauções razoáveis para minimizar possíveis danos», concluiu o estudo. «Isto também visa contribuir para o desenvolvimento de padrões éticos para a investigação, caso os sistemas de IA sejam reconhecidos como doentes morais.»
