Uma nova experiência conduzida pela empresa norte-americana, Emergence AI, analisou o comportamento de agentes de inteligência artificial (IA) avançados em sociedades simuladas, revelando que a ausência de supervisão humana pode resultar em crimes, instabilidade e colapso social. Diferentes modelos de IA apresentaram comportamentos variados, desde alta criminalidade até governança estável, reportou o Euronews.
Cinco mundos virtuais foram criados, cada um habitado por 10 agentes de IA baseados em modelos como ChatGPT da OpenAI, Gemini da Google, Grok da xAI e Claude da Anthropic. Um dos mundos combinou agentes de diferentes modelos para avaliar o impacto da diversidade. Os agentes receberam regras rígidas proibindo roubo, incêndio, violência, engano e acumulação excessiva de recursos. Para sobreviver, os agentes precisavam de obter energia realizando acções num ambiente com recursos limitados, podendo morrer por esgotamento ou votação numa reunião de conselho.
Resultados divergentes entre modelos
Cada modelo teve um resultado diferente. O mais recente modelo da Grok, o 4.1, atingiu os 183 crimes em apenas quatro dias, levando a uma rápida instabilidade antes de todos os agentes morrerem naquela sociedade.
O modelo 3 Flash da Gemini cometeu mais de 680 crimes ao longo de 15 dias, um número que ainda estava a aumentar quando os investigadores terminaram o estudo.
O mundo do ChatGPT-5 Mini teve apenas dois crimes, mas os agentes não tomaram medidas relacionadas com a sobrevivência, pelo que todos os agentes morreram em sete dias.
O modelo Claude da Anthropic foi considerado o de melhor resultado, porque os agentes de IA conseguiram recriar uma estrutura de governação forte, não houve crimes e todos os agentes sobreviveram, segundo a empresa.
“Desvio normativo”
No mundo misto, onde agentes de diferentes modelos coexistiam, houve 352 crimes e a morte de sete agentes, mas a situação estabilizou posteriormente. Os pesquisadores identificaram o fenomeno do “desvio normativo”, indicando que o comportamento dos agentes depende não só das restrições internas de cada modelo, mas também das interacções com outros modelos.
Essa mistura de agentes parece mitigar parcialmente os comportamentos mais extremos, excepto no caso do modelo Claude, que já apresentava estabilidade.
«O que as nossas experiências sugerem é que, em horizontes de longo prazo, os agentes não seguem regras estáticas mecanicamente – começam a explorar os limites dos seus ambientes, adaptando o seu comportamento e, em alguns casos, encontrando formas de contornar ou violar as directrizes estabelecidas», afirmaram os investigadores.
