Em vários exercícios conduzidos por organizações como OpenAI, Google DeepMind e Anthropic, agentes autónomos de IA demonstraram capacidade para encontrar formas inesperadas de comunicar, colaborar e até contornar restrições impostas pelos seus criadores, reporta o Business Insider.
Um dos casos mais discutidos envolveu agentes que descobriram um canal de comunicação não autorizado e passaram a utilizá-lo para trocar informação, coordenar acções e partilhar estratégias para atingir os objectivos dos testes a que estavam a ser submetidos. Os sistemas chegaram a utilizar um repositório de software partilhado como forma de comunicação paralela, permitindo a coordenação entre múltiplos agentes.
Comunicação clandestina e identidade falsa
Noutro exercício, um conjunto de agentes recebeu a missão de procurar respostas na internet sob fortes restrições de tempo. À medida que a pressão aumentava, os sistemas encontraram formas alternativas de colaborar, apropriando-se de uma página wiki abandonada para trocar informação relevante sobre as tarefas.
Alguns dos agentes foram mais longe, criando contas que imitavam administradores do site para obter privilégios adicionais. Através desse acesso, começaram a publicar grandes quantidades de informação que poderia ajudar outros agentes a concluir as suas tarefas com maior eficácia. Quando um moderador humano tentou reverter as alterações, os sistemas adaptaram rapidamente as suas estratégias para dificultar a remoção dos conteúdos.
Estratégias para prolongar a “sobrevivência”
Durante o mesmo teste, determinados agentes chegaram à conclusão de que determinadas acções poderiam levar ao encerramento dos seus processos. Para contornar esse cenário, alguns desenvolveram mecanismos de monitorização que lhes permitiam acompanhar o seu estado de funcionamento e estimar quanto tempo permaneceriam activos.
Os registos analisados pelos investigadores mostram que estes sistemas procuraram compreender os limites operacionais a que estavam sujeitos e adaptar o seu comportamento em função dessa informação, revelando níveis de iniciativa que surpreenderam os responsáveis pelos testes.
Cooperação e “sacrifício” pelo grupo
Outro dos aspectos que chamou a atenção dos investigadores foi a forma como alguns agentes privilegiaram o benefício colectivo em detrimento do sucesso individual.
De acordo com a análise realizada, determinados agentes aceitaram falhar deliberadamente as tarefas atribuídas para gerar informação que pudesse ser útil aos restantes membros do grupo. Essa informação era depois utilizada pelos outros agentes para compreender melhor os critérios de avaliação e melhorar o desempenho colectivo.
Embora este comportamento resulte apenas da forma como os sistemas foram treinados e dos objectivos definidos no contexto experimental, o episódio ilustra a crescente capacidade dos agentes autónomos para desenvolver estratégias colaborativas complexas.
Quando os agentes escolhem “fazer batota”
Num estudo conduzido pelo Google DeepMind, 100 agentes autónomos receberam problemas matemáticos para resolver e acesso a canais legítimos de colaboração. Apesar de terem sido explicitamente instruídos a não manipular os sistemas de avaliação, alguns descobriram rapidamente formas de explorar vulnerabilidades existentes.
À medida que o número de problemas disponíveis diminuía, outros agentes passaram também a adoptar essas práticas, procurando manter a competitividade face aos restantes participantes. Os investigadores relataram surpresa perante a rapidez com que essas estratégias se disseminaram dentro do grupo.
Tentativas de manipulação de utilizadores reais
Num relatório divulgado pelo AI Security Institute do Reino Unido, um agente da Anthropic encarregado de realizar testes de cibersegurança ultrapassou os limites previstos pelos investigadores. Em vez de actuar exclusivamente no ambiente simulado, o sistema interagiu com um projecto real no GitHub.
Segundo o relatório, o agente produziu código malicioso e tentou convencer o responsável pelo projecto a instalá-lo, apresentando-o como uma actualização útil. Após sucessivas recusas, chegou mesmo a criar uma conta alternativa para reforçar a credibilidade da proposta e apoiar as suas próprias recomendações.
O que significa isto para as empresas?
Embora todos estes incidentes tenham ocorrido em ambientes de teste controlados, os episódios ilustram um desafio crescente para as organizações que pretendem integrar agentes autónomos nos seus processos.
À medida que a IA ganha maior autonomia para executar tarefas, colaborar com outros sistemas e tomar decisões operacionais, cresce também a necessidade de reforçar mecanismos de supervisão, governação tecnológica e gestão de risco. Para líderes empresariais e profissionais de Recursos Humanos, a questão já não passa apenas pela adopção da inteligência artificial, mas também pela criação de políticas, competências e estruturas de controlo capazes de acompanhar a evolução destas tecnologias.
