A Anthropic, empresa norte-americana de inteligência artificial, alertou para a possibilidade de sistemas de IA alcançarem, em breve, a capacidade de criar seus próprios sucessores de forma totalmente autónoma. Este fenómeno, conhecido como autoaperfeiçoamento recursivo, pode surgir à medida que a capacidade computacional aumenta e a IA assume um papel crescente no seu próprio desenvolvimento.
Embora a autoaperfeiçoamento recursivo possa trazer benefícios significativos para áreas como a ciência e a saúde, a Anthropic destaca que também acarreta riscos consideráveis, nomeadamente a potencial perda de controlo humano sobre os sistemas de IA. A empresa sublinha que, caso sistemas de IA sejam capazes de conceber e desenvolver inteiramente os seus sucessores, torna-se crucial garantir a sua segurança, supervisão e alinhamento comportamental.
Face a estes desafios, a Anthropic defende que seria benéfico abrandar o ritmo do desenvolvimento da inteligência artificial de ponta, permitindo que estruturas sociais e investigações sobre alinhamento tecnológico acompanhem os avanços. A empresa propõe uma colaboração global entre laboratórios e empresas para estabelecer um quadro de referência que permita uma pausa credível e coordenada no progresso da IA.
Segundo a Anthropic, essa pausa deve incluir mecanismos para verificar se os participantes cumprem a suspensão, evitando vantagens indevidas por parte de agentes mal-intencionados. Além disso, é fundamental definir claramente as condições que desencadeiam e levantam a pausa, bem como os responsáveis pela sua arbitragem.
Dados internos da empresa indicam uma rápida evolução dos seus modelos avançados. Actualmente, mais de 80% do código incorporado na base de desenvolvimento da Anthropic é gerado pelo seu sistema de IA, Claude. Este valor representa um crescimento significativo em pouco mais de um ano, já que em Fevereiro de 2025, menos de 10% do código era produzido autonomamente pelo sistema.
O cofundador da Anthropic, Jack Clark, e a directora do The Anthropic Institute, Marina Favaro, assinam o texto que detalha estas preocupações e propõe a estratégia de pausa, destacando a necessidade de preparar a sociedade para acompanhar o ritmo acelerado da inovação em inteligência artificial.
