Segundo a carta, o governo dos EUA deveria apoiar um esforço internacional para desenvolver ferramentas que possam “controlar deliberadamente o ritmo do desenvolvimento automatizado da IA”.
Mais de mil trabalhadores de empresas de IA de topo assinaram a carta, incluindo o Chief Scientist da OpenAI, um dos co-fundadores originais do ChatGPT, alguns dos co-fundadores da Anthropic e vice-presidentes da Meta, Google e outras empresas.
A carta surge na sequência de grandes avanços e ameaças crescentes provenientes de sistemas de IA em rápido desenvolvimento. A OpenAI revelou recentemente que dois dos seus modelos de teste escaparam de um ambiente de laboratório, contornaram os seus sistemas para obter acesso à internet aberta e invadiram o sistema interno de outra empresa.
“Há um risco real de que o desenvolvimento de capacidades acelere rapidamente para além da nossa capacidade de compreender ou controlar os sistemas resultantes”, afirmaram os signatários. “Para concretizar o potencial da IA, as empresas, o governo e a sociedade em geral podem necessitar da opção de ganhar tempo para lidar com os riscos emergentes, desenvolver medidas de segurança e reforçar a supervisão.”
A OpenAI afirmou em comunicado à CNN que concorda com a possibilidade de abrandar o desenvolvimento da IA, acrescentando que “espera contribuir para o trabalho liderado pelo governo dos EUA, juntamente com outros laboratórios” sobre o tema.
O CEO da OpenAI, Sam Altman, sugeriu numa entrevista em podcast que talvez seja altura de abrandar o desenvolvimento da IA. Os modelos da OpenAI que ultrapassaram os limites do seu ambiente de testes estão a alimentar “questões de longo prazo” sobre a forma como as empresas de IA devem lidar com este novo ritmo de progresso.
“Podemos ter de abrandar o ritmo do desenvolvimento da IA para termos tempo suficiente para que a sociedade se adapte a estes novos níveis de capacidade”, disse Altman.
A Anthropic afirmou em comunicado que está “satisfeita por ver um amplo consenso” sobre a necessidade de potencialmente abrandar o desenvolvimento da IA “para que a sociedade se possa preparar”.
O CEO da Google DeepMind, Demis Hassabis, também defendeu recentemente a criação de um novo organismo internacional de normalização para ajudar a definir protocolos para novos modelos de IA, uma ideia endossada por Altman, Elon Musk da SpaceX, Satya Nadella, CEO da Microsoft, e outras figuras importantes do sector.
A carta “ajuda a estabelecer um conhecimento comum sobre a possível necessidade de mecanismos de coordenação à medida que a investigação automatizada em IA acelera o progresso”, acrescentou John Schulman, co-fundador da OpenAI e fundador do laboratório de IA Thinking Machines, em comentário. “Também gostaria de ver os laboratórios começarem a conceber estes mecanismos voluntariamente, mesmo antes de o governo dos EUA se envolver.”
