Chegou a altura de considerar “desligar” os sistemas de IA, alerta ex-CEO da Google

Recentemente, o ex-CEO da Google, Eric Schmidt, alertou que, quando um sistema informático chega a um ponto em que se pode auto-aperfeiçoar, é preciso «pensar seriamente em desligá-lo», noticia a Axios Login.

A corrida multifacetada da Inteligência Artificial está longe da meta, mas, em apenas alguns anos, os limites da área foram expandidos exponencialmente, gerando admiração e preocupação.

As regulamentações estão em constante mudança, mas as empresas continuam a avançar. «Nunca vi inovação a esta escala», disse Schmidt no programa “This Week”, da ABC e ao mesmo tempo que celebrou «notáveis ​​conquistas humanas», alertou para os perigos imprevistos do desenvolvimento desenfreado.

«Em breve, poderemos ter computadores a funcionar sozinhos, a decidir o que querem fazer», disse. E quando o sistema começar a «auto-melhorar», alertou que pode ser altura de considerar desligá-lo. Questionado sobre se um sistema poderoso poderia conter os esforços para o desligar, Schmidt respondeu ao entrevistador: «Teoricamente, é melhor termos alguém com a mão na tomada.»

E acrescentou: «O poder desta inteligência significa que cada pessoa terá o equivalente a um polímata no bolso. E simplesmente não sabemos o que significa dar este tipo de poder a cada indivíduo.»

E não está sozinho neste pensamento. Um grupo de especialistas do sector tem vindo a alertar para os riscos de apressar o desenvolvimento da IA ​​generativa. Schmidt disse à Axios no ano passado que, de acordo com alguns especialistas, os computadores que tomam as suas próprias decisões estão apenas a dois a quatro anos de distância.

Existe um consenso tanto entre apoiantes e opositores da IA ​​generativa de que os modelos mais poderosos poderiam operar com a inteligência de um aluno de doutoramento já no próximo ano. Dentro de um ou dois anos, os sistemas poderão fazer as suas próprias pesquisas, realçou Schmidt em conversa com a ABC.

Se tivesse controlo total sobre a gestão da IA ​​no mundo, Schmidt revelou que tomaria duas medidas: «A coisa mais importante que eu faria seria garantir que o Ocidente ganha», disse, sublinhando a necessidade de financiamento, hardware e mão-de-obra.

Em segundo lugar, disse que identificaria os «piores casos possíveis» e construiria um segundo sistema para monitorizar o primeiro. «Os humanos não serão capazes de policiar a IA. Mas os sistemas de IA devem ser capazes de policiar a IA.»