Uma organização que quer desenvolver software para impedir que a inteligência artificial (IA) abuse das suas capacidades foi apresentada pelo professor Yoshua Bengio, considerado como um dos pais da IA.
«Os sistemas mais avançados já mostram sinais de autopreservação e de comportamentos enganadores […]. E isso só vai aumentar à medida que as suas capacidades e autonomia crescerem», apontou, citado em comunicado, Bengio, vencedor do Prémio Turing 2018, conhecido como Prémio Nobel da Ciência da Computação.
A sua organização sem fins lucrativos, chamada LawZero, hoje apresentada, quer ser uma resposta a estes desafios.
O objectivo passa por criar software que impeça a IA de abusar das suas capacidades.
A LawZero quer também desenvolver IA com autonomia limitada para a investigação científica.
A organização conta agora com mais de 15 investigadores e recebeu várias contribuições financeiras, incluindo da instituição de solidariedade Schmidt Sciences, fundada pelo antigo presidente executivo da Google, Eric Schmidt, e pela sua mulher, Wendy.
