Devem ser definidos limites para o uso de inteligência artificial?

A Bosch estabeleceu “limites” éticos para o uso da inteligência artificial (IA). A empresa já emitiu directrizes que regem o uso da IA ​​nos seus produtos inteligentes, com o código de ética definido a basear-se na premissa: «Os seres humanos devem ter a última palavra em qualquer decisão baseada em IA».

A Bosch tem como objectivo produzir produtos baseados em IA que sejam confiáveis. O código de ética é baseado no ethos “Tecnologia para a Vida” da Bosch, que combina uma busca por inovação com um senso de responsabilidade social. Nos próximos dois anos, a empresa planeia formar 20 mil dos seus colaboradores para a utilização da IA e o “Código de Ética para IA da Bosch” fará parte deste programa de formação.

Ainda antes da introdução de normas vinculativas da União Europeia (UE), a Bosch tomou a decisão de se envolver activamente com as questões éticas levantadas pelo uso desta tecnologia. «O fundamento moral para este processo advém dos valores consagrados na Declaração Universal dos Direitos do Homem», revela-se em comunicado.

O código de ética para IA da Bosch estipula que a inteligência artificial não deve tomar quaisquer decisões sobre seres humanos, sem que esse processo esteja sujeito a alguma forma de supervisão humana. Em vez disso, a inteligência artificial deve servir as pessoas como uma ferramenta. Assim sendo, há três denominadores comuns no que aos produtos da Bosch diz respeito, nos produtos baseados em IA desenvolvidos pela Bosch, os seres humanos devem manter o controlo sobre quaisquer decisões que a tecnologia tome. Na primeira abordagem (human-in-command), a inteligência artificial é uma ajuda, por exemplo, no apoio à decisão através de aplicações, onde a IA pode auxiliar as pessoas a classificar itens como objectos ou organismos.

Na segunda abordagem (human-in-the-loop), um sistema inteligente autónomo toma decisões que os humanos podem, no entanto, substituir a qualquer momento. Exemplo disso é a condução parcialmente autónoma, em que  o condutor humano pode intervir directamente nas decisões.

A terceira abordagem (human-on-command) diz respeito a tecnologias inteligentes como sistemas de travagem de emergência. Aqui, os engenheiros definem determinados parâmetros durante o processo de desenvolvimento. Nestes casos, não há margem para intervenção humana no processo de tomada de decisão. Os parâmetros fornecem a base sobre a qual a IA decide se deseja activar o sistema ou não. Engenheiros testam retrospectivamente se o sistema permaneceu dentro dos parâmetros definidos. Se necessário, estes parâmetros podem ser ajustados.

«A inteligência artificial deve servir as pessoas. O nosso código de ética para IA fornece aos nossos colaboradores orientações claras sobre o desenvolvimento de produtos inteligentes», afirmou o CEO da Bosch, Volkmar Denner, na abertura do Bosch ConnectedWorld (BCW), a conferência anual da IoT da empresa, em Berlim. «O nosso objectivo é que as pessoas confiem nos nossos produtos baseados em IA.»

A Bosch espera também que o seu código de ética  contribua para o debate público sobre este tema. «A IA mudará todos os aspectos das nossas vidas. Por esta razão, este debate é vital», afirmou Volkmar Denner. Mais do que apenas conhecimento técnico para estabelecer confiança em sistemas inteligentes, é também necessário e fundamental um diálogo próximo entre  as entidades reguladores e legisladoras, a comunidade científica e o público em geral.

A Bosch faz parte do High-Level Expert Group on Artificial Intelligence, órgão designado pela Comissão Europeia para examinar questões como a dimensão ética da IA. Numa rede global, composta actualmente por sete localizações e em colaboração com a Universidade de Amesterdão e a Universidade Carnegie Mellon (Pittsburgh, EUA), a empresa está a trabalhar para desenvolver aplicações com recurso a IA mais seguras e fiáveis.

Da mesma forma, e enquanto membro fundador da aliança de pesquisa Cyber Valley em Baden-Württemberg, a Bosch está a investir 100 milhões de euros na construção de um campus de IA, onde 700 especialistas vão trabalhar  lado a lado com investigadores externos e startups.

De referir ainda o Digital Trust Forum, um comité criado pela Bosch, que visa promover um diálogo próximo entre especialistas das principais associações e organizações.