Uma aliança global é indispensável para garantir uma IA ética

Por Aaron Harris, CTO da Sage

A revolução da IA já está em curso, e o seu impacto será profundo. No segundo trimestre de 2024, um recorde de 28% do investimento de capital de risco foi destinado a startups de IA. Entretanto, no universo das pequenas e médias empresas (PMEs), mais de 90% utilizarão ferramentas de IA para monitorização contínua e detecção de anomalias até 2030, de acordo com o recente estudo Vision to Industry da Sage.

Apesar do imenso potencial da IA, é fundamental proceder com cautela, assumindo um compromisso firme com considerações ética, uma vez que o seu desenvolvimento está a acontecer a um ritmo tão rápido que as leis e regulamentações não o conseguem acompanhar. Os líderes financeiros sabem disso: 72% dos inquiridos para o estudo planeiam estabelecer políticas específicas para a utilização da IA e 71% comprometem-se a realizar formação ética regular para os utilizadores de IA.

Dada a escala e o impacto da IA, este não é um desafio que uma só empresa ou país possa enfrentar. É preciso uma abordagem global e unida – liderada por decisores políticos, líderes do sector, especialistas tecnológicos e especialistas em ética – para estabelecer princípios partilhados e melhores práticas que conduzam à adopção ética da IA no sector financeiro.

É imperativo incutir boas práticas

Recorrendo a uma célebre citação do filme Jurassic Park, a personagem de Jeff Goldblum alertou: “Os vossos cientistas estavam tão preocupados em saber se conseguiam, que não pararam para pensar se deviam.” Ele referia-se à clonagem de dinossauros, mas o mesmo se aplica à IA ética, em que a tentação pode ser a de implementar a tecnologia de forma generalizada sem considerar as implicações éticas.

É vital que sejam criadas melhores práticas e estabelecidos princípios para introduzir barreiras éticas que lidem com enviesamentos e incentivem a transparência, a responsabilidade e a privacidade dos dados. Por exemplo, poderíamos criar uma ferramenta de IA que permitisse às PME classificar os clientes de acordo com a rapidez com que pagam. Mas isto poderia facilmente excluir as empresas com dificuldades e agravar o problema em vez de encontrar uma solução. Do mesmo modo, a IA poderia ser utilizada para seleccionar as candidaturas de emprego. Mas esta é uma situação óbvia onde a parcialidade iria entrar na equação.

Ao contrário de outras tecnologias inovadoras, o princípio de “mova-se rápido e quebre coisas” não se aplica à IA. É essencial que os criadores de IA sejam qualificados desde o início, para mitigar os riscos éticos associados ao seu desenvolvimento. Isso inclui: desenvolver ferramentas para detectar erros de dados, treinar a IA com dados confiáveis, utilizar conselhos consultivos e garantir equipas diversificadas. Actualmente, apenas 22% dos profissionais de IA são mulheres, e 25% se identificam como minorias raciais ou étnicas. Embora existam esforços para ampliar a diversidade, é necessário coordenar acções entre decisores políticos e líderes da indústria para avançar.

Colaboração e partilha de conhecimentos

Estas práticas não devem ser estabelecidas isoladamente. É fundamental que a comunidade de programadores de IA e de cientistas de dados una-se para dar prioridade à ética, promovendo uma cultura de transparência e responsabilidade no uso de modelos de código aberto para desenvolver e treinar algoritmos de IA e machine learning em finanças. Naturalmente, a própria colaboração deve ser efectuada de forma ética a respeitar a privacidade dos dados e que procure garantir um acesso equitativo aos recursos, de forma a evitar a concentração de poder que pode limitar a inovação e diversidade.

Ao reunirmos o nosso conhecimento, podemos construir uma IA responsável. Os modelos de código aberto oferecem a oportunidade de democratizar o desenvolvimento de IA, permitindo que programadores de diferentes origens e níveis de competências contribuam e aprendam uns com os outros, impulsionando a inovação, evitando enviesamentos e garantindo a inclusão de diversas perspectivas no desenvolvimento de IA.

IA: Uma tecnologia sem fronteiras

A regulamentação encontra-se em diferentes fases em todo o mundo. A UE tem a Lei da IA, o G7 tem os Princípios Orientadores Internacionais sobre a IA e o Código de Conduta da IA, e cada país está a implementar as suas próprias regras, e nos Estados Unidos existe uma abordagem por estado. Embora sejam passos na direcção certa, a regulamentação ainda não acompanha a rápida expansão e a facilidade de acesso a modelos de código aberto de IA.

A prioridade deve, assim, ser que os governos, os decisores políticos e os países se alinhem num conjunto coordenado de princípios fundamentais que criem o ponto de referência para uma IA ética. Iniciativas como a Declaração de Bletchley mostram que esta abordagem está a ganhar força em comparação com países que adoptam abordagens isoladas e independentes.

Uma nova era, onda a ética domina

Estamos na era da IA. Centrando-nos na IA na contabilidade, as empresas e os contabilistas estão prontos para adoptar a IA para melhorar a precisão financeira, a eficiência operacional e a tomada de decisões estratégicas, desde que as soluções sejam éticas. Acredito que o ecossistema contabilístico está pronto para assumir a responsabilidade de garantir que a IA é utilizada de forma ética, o que só será possível com uma abordagem unificada. Abordagens isoladas irão reflectir-se numa IA imprecisa e que é vista com desconfiança. A colaboração para definir estruturas éticas, regulamentações e princípios compartilhados permitirá que a IA tenha um impacto positivo no sector financeiro e nos negócios que estas equipas e empresas apoiam.