MIT: O factor humano na tomada de decisão baseada em IA

A Inteligência Artificial está agora enraizada nos processos de tomada de decisões estratégicas das organizações. Mas para tirar partido do seu potencial, as empresas precisam de uma abordagem centrada no ser humano.

Por Philip Meissner e Christoph Keding, MIT Sloan Management Review

Há cinco anos, menos de 10% das grandes empresas tinham adoptado a aprendizagem automática ou outras formas de Inteligência Artificial (IA), mas actualmente 80% delas fazem uso da tecnologia. Quer seja a Amazon a integrar algoritmos nos seus processos de recrutamento, ou a Walmart a usá-la para decisões sobre linhas de produtos, esses exemplos mostram que o uso da IA transcende agora a mera automatização de processos e que está cada vez mais a ser usada para aumentar os processos de tomada de decisão a todos os níveis, incluindo na gestão de topo.

Na administração, as empresas podem usar o poder da IA para analisar informações, reconhecer padrões complexos e até obter conselhos sobre questões estratégicas. Esta tecnologia preditiva ajuda os executivos a lidar com a crescente complexidade das escolhas estratégicas, oferecendo novas perspectivas e ideias para consideração, o que contribui para que as organizações ganhem vantagem competitiva.

Nos processos de decisão com recurso à IA, onde os algoritmos fornecem sugestões e informações, os executivos ainda têm a última palavra a dizer. A Salesforce, por exemplo, usa o seu próprio programa de IA, chamado Einstein, para ajudar os líderes a tomar decisões importantes em reuniões a nível executivo. Segundo o visionário fundador e CEO da empresa, Marc Benioff, os processos de decisão da empresa mudaram inteiramente desde que a IA foi introduzida. A orientação do Einstein, quer sobre o desempenho de diferentes regiões ou produtos, quer sobre novas oportunidades de negócio, ajudou a reduzir significativamente o enviesamento nas reuniões e a diminuir discussões impulsionadas pela política ou por objectivos pessoais entre os membros da equipa de gestão de topo.

A nossa investigação revela que este filtro humano faz toda a diferença nas decisões das organizações baseadas em IA. A análise de dados mostra que não existe uma resposta humana única e universal à IA. Muito pelo contrário: uma das nossas descobertas mais surpreendentes é que os indivíduos fazem escolhas inteiramente diferentes com base em contributos idênticos de IA.

Além disso, estas diferenças nas decisões baseadas na IA têm um efeito financeiro directo nas organizações. Dependendo do seu estilo de decisão particular, alguns executivos investem até 18% mais em importantes iniciativas estratégicas baseadas em conselhos idênticos da IA. Ao compreender e usar os estilos individuais de tomada de decisão dos executivos, então, as organizações podem optimizar ainda mais a utilização de IA nas suas iniciativas estratégicas e ultrapassar as falhas no discernimento humano.

Como os executivos interagem com a IA
Actualmente, as empresas conseguem automatizar processos completos de tomada de decisão e substituir autonomamente o envolvimento humano na escolha final através da integração de IA. A empresa sueca de equidade privada EQT Partners, por exemplo, usa IA para analisar propostas de investimento; 10% das suas participações foram mesmo completamente obtidas através de IA. Estas formas de integração de IA estão a crescer numa vasta gama de aplicações, incluindo a aprovação de empréstimos no Ant Group e a fixação de preços algorítmicos na Uber.

A maioria das decisões estratégicas baseadas na IA em organizações, contudo, são formas híbridas que dependem fortemente da análise humana, exigindo uma interacção executiva com o sistema baseado na IA. De facto, 87% dos gestores acreditam que essas abordagens híbridas serão a forma dominante de colaboração homem-máquina no futuro.

Como é que este elemento humano molda o resultado da decisão? As pesquisas têm mostrado que os executivos diferem substancialmente na tomada de decisões, dependendo dos seus estilos individuais – os padrões que preferem e normalmente seguem quando confrontados com uma escolha. Essas diferenças individuais baseiam-se no processamento de informação e na auto-regulação, bem como na percepção da urgência da decisão e na sua abordagem cognitiva para fazer escolhas. Os estilos de tomada de decisão tendem a induzir padrões de resposta consistentes de um indivíduo através de tarefas e situações de decisão.

Existem quatro estilos principais de tomada de decisão:

• Os decisores racionais são estruturados e lógicos na sua avaliação dos desafios estratégicos.
• Os decisores intuitivos e espontâneos confiam na sua emoção e tendem a tomar decisões por impulso.
• Os executivos dependentes procuram a assistência e o apoio dos outros quando tomam decisões.
• Os líderes hesitantes evitam a tomada de decisões.

A pesquisa realizada mostra que estas tendências moldam as decisões dos executivos de formas inesperadas quando interagem com recomendações baseadas em IA. Num estudo com 140 executivos de topo dos Estados Unidos da América (EUA), apresentámos a cada pessoa uma decisão estratégica idêntica: investir ou não numa nova tecnologia que permite procurar novas possíveis oportunidades de negócio. Os participantes foram informados de que um sistema baseado em IA responsável por avaliar oportunidades de negócio tinha recomendado o investimento na tecnologia. Por fim, perguntámos aos executivos qual a probabilidade de investirem na tecnologia e, se optassem por fazê-lo, quanto dinheiro estariam dispostos a investir. Também lhes perguntámos qual o contributo preferido da IA no processo.

Os resultados demonstram que os executivos diferem significativamente na quantidade de perspectivas de que necessitam dos sistemas baseados em IA e na probabilidade de investirem com base na recomendação do sistema. Ao mesmo tempo, os gestores de topo exigem diferentes níveis de autonomia quando fazem escolhas. Os tipos racionais parecem relutantes em perder autonomia no processo, enquanto os líderes hesitantes, que normalmente adiam a tomada de decisões, ficam satisfeitos por delegarem a responsabilidade da tomada de decisões à IA. Outros adoptam as recomendações da IA e demonstram confiança em fazer escolhas estratégicas sem o envolvimento de algoritmos.

Estes resultados sugerem que os executivos que usam a IA para tomar decisões estratégicas caem em três arquétipos baseados no seu estilo individual de tomada de decisão:

Os cépticos não seguem as recomendações baseadas na IA, preferindo controlar o processo. Estes gestores não querem tomar decisões estratégicas baseadas numa análise realizada por algo que não compreendem totalmente. Os cépticos são eles próprios muito analíticos e precisam de compreender pormenores antes de se comprometerem no processo de decisão. Quando usam a IA, os cépticos podem cair numa falsa ilusão de controlo, o que os leva a confiar demasiado no seu próprio julgamento e a subestimar a IA.

Os que interagem equilibram a sua própria percepção e os conselhos do algoritmo. Estão abertos à utilização de IA, mas não confiam inteiramente nela. Estes líderes vêem os contributos da IA como uma ferramenta entre muitas à sua disposição quando fazem escolhas importantes. Quando estão disponíveis análises baseadas na IA, estão dispostos a confiar e a tomar decisões com base nestas recomendações.

Os que delegam transferem largamente a sua autoridade decisória para a IA a fim de reduzir a sua percepção de risco individual. Para estes executivos, a utilização de IA aumenta significativamente a velocidade do processo de tomada de decisão estratégica e pode quebrar um potencial impasse. No entanto, podem também usar indevidamente a IA para evitar a responsabilidade pessoal; podem confiar nas suas recomendações como apólice de seguro pessoal no caso de algo correr mal. Esta mudança de risco do gestor para a máquina pode levar a riscos injustificados para a empresa.

Estes diferentes arquétipos de tomada de decisão mostram que a qualidade da própria recomendação da IA é apenas metade da equação na avaliação da qualidade da tomada de decisão baseada em IA nas organizações. A forma como os executivos compreendem e agem com base neste conselho é igualmente importante. Como podem as empresas optimizar a interacção entre a IA e o discernimento humano?