Confiar nas escolhas da IA ​​pode enfraquecer as nossas capacidades de tomada de decisão

À medida que a inteligência artificial se infiltra cada vez mais na vida quotidiana das pessoas, também aumentam as preocupações com ela. No máximo alarmistas estão as preocupações sobre a IA se tornar desonesta e exterminar seus mestres humanos.

Mas por trás dos apelos a uma pausa no desenvolvimento da IA ​​está um conjunto de males sociais mais tangíveis.

Entre eles estão os riscos que a IA representa para a privacidade e a dignidade das pessoas e o facto inevitável de que, como os algoritmos subjacentes à IA são programados por humanos, ela é tão tendenciosa e discriminatória como muitos de nós.

Acrescente-se a falta de transparência sobre como a IA é concebida e por quem, e é fácil compreender por que tanto tempo hoje em dia é dedicado ao debate dos seus riscos, tanto quanto do seu potencial.

Mas a minha própria investigação como psicólogo que estuda a forma como as pessoas tomam decisões leva-me a acreditar que todos estes riscos são ofuscados por uma ameaça ainda mais corrupta, embora em grande parte invisível.

Ou seja, a IA está a apenas um toque de tecla de tornar as pessoas ainda menos disciplinadas e habilidosas quando se trata de decisões ponderadas.

Tomando decisões ponderadas

O processo de tomar decisões ponderadas envolve três etapas de bom senso que começam com a compreensão da tarefa ou problema que você enfrenta.

Pergunte a si mesmo: o que você precisa saber e o que você precisa fazer para tomar uma decisão que poderá defender mais tarde com credibilidade e confiança?

As respostas a essas perguntas dependem da busca ativa de informações que preencham lacunas em seu conhecimento e desafiem suas crenças e suposições anteriores.

Na verdade, é esta informação contrafactual – possibilidades alternativas que surgem quando as pessoas se libertam de certos pressupostos – que, em última análise, o equipam para defender as suas decisões quando estas são criticadas.

O segundo passo é procurar e considerar mais de uma opção ao mesmo tempo. Quer melhorar sua qualidade de vida?

Quer seja em quem você vota, nos empregos que você aceita ou nas coisas que você compra, sempre há mais de um caminho que o levará até lá.

Despender o esforço para considerar e avaliar ativamente pelo menos algumas opções plausíveis, e de uma maneira que seja honesta sobre as compensações que você está disposto a fazer entre seus prós e contras, é uma marca registrada de uma escolha ponderada e defensável.

O terceiro passo é estar disposto a adiar o encerramento de uma decisão até depois de ter feito todo o trabalho mental pesado necessário.

Não é nenhum segredo: o encerramento é bom porque significa que você deixou para trás uma decisão difícil ou importante. Mas o custo de seguir em frente prematuramente pode ser muito maior do que reservar um tempo para fazer a lição de casa.

Se você não acredita em mim, pense em todas aquelas vezes em que deixou seus sentimentos guiá-lo, apenas para se arrepender por não ter tido tempo para pensar um pouco mais.

Perigos de terceirizar decisões para IA

Nenhuma dessas três etapas é terrivelmente difícil de executar. Mas, para a maioria, também não são intuitivos. Tomar decisões ponderadas e defensáveis ​​requer prática e autodisciplina.

E é aqui que entra o dano oculto a que a IA expõe as pessoas: a IA faz a maior parte do seu “pensamento” nos bastidores e apresenta aos utilizadores respostas desprovidas de contexto e deliberação.

Pior ainda, a IA rouba das pessoas a oportunidade de praticar o processo de tomada de decisões ponderadas e defensáveis ​​por conta própria.

Considere como as pessoas abordam muitas decisões importantes hoje. Os humanos são conhecidos por serem propensos a uma ampla gama de preconceitos porque tendemos a ser frugais quando se trata de gastar energia mental.

Essa frugalidade leva as pessoas a gostarem quando decisões aparentemente boas ou confiáveis ​​são tomadas por elas. E somos animais sociais que tendem a valorizar mais a segurança e a aceitação das suas comunidades do que a sua própria autonomia.

Adicione a IA à mistura e o resultado é um ciclo de feedback perigoso: os dados que a IA extrai para alimentar os seus algoritmos são constituídos por decisões tendenciosas das pessoas que também reflectem a pressão da conformidade em vez da sabedoria do raciocínio crítico.

Mas como as pessoas gostam que as decisões sejam tomadas por elas, elas tendem a aceitar essas decisões erradas e passar para a próxima. No final, nem nós nem a IA ficamos mais sábios.

Ser atencioso na era da IA

Seria equivocado argumentar que a IA não oferecerá quaisquer benefícios à sociedade.

Muito provavelmente acontecerá, especialmente em domínios como a cibersegurança, os cuidados de saúde e as finanças, onde modelos complexos e enormes quantidades de dados precisam de ser analisados ​​de forma rotineira e rápida.

Entretanto, a maioria das nossas decisões cotidianas não exige esse tipo de poder analítico.

Mas, quer tenhamos solicitado ou não, muitos de nós já recebemos conselhos – e trabalhos realizados por – IA em ambientes que vão desde entretenimento e viagens até trabalhos escolares, cuidados de saúde e finanças.

E os designers estão trabalhando arduamente na IA de próxima geração que será capaz de automatizar ainda mais nossas decisões diárias. E isso, na minha opinião, é perigoso.

Num mundo onde o que e como as pessoas pensam já está sitiado graças aos algoritmos das redes sociais, corremos o risco de nos colocarmos numa posição ainda mais perigosa se permitirmos que a IA atinja um nível de sofisticação onde possa tomar todo o tipo de decisões sobre nosso nome.

Na verdade, devemos a nós próprios resistir ao canto da sereia da IA ​​e retomar a propriedade do verdadeiro privilégio – e responsabilidade – de ser humano: ser capaz de pensar e escolher por nós próprios. Nós nos sentiremos melhor e, mais importante, seremos melhores se o fizermos.

Tem alguma opinião sobre isso? Deixe-nos uma linha abaixo nos comentários ou leve a discussão para nosso Twitter ou Facebook.

Recomendações dos Editores:

• Por que o controle de tráfego aéreo ainda precisa do toque humano na era da IA
• ChatGPT e IA de outras linguagens são tão irracionais quanto nós
• Como os alunos estão aproveitando a IA para controlar suas habilidades em Python
• Corridas de automóveis autônomas impulsionam a IA para carros sem motorista mais seguros

Nota do Editor: Este artigo foi escrito por Joe Árvai, Dana e David Dornsife Professor de Psicologia e Diretor do Wrigley Institute for Environment and Sustainability, USC Dornsife College of Letters, Arts and Sciences, e republicado de The Conversation sob uma licença Creative Commons. Leia o artigo original.