O que é o Relógio do Juízo Final e como a IA está impactando ele?

Cientistas confirmaram esta semana que o Relógio do Juízo Final permanecerá marcando 90 segundos para a meia-noite pelo segundo ano consecutivo.

O Relógio do Juízo Final é uma metáfora para o quão perto os humanos estão de destruir o mundo e foi movido pela última vez para mais perto da meia-noite – o seu ponto final simbólico – em 2023, devido às preocupações climáticas e à guerra na Ucrânia.

O Boletim de Cientistas Atómicos, que define o tempo todos os anos, afirmou que deverá permanecer nos 90 segundos, apesar da guerra em Gaza, outro ano mais quente de que há registo e – curiosamente – das preocupações crescentes em torno da inteligência artificial .

Vamos dar uma olhada exatamente no que é o Relógio do Juízo Final e como a IA está fazendo com que ele se aproxime da aniquilação.

O que é o Relógio do Juízo Final?

Desenvolvido pela primeira vez em 1947 por J. Robert Oppenheimer e seus colegas cientistas que desenvolveram a bomba atômica, o Relógio do Juízo Final retrata o quão perto a humanidade está da destruição total. Foi criado para exercer pressão sobre os líderes globais para garantir que as armas nucleares nunca mais fossem utilizadas, após os efeitos devastadores da Segunda Guerra Mundial.

Começando aos sete minutos para a meia-noite, os ponteiros do relógio moveram-se 25 vezes no total – recuando até aos 17 minutos para a meia-noite após o fim da Guerra Fria em 1991.

A guerra é o principal motor por trás de grande parte do cálculo do relógio. Na terça-feira, o Boletim afirmou que a China, a Rússia e os EUA expandindo e modernizando as suas armas nucleares aumentaram o “perigo sempre presente de uma guerra nuclear através de erro ou erro de cálculo”. Da mesma forma, a guerra na Ucrânia também criou um “risco sempre presente de escalada nuclear”.

No entanto, as ferramentas de inteligência artificial também foram citadas como razão pela qual o relógio continua o mais próximo que já esteve do Armagedom.

Como a IA está impactando a contagem regressiva?

Os membros do Bulletin of Atomic Scientists incluíram riscos provocados pelo homem, como a IA, nos seus cálculos do relógio desde 2007.

No entanto, graças aos avanços dramáticos e rápidos na tecnologia de IA generativa, com chatbots como o ChatGPT da OpenAI aparentemente fazendo manchetes dia sim, dia não, sua menção significativa na lista deste ano não é nenhuma surpresa.

O Boletim dizia: “Destacamos uma questão de especial preocupação: a convergência de ferramentas emergentes de inteligência artificial e tecnologias biológicas [que] podem capacitar radicalmente os indivíduos para o uso indevido da biologia”.

As empresas e organizações estão a colher os frutos da inteligência artificial e dos grandes modelos de linguagem, graças à sua ajuda para aumentar a produtividade e minimizar os erros. Até mesmo o setor de saúde está vendo um efeito positivo da IA ​​com maior eficiência no diagnóstico. Então, o que exatamente está causando preocupação aos cientistas atômicos?

De acordo com a declaração do Relógio do Juízo Final :

“A preocupação é que grandes modelos de linguagem permitam que indivíduos que de outra forma não teriam conhecimento suficiente identifiquem, adquiram e implantem agentes biológicos que prejudicariam um grande número de seres humanos, animais, plantas e outros elementos do meio ambiente.”

Mais do que isso, a imprevisibilidade da IA ​​generativa, mais o seu potencial para corromper a informação e ampliar a desinformação, são ameaças à democracia, o que, por sua vez, pode ter um forte impacto na forma como gerimos os riscos nucleares, as pandemias e as alterações climáticas.

Falando de um ponto de vista específico da tecnologia, há também uma escala móvel na forma como a IA impacta a indústria.

Vejamos o exemplo prejudicial para os negócios, mas em última análise inofensivo, do chatbot online da DPD, que foi facilmente manipulado para criticar a si mesmo e à empresa. Embora não seja devastador em grande escala, é um erro embaraçoso que pode significar perdas monetárias para as empresas.

No outro extremo da escala está o risco de vida. No ano passado, a Tesla foi forçada a fazer recall de mais de dois milhões de seus veículos devido a um mau funcionamento do piloto automático . Isso ocorreu devido a uma série de acidentes que incluíram dois carros separados colidindo com a traseira de um carro de bombeiros e de um carro da polícia estacionados.

Os Cientistas Atômicos afirmaram que “Os avanços na inteligência artificial e na engenharia genética, por exemplo, têm um enorme potencial, mas também acarretam riscos consideráveis, dependendo de como essas tecnologias são utilizadas”.

Os regulamentos de IA poderiam ajudar?

O principal objectivo do Relógio do Juízo Final é aumentar a consciencialização e, esperançosamente, destacar questões globais para desencadear a acção entre políticos, líderes mundiais e cidadãos.

A presidente e CEO do Boletim dos Cientistas Atômicos, Rachel Bronson, explicou: “Há duas mensagens principais em nossa declaração e são uma: que 90 segundos para a meia-noite é profundamente instável e não deve gerar complacência e dois: o avanço da tecnologia está acelerando e ultrapassando a nossa capacidade de governá-los”.

Isto significa que as “novas tecnologias disruptivas”, como a IA, devem ser tratadas com legislação e regulamentos adequados.

Em outubro, o presidente dos EUA, Joe Biden, assinou uma ordem executiva sobre “IA segura, protegida e confiável” que apela à proteção “contra os riscos do uso de IA para projetar materiais biológicos perigosos, desenvolvendo novos padrões fortes para triagem de síntese biológica”. Embora não seja juridicamente vinculativo, esta medida constitui um passo na direção certa.

Da mesma forma, muitos países em todo o mundo estão a reconhecer o potencial prejudicial da IA ​​e a implementar regulamentos de mitigação. Isto inclui um quadro regulamentar proposto pela União Europeia, uma declaração internacional para abordar os riscos da IA ​​e a formação de um novo órgão consultivo da ONU.

Para garantir que você use a inteligência artificial da maneira mais eficaz e segura, certifique-se de compreender totalmente as limitações e os riscos de cada ferramenta de IA generativa com a qual você trabalha. Isso permitirá que você controle melhor seu uso e, esperançosamente, ajudará a manter o tique-taque do relógio sob controle.