¿Qué es el reloj del fin del mundo y cómo le afecta la IA?

Los científicos han confirmado esta semana que el Reloj del Juicio Final permanecerá a 90 segundos de la medianoche por segundo año consecutivo.

El Reloj del Juicio Final es una metáfora de lo cerca que están los seres humanos de destruir el mundo y se acercó por última vez a la medianoche (su punto final simbólico) en 2023, debido a las preocupaciones climáticas y la guerra en Ucrania.

El Boletín de Científicos Atómicos, que fija el tiempo cada año, ha declarado que se mantendrá en 90 segundos a pesar de la guerra en Gaza, otro año más caluroso registrado y, curiosamente, las crecientes preocupaciones en torno a la inteligencia artificial .

Echemos un vistazo a qué es exactamente el Reloj del Juicio Final y cómo la IA está haciendo que se acerque más a la aniquilación.

¿Qué es el reloj del fin del mundo?

Desarrollado por primera vez en 1947 por J. Robert Oppenheimer y sus colegas científicos que desarrollaron la bomba atómica, el Reloj del Juicio Final muestra lo cerca que está la humanidad de la extinción total. Fue creado para presionar a los líderes mundiales para que se aseguren de que nunca se vuelvan a utilizar armas nucleares, tras los efectos devastadores de la Segunda Guerra Mundial.

A partir de los siete minutos para la medianoche, las manecillas del reloj se han movido 25 veces en total, incluso retrocediendo a 17 minutos para la medianoche después del final de la Guerra Fría en 1991.

La guerra es el factor clave detrás de gran parte de los cálculos del reloj. El martes, el Boletín afirmó que la expansión y modernización de China, Rusia y Estados Unidos de sus armas nucleares aumentaba el “peligro siempre presente de una guerra nuclear por error o error de cálculo”. De manera similar, la guerra en Ucrania también ha creado un “riesgo siempre presente de escalada nuclear”.

Sin embargo, las herramientas de inteligencia artificial también fueron citadas como una de las razones por las que el reloj sigue estando más cerca que nunca del Armagedón.

¿Cómo está afectando la IA a la cuenta atrás?

Los miembros del Boletín de Científicos Atómicos han incluido riesgos provocados por el hombre, como la IA, en sus cálculos de reloj desde 2007.

Sin embargo, gracias a los espectaculares y rápidos avances en la tecnología de IA generativa, con chatbots como ChatGPT de OpenAI aparentemente apareciendo en los titulares cada dos días, su importante mención en la lista de este año no es una sorpresa.

El Boletín decía: “Destacamos un tema de especial preocupación: la convergencia de herramientas de inteligencia artificial emergentes y tecnologías biológicas [que] pueden empoderar radicalmente a los individuos para hacer un mal uso de la biología”.

Las empresas y organizaciones están cosechando los frutos de la inteligencia artificial y los grandes modelos de lenguaje, gracias a su ayuda para aumentar la productividad y minimizar los errores. Incluso la industria de la salud está viendo un efecto positivo de la IA con una mayor eficiencia en el diagnóstico. Entonces, ¿qué es exactamente lo que preocupa a los científicos atómicos?

Según la declaración del Reloj del Juicio Final :

"La preocupación es que los grandes modelos de lenguaje permitan a individuos que de otro modo carecen de conocimientos suficientes identificar, adquirir y desplegar agentes biológicos que dañarían a un gran número de humanos, animales, plantas y otros elementos del medio ambiente".

Más que eso, la imprevisibilidad de la IA generativa, además de su potencial para corromper la información y magnificar la desinformación, son amenazas a la democracia, que a su vez pueden tener un gran impacto en la forma en que gestionamos los riesgos nucleares, las pandemias y el cambio climático.

Hablando desde un punto de vista específico de la tecnología, existe una escala variable en cómo la IA también impacta a la industria.

Tomemos el ejemplo malo para el negocio, pero en última instancia inofensivo, del chatbot en línea de DPD, que fue fácilmente manipulado para criticarse a sí mismo y a la empresa. Si bien no es devastador a gran escala, es un error vergonzoso que puede significar pérdidas monetarias para las empresas.

En el otro extremo de la escala está el riesgo para la vida. El año pasado, Tesla se vio obligada a retirar más de dos millones de sus vehículos debido a un mal funcionamiento del piloto automático . Esto se debió a una serie de accidentes que incluyeron dos autos separados que chocaron contra la parte trasera de un camión de bomberos estacionado y un auto de policía.

Los Atomic Scientists afirmaron que “los avances en la inteligencia artificial y la ingeniería genética, por ejemplo, tienen un enorme potencial, pero también conllevan riesgos considerables dependiendo de cómo se utilicen estas tecnologías”.

¿Podrían ayudar las regulaciones sobre IA?

El principal objetivo del Doomsday Clock es crear conciencia y, con suerte, resaltar los problemas globales para impulsar la acción entre los políticos, los líderes mundiales y los ciudadanos.

La presidenta y directora ejecutiva del Bulletin of the Atomic Scientists, Rachel Bronson, explicó: “Hay dos mensajes clave en nuestra declaración y son uno: que 90 segundos para la medianoche es profundamente inestable y no debe generar complacencia y dos: el avance de la tecnología se está acelerando. y superando nuestra capacidad para gobernarlos”.

Esto significa que las “nuevas tecnologías disruptivas”, como la IA, deben manejarse con legislación y regulaciones adecuadas.

En octubre, el presidente de Estados Unidos, Joe Biden, firmó una orden ejecutiva sobre “IA segura y confiable” que exige protección “contra los riesgos de usar IA para diseñar materiales biológicos peligrosos mediante el desarrollo de nuevos estándares sólidos para el análisis de síntesis biológica”. Aunque no es jurídicamente vinculante, esta medida es un paso en la dirección correcta.

De manera similar, muchos países en todo el mundo están reconociendo el potencial dañino de la IA y están implementando regulaciones para mitigarlo. Esto incluye un marco regulatorio propuesto por la Unión Europea, una declaración internacional para abordar los riesgos de la IA y la formación de un nuevo organismo asesor de la ONU.

Para asegurarse de utilizar la inteligencia artificial de la manera más efectiva y segura personalmente, asegúrese de comprender completamente las limitaciones y riesgos de cada herramienta de IA generativa con la que trabaje. Esto le permitirá controlar mejor su uso y, con suerte, le ayudará a mantener a raya el tictac del reloj.