Was ist die Weltuntergangsuhr und wie wirkt sich KI darauf aus?

Wissenschaftler haben diese Woche bestätigt, dass die Weltuntergangsuhr zum zweiten Mal in Folge auf 90 Sekunden vor Mitternacht bleiben wird.

Die Weltuntergangsuhr ist eine Metapher dafür, wie nah der Mensch an der Zerstörung der Welt ist. Sie wurde zuletzt im Jahr 2023 aufgrund von Klimabedenken und dem Krieg in der Ukraine näher an Mitternacht – ihren symbolischen Endpunkt – gerückt.

Das Bulletin of Atomic Scientists, das die Zeit jedes Jahr festlegt, hat erklärt, dass sie trotz des Krieges in Gaza, einem weiteren heißesten Jahr seit Beginn der Aufzeichnungen und – interessanterweise – wachsenden Bedenken hinsichtlich künstlicher Intelligenz bei 90 Sekunden bleiben soll.

Werfen wir einen Blick darauf, was genau die Weltuntergangsuhr ist und wie die KI sie der Vernichtung näher bringt.

Was ist die Weltuntergangsuhr?

Die Weltuntergangsuhr wurde erstmals 1947 von J. Robert Oppenheimer und seinen Kollegen, die die Atombombe entwickelten, entwickelt und zeigt, wie nahe die Menschheit der völligen Auslöschung steht. Es wurde geschaffen, um Druck auf die führenden Politiker der Welt auszuüben, um sicherzustellen, dass nach den verheerenden Auswirkungen des Zweiten Weltkriegs nie wieder Atomwaffen eingesetzt werden.

Von sieben Minuten vor Mitternacht haben sich die Zeiger der Uhr insgesamt 25 Mal bewegt – nach dem Ende des Kalten Krieges im Jahr 1991 sind sie sogar auf 17 Minuten vor Mitternacht zurückgefallen.

Krieg ist der entscheidende Treiber für viele Berechnungen der Uhr. Am Dienstag hieß es im Bulletin, dass China, Russland und die USA durch die Ausweitung und Modernisierung ihrer Atomwaffen die „allgegenwärtige Gefahr eines Atomkriegs durch Fehler oder Fehleinschätzungen“ erhöht hätten. Ebenso habe der Krieg in der Ukraine ein „allgegenwärtiges Risiko einer nuklearen Eskalation“ geschaffen.

Allerdings wurden auch Werkzeuge der künstlichen Intelligenz als Grund dafür angeführt, dass die Uhr Harmagedon so nah wie nie zuvor war.

Wie wirkt sich KI auf den Countdown aus?

Mitglieder des Bulletin of Atomic Scientists beziehen seit 2007 vom Menschen verursachte Risiken wie KI in ihre Uhrenberechnungen ein.

Dank der dramatischen und schnellen Fortschritte in der generativen KI-Technologie, bei der Chatbots wie ChatGPT von OpenAI scheinbar jeden zweiten Tag für Schlagzeilen sorgen, ist es jedoch keine Überraschung, dass es in der diesjährigen Liste eine bedeutende Erwähnung findet.

Im Bulletin hieß es: „Wir heben ein Thema hervor, das besondere Sorge bereitet: die Konvergenz neuer Werkzeuge der künstlichen Intelligenz und biologischer Technologien, die den Einzelnen radikal dazu befähigen könnten, die Biologie zu missbrauchen.“

Unternehmen und Organisationen profitieren von künstlicher Intelligenz und großen Sprachmodellen, da sie dazu beitragen, die Produktivität zu steigern und Fehler zu minimieren. Sogar die Gesundheitsbranche sieht einen positiven KI-Effekt mit gesteigerter Effizienz bei der Diagnose. Was genau gibt den Atomwissenschaftlern Anlass zur Sorge?

Laut der Doomsday Clock-Erklärung :

„Die Sorge besteht darin, dass große Sprachmodelle es Personen ermöglichen, denen es sonst an ausreichendem Know-how mangelt, biologische Wirkstoffe zu identifizieren, zu erwerben und einzusetzen, die einer großen Zahl von Menschen, Tieren, Pflanzen und anderen Elementen der Umwelt schaden würden.“

Darüber hinaus stellen die Unvorhersehbarkeit generativer KI sowie ihr Potenzial zur Verfälschung von Informationen und zur Verbreitung von Desinformation Bedrohungen für die Demokratie dar, die wiederum erhebliche Auswirkungen darauf haben können, wie wir mit nuklearen Risiken, Pandemien und dem Klimawandel umgehen.

Aus technologiespezifischer Sicht gibt es auch sehr unterschiedliche Auswirkungen der KI auf die Branche.

Nehmen Sie das geschäftsschädigende, aber letztlich harmlose Beispiel des Online-Chatbots von DPD, der leicht manipuliert werden konnte, um sich selbst und das Unternehmen zu kritisieren. Es ist zwar nicht im großen Stil verheerend, aber ein peinlicher Fehler, der für Unternehmen finanzielle Verluste bedeuten kann.

Am anderen Ende der Skala steht die Lebensgefahr. Im vergangenen Jahr musste Tesla aufgrund einer Fehlfunktion des Autopiloten über zwei Millionen seiner Fahrzeuge zurückrufen. Grund dafür war eine Reihe von Unfällen, bei denen zwei separate Autos in das Heck eines geparkten Feuerwehrautos und eines Polizeiautos fuhren.

Die Atomic Scientists erklärten: „Fortschritte in der künstlichen Intelligenz und der Gentechnik haben beispielsweise ein enormes Potenzial, bergen aber auch erhebliche Risiken, je nachdem, wie diese Technologien eingesetzt werden.“

Könnten KI-Vorschriften helfen?

Das Hauptziel der Weltuntergangsuhr besteht darin, das Bewusstsein zu schärfen und hoffentlich globale Probleme hervorzuheben, um Politiker, Staats- und Regierungschefs der Welt und Bürger zum Handeln anzuregen.

Rachel Bronson, Präsidentin und CEO des Bulletin of the Atomic Scientists, erklärte: „Unsere Erklärung enthält zwei Schlüsselbotschaften, und zwar eine: dass 90 Sekunden vor Mitternacht zutiefst instabil sind und nicht zu Selbstzufriedenheit führen dürfen, und zweitens: Der technologische Fortschritt beschleunigt sich.“ und unsere Fähigkeit, sie zu regieren, übertrifft.“

Das bedeutet, dass „neuen disruptiven Technologien“ wie KI mit entsprechenden Gesetzen und Vorschriften begegnet werden sollte.

Bereits im Oktober unterzeichnete US-Präsident Joe Biden eine Durchführungsverordnung zu „sicherer und vertrauenswürdiger KI“, die zum Schutz „vor den Risiken des Einsatzes von KI zur Herstellung gefährlicher biologischer Materialien durch die Entwicklung strenger neuer Standards für das Screening biologischer Synthesen“ aufruft. Auch wenn dieser Schritt nicht rechtsverbindlich ist, ist er ein Schritt in die richtige Richtung.

In ähnlicher Weise erkennen viele Länder weltweit das Schadenspotenzial von KI und erlassen mildernde Vorschriften. Dazu gehören ein vorgeschlagener Regulierungsrahmen der Europäischen Union, eine internationale Erklärung zum Umgang mit KI-Risiken und die Bildung eines neuen UN-Beratungsgremiums.

Um sicherzustellen, dass Sie künstliche Intelligenz persönlich auf die effektivste und sicherste Weise nutzen, sollten Sie die Einschränkungen und Risiken jedes generativen KI-Tools, mit dem Sie arbeiten, vollständig verstehen. Dadurch können Sie deren Nutzung besser kontrollieren und hoffentlich dabei helfen, die tickende Uhr im Zaum zu halten.