Funktioniert OpenAI auf GPT-5?

Veröffentlicht: 2023-04-17

Schnelle Antwort: Nein, OpenAI funktioniert nicht mit GPT-5 und wird es wahrscheinlich noch eine Weile nicht tun. Der kontinuierliche Fokus von OpenAI liegt auf der Verfeinerung der Fähigkeiten von GPT-4.

Bei einer kürzlichen MIT-Veranstaltung, bei der die Herausforderungen und potenziellen Gefahren von KI-Systemen diskutiert wurden, betrat der CEO und Mitbegründer von OpenAI, Sam Altman, die Bühne über eine virtuelle Videoverbindung.

Altman adressierte einen zirkulierenden offenen Brief, in dem Institutionen, einschließlich OpenAI, aufgefordert wurden, alle weiteren KI-Systeme zu pausieren, die KI-Systeme erstellen, die über die Fähigkeiten von GPT-4 hinausgehen.

Der Brief wurde von Leuten wie Elon Musk, Apple-Mitbegründer Steve Wozniak und anderen mitunterzeichnet. Sie können den Brief hier oder über das Dropdown-Menü unten lesen:

Riesen-KI-Experimente pausieren: Ein offener Brief

KI-Systeme mit menschlicher Wettbewerbsintelligenz können tiefgreifende Risiken für die Gesellschaft und die Menschheit darstellen, wie umfangreiche Forschungen zeigen und von führenden KI-Laboren anerkannt werden. Wie in den weit verbreiteten Asilomar-KI-Prinzipien dargelegt, könnte fortgeschrittene KI eine tiefgreifende Veränderung in der Geschichte des Lebens auf der Erde darstellen und sollte mit entsprechender Sorgfalt und Ressourcen geplant und verwaltet werden .

Leider findet dieses Planungs- und Managementniveau nicht statt, obwohl die KI-Labore in den letzten Monaten in einem außer Kontrolle geratenen Wettlauf um die Entwicklung und den Einsatz immer mächtigerer digitaler Köpfe gefangen waren, die niemand – nicht einmal ihre Schöpfer – verstehen kann. vorhersagen oder zuverlässig kontrollieren.

Zeitgenössische KI-Systeme werden nun bei allgemeinen Aufgaben menschen-konkurrenzfähig, und wir müssen uns fragen: Sollen wir zulassen, dass Maschinen unsere Informationskanäle mit Propaganda und Unwahrheit überfluten? Sollten wir alle Jobs wegautomatisieren, einschließlich der erfüllenden? Sollten wir nichtmenschliche Köpfe entwickeln, die uns schließlich zahlenmäßig übertreffen, überlisten, obsolet machen und ersetzen könnten? Sollten wir riskieren, die Kontrolle über unsere Zivilisation zu verlieren? Solche Entscheidungen dürfen nicht an nicht gewählte Technologieführer delegiert werden.

Leistungsstarke KI-Systeme sollten erst dann entwickelt werden, wenn wir sicher sind, dass ihre Wirkung positiv und ihre Risiken überschaubar sind. Dieses Vertrauen muss gut begründet sein und mit dem Ausmaß der potenziellen Auswirkungen eines Systems zunehmen. In der jüngsten Erklärung von OpenAI zu künstlicher allgemeiner Intelligenz heißt es: „Irgendwann kann es wichtig sein, eine unabhängige Überprüfung einzuholen, bevor mit dem Training zukünftiger Systeme begonnen wird, und für die fortschrittlichsten Bemühungen zuzustimmen, die Wachstumsrate der für die Erstellung neuer Systeme verwendeten Rechenleistung zu begrenzen Modelle.“ Sind wir uns einig. Dieser Punkt ist jetzt.

Daher fordern wir alle KI-Labore auf, das Training von KI-Systemen, die leistungsstärker als GPT-4 sind, unverzüglich für mindestens 6 Monate zu unterbrechen . Diese Pause sollte öffentlich und überprüfbar sein und alle Schlüsselakteure umfassen. Wenn eine solche Pause nicht schnell erlassen werden kann, sollten die Regierungen eingreifen und ein Moratorium einführen.

KI-Labore und unabhängige Experten sollten diese Pause nutzen, um gemeinsam eine Reihe gemeinsamer Sicherheitsprotokolle für fortschrittliches KI-Design und -Entwicklung zu entwickeln und umzusetzen, die von unabhängigen externen Experten streng geprüft und überwacht werden. Diese Protokolle sollten sicherstellen, dass Systeme, die sich an sie halten, zweifelsfrei sicher sind. Dies bedeutet keine Pause bei der KI-Entwicklung im Allgemeinen, sondern lediglich einen Rückzug aus dem gefährlichen Wettlauf zu immer größeren, unvorhersehbaren Black-Box-Modellen mit aufstrebenden Fähigkeiten.

Die KI-Forschung und -Entwicklung sollte sich neu darauf konzentrieren, die heutigen leistungsstarken, hochmodernen Systeme genauer, sicherer, interpretierbarer, transparenter, robuster, ausgerichteter, vertrauenswürdiger und loyaler zu machen.

Parallel dazu müssen KI-Entwickler mit politischen Entscheidungsträgern zusammenarbeiten, um die Entwicklung robuster KI-Governance-Systeme drastisch zu beschleunigen. Diese sollten mindestens umfassen: neue und leistungsfähige Regulierungsbehörden, die sich der KI verschrieben haben; Überwachung und Verfolgung hochleistungsfähiger KI-Systeme und großer Pools von Rechenkapazitäten; Herkunfts- und Wasserzeichensysteme, um zu helfen, echte von synthetischen zu unterscheiden und Modelllecks zu verfolgen; ein robustes Audit- und Zertifizierungs-Ökosystem; Haftung für KI-verursachte Schäden; solide öffentliche Finanzierung der technischen KI-Sicherheitsforschung; und gut ausgestattete Institutionen zur Bewältigung der dramatischen wirtschaftlichen und politischen Störungen (insbesondere der Demokratie), die KI verursachen wird.

Die Menschheit kann sich einer blühenden Zukunft mit KI erfreuen. Nachdem es uns gelungen ist, leistungsstarke KI-Systeme zu entwickeln, können wir jetzt einen „KI-Sommer“ genießen, in dem wir die Früchte ernten, diese Systeme zum klaren Nutzen aller entwickeln und der Gesellschaft die Chance geben, sich anzupassen. Die Gesellschaft hat bei anderen Technologien mit potenziell katastrophalen Auswirkungen auf die Gesellschaft eine Pause eingelegt. Das können wir hier. Lasst uns einen langen KI-Sommer genießen und nicht unvorbereitet in einen Sturz stürzen.“

Altman kritisierte, dass der Brief bequemerweise einige wichtige Details übersprang und dass eine frühere Version Gerüchte verbreitete, dass OpenAI bereits GPT-5 trainiere. Aber das wirft eine berechtigte Frage auf, oder?

Funktioniert OpenAI auf GPT-5?

Kurze Antwort: Nein

Derzeit arbeite OpenAI nicht an GPT-5 „und werde dies auch für einige Zeit nicht tun“, sagte Altman, als er den Brief adressierte. Altman behauptete, dass die Entwicklung von GPT-5 nicht auf seiner aktuellen Agenda stehe.

Altman hob jedoch den anhaltenden Fokus von OpenAI auf die Verfeinerung der Fähigkeiten von GPT-4 und die Bewältigung potenzieller Sicherheitsprobleme hervor, die im offenen Brief nicht erwähnt wurden.

Sehen Sie sich das Video mit dem Gespräch unten an:

„Wir machen andere Dinge zusätzlich zu GPT-4, von denen ich denke, dass sie alle möglichen Sicherheitsprobleme haben, die es zu beachten gilt und die in dem Schreiben völlig ausgelassen wurden“, bemerkte Altman – und bezog sich dabei auf GPT-4-Plugins, die das große Sprachmodell ermöglichen um im Internet zu surfen.

Konzentrieren wir uns vorerst auf GPT-4

Und das allein ist ein anderes Thema. Während die Möglichkeit einer GPT-5-Ankündigung in der Zukunft besteht, müssen wir uns darauf konzentrieren, wozu GPT-4 in vollem Umfang fähig ist. Wir haben noch nicht einmal alle seine Fähigkeiten gesehen.

„Da die Fähigkeiten immer ernster werden, muss die Sicherheitsbarriere höher werden“, fügte Altman hinzu. „Ich denke, dass es wirklich wichtig ist, sich mit Vorsicht und einer zunehmenden Strenge in Sicherheitsfragen zu bewegen. Der Brief ist meiner Meinung nach nicht der optimale Weg, ihn anzusprechen.“

Auch wenn sich OpenAI derzeit nicht auf das GPT-5-Training konzentriert, bedeutet das nicht, dass sie keine anderen mutigen und innovativen Tools entwickeln.

Obwohl sich OpenAI derzeit möglicherweise nicht auf GPT-5 konzentriert, sind sie aktiv an der Entwicklung verschiedener Tools beteiligt, um die Grenzen der künstlichen Intelligenz zu erweitern.

Haben Sie irgendwelche Gedanken dazu? Schreiben Sie uns unten in die Kommentare oder tragen Sie die Diskussion auf Twitter oder Facebook weiter.

Empfehlungen der Redaktion:

ChatGPT und andere Sprach-KIs sind genauso irrational wie wir
Kann ChatGPT Ihre Arbeit erledigen? OpenAI sagt ja, mindestens 19 % von Ihnen
Der ChatGPT-Fehler hat definitiv Ihre faulen Schreibgewohnheiten offenbart (aktualisiert)
Der GPT-Schreibassistent von Linkedin hilft Ihnen dabei, Ihr Profil auf den Punkt zu bringen