Apakah OpenAI bekerja pada GPT-5?

Sistem AI kontemporer sekarang menjadi persaingan manusia dalam tugas-tugas umum, dan kita harus bertanya pada diri sendiri: Haruskah kita membiarkan mesin membanjiri saluran informasi kita dengan propaganda dan kebohongan? Haruskah kita mengotomatiskan semua pekerjaan, termasuk yang memuaskan? Haruskah kita mengembangkan pikiran bukan manusia yang pada akhirnya mungkin melebihi jumlah, mengakali, usang, dan menggantikan kita? Haruskah kita mengambil risiko kehilangan kendali atas peradaban kita? Keputusan semacam itu tidak boleh didelegasikan kepada pemimpin teknologi yang tidak dipilih.

Sistem AI yang kuat harus dikembangkan hanya setelah kami yakin bahwa efeknya akan positif dan risikonya dapat dikelola. Keyakinan ini harus dibenarkan dengan baik dan meningkat dengan besarnya efek potensial sistem. Pernyataan OpenAI baru-baru ini tentang kecerdasan umum buatan, menyatakan bahwa “Pada titik tertentu, mungkin penting untuk mendapatkan tinjauan independen sebelum mulai melatih sistem di masa depan, dan untuk upaya paling maju untuk setuju membatasi laju pertumbuhan komputasi yang digunakan untuk membuat yang baru. model.” Kami setuju. Titik itu sekarang.

Oleh karena itu, kami mengimbau semua lab AI untuk segera menghentikan sementara pelatihan sistem AI yang lebih kuat dari GPT-4 setidaknya selama 6 bulan . Jeda ini harus bersifat publik dan dapat diverifikasi, serta menyertakan semua aktor utama. Jika jeda seperti itu tidak dapat diberlakukan dengan cepat, pemerintah harus turun tangan dan melembagakan moratorium.

Laboratorium AI dan pakar independen harus menggunakan jeda ini untuk bersama-sama mengembangkan dan menerapkan serangkaian protokol keselamatan bersama untuk desain dan pengembangan AI tingkat lanjut yang diaudit secara ketat dan diawasi oleh pakar luar yang independen. Protokol ini harus memastikan bahwa sistem yang mengikutinya aman tanpa keraguan. Ini tidak berarti jeda pada pengembangan AI secara umum, hanya langkah mundur dari perlombaan berbahaya ke model kotak hitam yang lebih besar dan tidak dapat diprediksi dengan kemampuan yang muncul.

Penelitian dan pengembangan AI harus difokuskan kembali untuk membuat sistem yang kuat dan canggih saat ini menjadi lebih akurat, aman, dapat ditafsirkan, transparan, kuat, selaras, dapat dipercaya, dan loyal.

Secara paralel, pengembang AI harus bekerja dengan pembuat kebijakan untuk secara dramatis mempercepat pengembangan sistem tata kelola AI yang kuat. Ini minimal harus mencakup: otoritas pengatur baru dan mampu yang didedikasikan untuk AI; pengawasan dan pelacakan sistem AI berkemampuan tinggi dan kumpulan besar kemampuan komputasi; sistem asal dan watermarking untuk membantu membedakan nyata dari sintetis dan untuk melacak kebocoran model; ekosistem audit dan sertifikasi yang kuat; pertanggungjawaban atas kerugian yang disebabkan oleh AI; pendanaan publik yang kuat untuk penelitian keamanan AI teknis; dan institusi dengan sumber daya yang baik untuk mengatasi gangguan ekonomi dan politik yang dramatis (terutama terhadap demokrasi) yang akan ditimbulkan oleh AI.

Umat ​​manusia dapat menikmati masa depan yang berkembang dengan AI. Setelah berhasil menciptakan sistem AI yang kuat, kami sekarang dapat menikmati "musim panas AI" di mana kami menuai hasil, merekayasa sistem ini untuk keuntungan semua orang, dan memberikan kesempatan kepada masyarakat untuk beradaptasi. Masyarakat telah menghentikan teknologi lain dengan potensi efek bencana pada masyarakat. Kita bisa melakukannya di sini. Mari nikmati musim panas AI yang panjang, jangan terburu-buru tanpa persiapan menuju musim gugur.”