Apa Itu Jam Kiamat dan Bagaimana Pengaruh AI terhadapnya?

Para ilmuwan minggu ini telah mengkonfirmasi bahwa Jam Kiamat akan tetap berada pada 90 detik hingga tengah malam selama dua tahun berturut-turut.

Jam Kiamat adalah sebuah metafora tentang betapa dekatnya manusia dengan kehancuran dunia dan terakhir kali digerakan mendekati tengah malam – titik akhir simbolisnya – pada tahun 2023, karena permasalahan iklim dan perang di Ukraina.

Buletin Ilmuwan Atom, yang menetapkan waktu setiap tahun, menyatakan bahwa waktu tersebut akan tetap pada 90 detik meskipun terjadi perang di Gaza, tahun terpanas lainnya dalam sejarah dan – yang menarik – meningkatnya kekhawatiran seputar kecerdasan buatan .

Mari kita lihat apa sebenarnya Jam Kiamat itu dan bagaimana AI menyebabkannya semakin mendekati kehancuran.

Apa Itu Jam Kiamat?

Pertama kali dikembangkan pada tahun 1947 oleh J. Robert Oppenheimer dan rekan-rekan ilmuwannya yang mengembangkan bom atom, Jam Kiamat menggambarkan betapa dekatnya umat manusia dengan kehancuran total. Perjanjian ini dibuat untuk memberikan tekanan pada para pemimpin global agar memastikan senjata nuklir tidak pernah digunakan lagi, menyusul dampak buruk Perang Dunia Kedua.

Mulai pukul tujuh menit menjelang tengah malam, jarum jam telah bergerak sebanyak 25 kali – bahkan mundur ke 17 menit menjelang tengah malam setelah berakhirnya Perang Dingin pada tahun 1991.

Perang adalah pendorong utama di balik banyak perhitungan waktu. Pada hari Selasa, Bulletin menyatakan bahwa Tiongkok, Rusia, dan Amerika Serikat yang memperluas dan memodernisasi senjata nuklir mereka menambah “bahaya perang nuklir yang selalu ada karena kesalahan atau kesalahan perhitungan”. Demikian pula, perang di Ukraina juga telah menciptakan “risiko eskalasi nuklir yang selalu ada”.

Namun, alat kecerdasan buatan juga disebut-sebut sebagai alasan mengapa jam ini tetap menjadi jam terdekat dengan kiamat.

Bagaimana AI Mempengaruhi Hitung Mundur?

Anggota Buletin Ilmuwan Atom telah memasukkan risiko buatan manusia, seperti AI, ke dalam perhitungan jam mereka sejak tahun 2007.

Namun, berkat kemajuan dramatis dan pesat dalam teknologi AI generatif, dengan chatbot seperti ChatGPT OpenAI yang tampaknya menjadi berita utama setiap hari, penyebutan signifikannya dalam daftar tahun ini bukanlah hal yang mengejutkan.

Buletin tersebut berbunyi: “Kami menyoroti satu isu yang menjadi perhatian khusus: konvergensi alat kecerdasan buatan dan teknologi biologis [yang] secara radikal dapat memberdayakan individu untuk menyalahgunakan biologi.”

Bisnis dan organisasi menuai manfaat dari kecerdasan buatan dan model bahasa yang besar, berkat bantuan mereka dalam meningkatkan produktivitas dan meminimalkan kesalahan. Bahkan industri perawatan kesehatan melihat dampak positif AI dengan peningkatan efisiensi dalam diagnosis. Jadi, apa sebenarnya yang membuat para Ilmuwan Atom khawatir?

Menurut pernyataan Jam Kiamat :

“Kekhawatirannya adalah bahwa model bahasa yang besar memungkinkan individu yang tidak mempunyai cukup pengetahuan untuk mengidentifikasi, memperoleh, dan menyebarkan agen biologis yang akan membahayakan sejumlah besar manusia, hewan, tumbuhan, dan elemen lingkungan lainnya.”

Lebih dari itu, AI generatif yang tidak dapat diprediksi, ditambah potensinya untuk merusak informasi dan memperbesar disinformasi, semuanya merupakan ancaman terhadap demokrasi, yang pada gilirannya dapat berdampak besar pada cara kita mengelola risiko nuklir, pandemi, dan perubahan iklim.

Berbicara dari sudut pandang teknologi, ada banyak perubahan dalam dampak AI terhadap industri.

Ambil contoh chatbot online DPD yang berdampak buruk bagi bisnis namun pada akhirnya tidak berbahaya, yang dengan mudah dimanipulasi untuk mengkritik dirinya sendiri dan perusahaan. Meskipun tidak menimbulkan dampak buruk dalam skala besar, hal ini merupakan kesalahan memalukan yang dapat mengakibatkan kerugian finansial bagi perusahaan.

Di sisi lain, terdapat pula risiko terhadap kehidupan. Tahun lalu, Tesla terpaksa menarik kembali lebih dari dua juta kendaraannya karena kerusakan autopilot . Hal ini disebabkan oleh serangkaian kecelakaan yang melibatkan dua mobil terpisah yang menabrak bagian belakang mobil pemadam kebakaran dan mobil polisi yang diparkir.

Para Ilmuwan Atom menyatakan bahwa “Kemajuan dalam kecerdasan buatan dan rekayasa genetika, misalnya, memiliki potensi yang sangat besar, namun juga membawa risiko yang besar tergantung pada bagaimana teknologi ini digunakan”.

Bisakah Regulasi AI Membantu?

Tujuan utama dari Jam Kiamat adalah untuk meningkatkan kesadaran dan, mudah-mudahan, menyoroti isu-isu global untuk memicu tindakan di kalangan politisi, pemimpin dunia, dan masyarakat.

Presiden dan CEO Buletin Ilmuwan Atom Rachel Bronson menjelaskan: “Ada dua pesan utama dalam pernyataan kami dan itu adalah satu: bahwa 90 detik menjelang tengah malam sangatlah tidak stabil dan tidak boleh menimbulkan rasa puas diri dan kedua: kemajuan teknologi semakin cepat. dan melampaui kemampuan kita untuk mengaturnya”.

Ini berarti bahwa “teknologi baru yang mengganggu” seperti AI harus ditangani dengan undang-undang dan peraturan yang sesuai.

Pada bulan Oktober lalu, Presiden AS Joe Biden menandatangani perintah eksekutif tentang “AI yang aman, terjamin, dan dapat dipercaya” yang menyerukan perlindungan “terhadap risiko penggunaan AI untuk merekayasa bahan biologis berbahaya dengan mengembangkan standar baru yang kuat untuk penyaringan sintesis biologis”. Meski tidak mengikat secara hukum, langkah ini merupakan langkah tepat.

Demikian pula, banyak negara di seluruh dunia yang menyadari potensi bahaya yang ditimbulkan oleh AI, dan menerapkan peraturan mitigasinya. Hal ini mencakup usulan kerangka peraturan oleh Uni Eropa, deklarasi internasional untuk mengatasi risiko AI, dan pembentukan badan penasihat PBB yang baru.

Untuk memastikan Anda menggunakan kecerdasan buatan dengan cara yang paling efektif dan aman secara pribadi, pastikan untuk sepenuhnya memahami keterbatasan dan risiko setiap alat AI generatif yang Anda gunakan. Ini akan memungkinkan Anda untuk mengontrol penggunaannya dengan lebih baik dan mudah-mudahan membantu menjaga waktu tetap berjalan.