Apa Itu AI Slop dan Mengapa Ada di Halaman Facebook Anda?

Apa kesamaan antara kepala bayi yang dicangkokkan ke palet taco, buaya yang setengah terbentuk dari lumut, dan anak berjanggut lebat? Dua hal: Tidak ada satupun yang ada, dan nenek Anda mungkin menelusuri semuanya di akun Facebooknya pagi ini.

Gambar AI generatif ada di sekitar kita. Sekarang, ada istilah untuk menggambarkan hal terburuk dari yang terburuk: AI slop.

Inilah alasan mengapa AI mengambil alih internet, mengapa Facebook khususnya memiliki masalah terbesar dengan gambar-gambar yang tidak masuk akal, dan mengapa begitu banyak orang yang kesal karenanya.

Jadi, Apa itu AI Slop?

Istilah “AI slop” sebagian besar mengacu pada gambar yang dibuat dengan alat AI generatif gratis, seringkali Bing AI Image Creator yang mudah diakses. Slop cenderung hadir dengan gaya pencahayaan yang kasar dan terlalu detail yang sering kali memberikan gambaran seperti yang dibuat oleh AI. Lebih buruk lagi, gambar tersebut selalu menampilkan dimensi yang melengkung atau ukuran yang sangat tidak proporsional yang merupakan tanda jelas bahwa gambar tersebut tidak dibuat oleh manusia.

Ini adalah usaha yang rendah. Kualitasnya rendah. Ini adalah reinkarnasi terbaru dari iklan pop-up kotor atau email sampah fisik yang ada sebelumnya.

Jenis gambar AI berenergi rendah yang Anda temukan di situs seperti Facebook bisa berbeda-beda, namun tema tertentu cenderung muncul, seperti hewan, bayi, dan jenis makanan umum. Banyak gambar yang menampilkan Yesus Kristus sendiri, mungkin sebagai bagian dari permohonan tersirat untuk membuktikan kesalehan seseorang melalui suka di Facebook. Gambar lain mungkin menyertakan wajah Yesus yang “tersembunyi”.

Yesus lagi. Tapi kali ini dengan penyu. Anda harus benar-benar memeriksakan lengan itu, Nona. pic.twitter.com/YPRo6qZpcd

— Kerstin 🌿 (@kxs839) 14 Mei 2024

Yang cukup menarik, AI slop hampir mengakhiri ketakutan akan penipuan deepfake yang sangat realistis dan menjerumuskan dunia ke dalam kekacauan: AI slop sama sekali tidak realistis, dan kita masih berada dalam kekacauan karenanya. Ternyata, AI tidak perlu begitu meyakinkan.

Mengapa AI Slop Sangat Besar di Facebook?

Demografi pengguna Facebook semakin menua : kelompok usia 45-65 tahun merupakan kelompok pengguna aktif bulanan dengan pertumbuhan tercepat jika dikelompokkan berdasarkan usia. Mereka mungkin kurang siap dibandingkan generasi muda terhadap munculnya gambaran realistis yang tidak nyata secara tiba-tiba.

Namun, itu bukan alasan sebenarnya mengapa Facebook menjadi kandang utama yang menjadi tempat masuknya sampah AI. Ternyata Meta pada dasarnya membayar orang untuk memposting sampah AI di platformnya.

Menurut investigasi 404 Media, “Bonus Program Kreator” Facebook membayar peserta untuk postingan viral. Influencer di berbagai lokasi termasuk India, Filipina, dan Vietnam beralih ke alat AI generatif (kebanyakan Bing AI Image Creator) untuk menyebarkan postingan yang berpotensi viral agar dapat menghasilkan uang.

Hal ini cukup populer sehingga beberapa influencer bahkan membuat kursus di YouTube atau Telegram, yang membahas cara membuat gambar AI dan menyebarkannya lebih jauh. Anjurannya disalin dan ditempel , atau diterjemahkan ke dalam bahasa Inggris , semuanya berfokus pada topik yang paling mudah ditebak untuk menarik pemirsa di AS — yang mungkin menjelaskan mengapa Yesus, pizza, dan hamburger sering menjadi subjek.

Gabungkan semuanya, dan Anda akan mendapatkan resep untuk konten yang sangat aneh dan tidak menyenangkan yang terus mendapat cukup perhatian sehingga Facebook akan mengeluarkan sedikit uang untuk mendorong lebih banyak lagi konten tersebut.

Ini juga melampaui sekedar gambar. Musik yang dihasilkan AI mengambil alih Spotify dengan cara yang sama.

Apa Buruknya AI Slop?

Misinformasi dan kebingungan adalah masalah terbesar di sini. Memang benar bahwa AI slop tidak dirancang untuk tahan terhadap pengawasan. Namun kebanyakan orang tidak hanya jarang memeriksa semua yang mereka lihat secara online, tetapi mereka juga tidak perlu memeriksanya.

Pada akhirnya, kurangnya moderasi dan regulasi adalah masalah yang lebih besar. Platform sosial raksasa seperti Facebook telah mengakui bahwa mereka terlalu besar untuk memoderasi konten mereka selama bertahun-tahun. Ironisnya, algoritma Facebook sendiri – jenis AI yang berbeda dari alat generatif yang menciptakan gambar-gambar ini – tidak dapat menangani moderasi. Pada tahun 2017, mereka berupaya mengatasi masalah ini dengan mempekerjakan 3.000 editor . Delapan tahun kemudian, mereka masih gagal dalam pekerjaannya.

Alasan besar lainnya mengapa begitu banyak orang kecewa dengan kecerobohan AI adalah konten yang dihasilkan AI saat ini tidak bisa dihindari . Google sekarang menambahkan hasil AI ke sebagian besar pencarian, tanpa opsi halaman pengaturan untuk menonaktifkannya. Ya, pengguna dapat menghilangkannya dengan menambahkan “-ai” di akhir pencarian mereka, namun trik yang kurang diketahui ini bukanlah solusi penyisihan yang masuk akal.

Selera dasar manusia adalah alasan bagus lainnya untuk menentang kesalahan AI. Maksudku, lihat ini:

Aku tidak tahu apa yang terjadi di sini, tapi aku takut. Sumber: Utas

Kelemahan AI Generatif Melampaui Slop

Kecerobohan AI mungkin merupakan bentuk terburuk dari AI, namun alat AI generatif mana pun masih belum mampu mengatasi beberapa tanda bahaya yang serius, mulai dari tingginya dampak buruk terhadap lingkungan hingga permasalahan hak cipta yang masih ingin disingkirkan oleh para pemimpin AI terkemuka. .

Dampak Lingkungan

Perkiraan jumlah listrik yang digunakan AI sangat bervariasi, namun terdapat konsensus umum bahwa jumlah tersebut sangat banyak: artikel di One Atlantic menyatakan bahwa satu penelusuran ChatGPT mungkin memiliki kekuatan yang sama dengan sepuluh penelusuran Google non-AI, sementara laporan lain yang membahas program AI milik Google menyatakan hal tersebut menggunakan listrik yang cukup dalam satu detik untuk mengisi tujuh mobil listrik .

Hanya satu pencarian Google AI yang menggunakan listrik yang sama dengan yang dibutuhkan bola lampu LED di rumah Anda untuk menyala selama satu jam penuh. Sungguh menyedihkan mendengar ketika semua pencarian Google Anda sekarang didukung oleh AI, tanpa tombol “mati”. Hal ini sangat mengecewakan ketika penelusuran Google terakhir Anda adalah “kapan perubahan iklim akan menyebabkan keruntuhan masyarakat?”

Potensi Pelanggaran Hak Cipta dan Kekayaan Intelektual

AI generatif membutuhkan sejumlah besar data untuk dilatih, dan model terbesar diduga menjaring internet untuk mengambil karya seni, buku, dan video YouTube. Tak satu pun dari kekayaan intelektual tersebut diakui atau diberi kompensasi, meskipun bisa dibilang direproduksi melalui jenis algoritma kompresi lossy.

Memang benar, pertanyaan seputar hakikat hukum kekayaan intelektual masih belum terjawab. Seperti yang diungkapkan oleh Harvard Business Review, “apakah pelanggaran hak cipta, paten, merek dagang berlaku untuk kreasi AI? Apakah sudah jelas siapa pemilik konten yang dibuat oleh platform AI generatif untuk Anda, atau pelanggan Anda?”

Namun ada satu hal yang tampaknya sulit untuk disangkal: Model AI generatif membangun nilainya berdasarkan karya tersembunyi dari jutaan materi iklan tanpa kompensasi .

Keputusan Bisnis yang Buruk

Dan yang terakhir, alasan besar lainnya untuk mempertanyakan AI adalah seberapa berguna alat ini dalam meyakinkan para eksekutif dan pemegang saham bahwa mereka dapat mengadaptasi AI untuk memberhentikan tenaga kerja manusia mereka tanpa adanya kerugian.

Masuk akal jika AI benar-benar bisa menggantikan manusia. Namun, perspektif yang tidak terlalu dibesar-besarkan mengenai AI adalah bahwa AI generatif dapat menawarkan manfaat yang bermanfaat dan nyata, namun tidak memberikan manfaat yang mengejutkan bagi industri , terutama ketika menyangkut analisis prediktif yang dilakukan dengan pengetahuan bahwa AI jauh dari akurat.

Sebaliknya, penggunaan AI yang sembarangan menyebabkan kegagalan besar, seperti cuplikan film baru-baru ini yang menyertakan pernyataan palsu yang dibuat oleh AI.

PHK yang disebabkan oleh AI akan menyebabkan pasar tenaga kerja lebih longgar, dan hal ini juga akan memperburuk kondisi perusahaan. Namun sebagian besar eksekutif tidak mau mendengarkan logika tersebut — kita sebenarnya telah mengetahui selama beberapa dekade bahwa PHK tidak meningkatkan harga saham, dan hal tersebut juga tidak menghentikan mereka.

Dunia Slop yang Lebih Luas

Slop bukan hanya AI. Produk apa pun yang memiliki kinerja minimal bisa jadi buruk, dan ada banyak pilihan.

Istilah ini digunakan untuk merujuk pada film-film Netflix biasa-biasa saja, yang jelas-jelas dibuat dengan cukup hati-hati agar pemirsa tetap menonton dari layar kedua, namun tidak cukup untuk membuatnya benar-benar bagus.

Anda mungkin juga menerapkan istilah ini pada pakaian dan pernak-pernik Temu yang sangat murah. Produk-produk ini tidak akan bertahan lama, tetapi harganya terjangkau. Sebagai tanda paling nyata bahwa penjualan pernak-pernik murah semakin populer, Amazon beralih ke etalase harga rendah untuk bersaing dengan Temu. Menurut informasi baru dari The Information , Amazon memaksa pedagang untuk menjual barang dengan batasan harga yang tinggi, mulai dari batasan $20 untuk sofa hingga batasan $8 untuk perhiasan.

Ingin memerangi lumpur longsor? Simpan perhatian dan uang Anda untuk pengalaman dan produk yang menawarkan lebih dari jumlah minimum. Bagi sebagian besar dari kita, hal ini mungkin dimulai dengan merencanakan cara untuk menghabiskan lebih sedikit waktu di media sosial.