Apa itu Bayangan AI? Ancaman Keamanan Terbaru TI Perusahaan

Munculnya kecerdasan buatan dalam beberapa tahun terakhir telah mengguncang seluruh industri teknologi, tidak terkecuali industri keamanan siber perusahaan: Mereka tiba-tiba berhadapan dengan AI bayangan.

Istilah “AI Bayangan” mengacu pada penggunaan AI yang tidak sah dalam suatu organisasi. Karena departemen TI tidak mengetahuinya, mereka tidak memiliki cara untuk melacak atau mengontrol penggunaan AI.

Hal ini membuat perusahaan terbuka terhadap potensi eksploitasi atau masalah lainnya. Inilah alasan mengapa bayangan AI bisa menjadi masalah yang berkembang, dan apa yang dapat dilakukan perusahaan Anda untuk mengatasinya.

Apa itu Bayangan AI?

Shadow AI menggambarkan karyawan yang menggunakan AI untuk membantu mereka melakukan tugas tanpa sepengetahuan atau persetujuan perusahaan. Ketika karyawan tidak menjelaskan penggunaan ini kepada perusahaannya, perusahaan tersebut tidak menyadari penggunaan AI bayangan yang terjadi di dalam jajarannya. Mendapatkan? Karena penggunaan AI terjadi… secara sembunyi-sembunyi.

Tugas mungkin dapat diselesaikan lebih cepat, namun tanpa visibilitas dan pedoman seputar penggunaan AI, mustahil untuk sepenuhnya mengontrol hasil. Dan bagi manajer bisnis mana pun, kurangnya kendali merupakan tanda bahaya bagi kelangsungan kesuksesan bisnisnya.

Ada banyak bukti yang menunjukkan bahwa shadow AI sudah menjadi masalah besar di banyak industri, meskipun hal ini belum menyebabkan kegagalan keamanan yang parah. Setidaknya, tidak ada yang pernah kita dengar: Bagaimanapun, sebagian besar perusahaan teknologi tidak melaporkan peretasan setelah kejadian tersebut.

Inilah satu fakta tambahan penting yang memberikan konteks tambahan seputar potensi ancaman shadow AI.

Hanya 4,39% perusahaan yang memiliki alat AI yang terintegrasi penuh di seluruh organisasinya

Itu hanya 1 dari 25 perusahaan yang memiliki pedoman AI yang tegas, menurut data dari laporan Tech.co tahun 2024 tentang Dampak Teknologi di Tempat Kerja .

Sebaliknya, 44% responden survei lain mengatakan mereka menggunakan AI dalam lingkungan profesional dan pribadi. Survei tersebut, yang mengamati perusahaan-perusahaan Perancis secara khusus, memperkirakan bahwa 28% karyawan menggunakan AI tanpa pengawasan perusahaan.

Dengan kata lain, meskipun ada desas-desus seputar alat teks dan gambar generatif selama beberapa tahun terakhir, dunia usaha masih lambat dalam membuat peraturan untuk AI.

Mengapa Shadow AI Berbahaya

Merupakan sebuah tantangan untuk mengetahui bahaya dari suatu praktik yang, menurut definisinya, tidak dipantau atau dipahami sepenuhnya. Inilah hal-hal yang menjadi perhatian terbesar.

Misinformasi internal atau eksternal

Laporan kami menemukan bahwa 49% pimpinan senior mengkhawatirkan risiko model AI berbahasa besar yang menghasilkan informasi palsu . Kita telah melihat laporan kesalahan laporan hukum yang didukung AI, serta kesalahan lainnya , sehingga mudah untuk membayangkan hal yang sama terjadi pada laporan bisnis internal atau email ke klien penting.

Risiko keamanan siber

Menerapkan AI untuk tujuan pengkodean adalah salah satu kasus penggunaan yang populer, namun jika digunakan oleh tim dukungan TI, kode tersebut mungkin berisi bug yang dihasilkan AI atau celah bagi peretas untuk menyelipkan bom logika malware melewati protokol keamanan Anda.

Data yang terpapar

Selain itu, banyak pengguna AI tidak menyadari bahwa perintah mereka akan dicatat oleh perusahaan di balik alat AI gratis mereka. Jika data perusahaan swasta digunakan untuk prompt, data tersebut akan terungkap. Itu sebabnya Anda tidak boleh membagikan data sensitif perusahaan dengan platform AI, antara lain .

Kegagalan kepatuhan

Pemerintah di seluruh dunia menerapkan pembatasan dan pedoman AI mereka sendiri. Tanpa perwakilan yang memantau peraturan federal atau negara bagian dalam perusahaan Anda, Anda tidak dapat memastikan bahwa karyawan tidak membuka bisnis Anda untuk penyelidikan dari pengawas peraturan di kemudian hari.

Bagaimana Perusahaan Anda Dapat Memerangi Penggunaan Shadow AI

Pada akhirnya, ancaman bayangan AI disebabkan oleh tidak adanya atau terbatasnya kebijakan bisnis seputar penggunaan AI di tempat kerja. Jadi, jawabannya relatif sederhana: Anda harus membuat pedoman yang membatasi penggunaan AI pada tugas tertentu dalam peran tertentu .

Dan, dengan 50% perusahaan Amerika mengatakan bahwa mereka saat ini “memperbarui kebijakan internal mereka untuk mengatur penggunaan ChatGPT dan mengakhiri Shadow GPT,” solusi ini tampaknya sudah diluncurkan, meskipun perlahan.

Opsi yang paling aman adalah larangan total terhadap penggunaan AI: Apple, Amazon, Samsung, dan Goldman Sachs adalah beberapa perusahaan yang telah melarang setidaknya beberapa versi AI untuk digunakan secara langsung. Namun, ini juga berarti Anda juga tidak dapat memanfaatkan alat teknologi tersebut.

Anda mungkin ingin menyertakan peringatan tentang penggunaan AI di masa depan dalam pedoman Anda: Sambil menunggu persetujuan, pekerja harus dapat memperluas penggunaan AI di luar pedoman awal Anda, karena alat AI akan terus berkembang di masa depan.

Praktik Terbaik untuk Penggunaan AI di Perusahaan

Penggunaan AI di perusahaan Anda tidak harus semuanya buruk. Laporan Tech.co tahun 2024 tentang teknologi di tempat kerja menemukan bahwa mereka yang menggunakan lebih banyak alat kolaborasi dan AI melaporkan produktivitas yang lebih tinggi , sementara 59% pengguna AI memiliki kepuasan kerja yang lebih besar.

Berikut beberapa tip untuk mendapatkan hasil maksimal dari AI:

• Lihat kursus pelatihan . Banyak materi pelatihan AI tersedia gratis secara online .
• Jangan mencoba untuk mengganti pekerjaan . Perjalanan AI masih panjang sebelum dapat sepenuhnya menggantikan manusia. Laporan kami menemukan bahwa 63% profesional kepemimpinan senior yang organisasinya menggunakan AI untuk tugas menulis menyatakan bahwa alat AI tidak berdampak pada penghapusan peran pekerjaan.
• Batasi AI pada bot tertentu dan tugas tertentu . ChatGPT atau Claude 3 mungkin merupakan pilihan terbaik saat ini.
• Baca petunjuknya . Perintah terbaik memberikan hasil terbaik, jadi kami menyusun panduan untuk menyarankan cara berpikir tentang penulisan cepat.

ChatGPT adalah alat AI paling populer yang digunakan dalam bisnis pada survei tahun 2024 kami, namun alat lain mungkin berfungsi sama baiknya atau bahkan lebih baik: Salah satu pengujian terbaru kami menemukan bahwa Claude 3 menulis hasil teks yang lebih baik dan lebih mudah diurai jika dibandingkan dengan ChatGPT.

Terakhir, penting untuk diingat bahwa bot teks atau gambar generatif sebenarnya tidak “cerdas” — Anda selalu memerlukan panduan manusia untuk memeriksa ulang halusinasi atau kebohongan lain sebelum Anda memberi stempel pada apa pun yang ditawarkan AI.