Fitur AI Recall Windows 11 dikecam oleh pakar keamanan sebagai 'salah satu kegagalan keamanan paling konyol yang pernah saya lihat'

Microsoft telah dikecam terkait fungsionalitas Recall yang masuk ke Windows 11 oleh peneliti keamanan dan pengawas privasi – dan Microsoft memerlukan setelan tahan api untuk menghadapi serangan terbaru terhadap fitur bertenaga AI.

Hal ini diungkapkan oleh pakar keamanan Kevin Beaumont, seperti yang disoroti oleh The Verge. Situs tersebut mencatat bahwa Beaumont bekerja sebentar untuk Microsoft beberapa tahun yang lalu.

Singkatnya – jika Anda melewatkannya – Recall adalah fitur AI untuk PC Copilot+, yang diluncurkan akhir bulan ini dan berfungsi sebagai garis waktu fotografi – pada dasarnya adalah riwayat semua yang telah Anda lakukan di PC, direkam melalui tangkapan layar yang diambil secara teratur di latar belakang Windows 11.

Beaumont membuat Recall bekerja pada PC normal (non-Copilot+) – yang dapat dilakukan, meskipun tidak disarankan dari segi kinerja – dan telah mengotak-atiknya selama seminggu.

Dia sampai pada kesimpulan bahwa Microsoft telah membuat kesalahan besar di sini, setidaknya dengan menggunakan fitur yang saat ini diterapkan – dan tentu saja akan segera dikirimkan. Memang benar, Beaumont menegaskan bahwa Microsoft “mungkin akan membakar seluruh merek Copilot karena buruknya penerapan dan peluncurannya”.

Jadi, apa masalah besarnya? Pada dasarnya, ini adalah kurangnya pemikiran seputar keamanan dan bagaimana ada perbedaan besar antara deskripsi Microsoft tentang cara Recall tetap kedap air dan apa yang ditemukan Beaumont.

Seperti yang dapat Anda lihat pada postingan di atas di X (sebelumnya Twitter), salah satu alasan utama pakar keamanan dengan Microsoft adalah bahwa mereka memberi tahu media bahwa peretas tidak mungkin mengambil data Copilot+ Recall dari jarak jauh. Dengan kata lain, penyerang perlu mengakses perangkat secara fisik, secara langsung – dan ini tidak benar.

Dalam postingan blog panjang tentang topik ini, Beaumont menjelaskan: “Ini salah. Data dapat diakses dari jarak jauh.” Perhatikan bahwa Recall berfungsi sepenuhnya secara lokal, seperti yang dikatakan Microsoft – hanya saja bukan tidak mungkin untuk memanfaatkan data dari jarak jauh, seperti yang disarankan (tentu saja jika Anda dapat mengakses PC).

Seperti yang dijelaskan Beaumont, masalah besar lainnya di sini adalah database Recall itu sendiri, yang berisi semua data dari tangkapan layar tersebut dan riwayat penggunaan PC Anda – karena semua ini disimpan dalam teks biasa (dalam database SQLite).

Hal ini membuatnya sangat mudah untuk mencuri semua informasi terkait Recall tentang bagaimana Anda menggunakan PC Windows 11 – dengan asumsi penyerang dapat memperoleh akses ke perangkat (baik dari jarak jauh, atau secara langsung).

Analisa: Recall fitur Recall, atau menyesal

Ada banyak kekhawatiran lebih lanjut juga di sini. Seperti yang ditunjukkan Microsoft ketika mengungkapkan Recall, tidak ada batasan terhadap apa yang dapat ditangkap dalam riwayat aktivitas yang didukung AI di PC Anda (kecuali untuk beberapa pengecualian kecil, seperti mode penjelajahan pribadi Microsoft Edge – tetapi bukan Chrome Incognito, yang menarik. ).

Informasi keuangan yang sensitif, misalnya, tidak akan dikecualikan, dan Beaumont lebih lanjut menunjukkan bahwa pesan yang dihapus secara otomatis di aplikasi perpesanan juga akan disaring, sehingga pesan tersebut dapat diakses melalui database Recall yang dicuri. Memang benar, pesan apa pun yang Anda hapus dari WhatsApp, Signal, atau apa pun dapat dibaca melalui kompromi Penarikan Kembali.

Tapi tunggu dulu, Anda mungkin berpikir – jika PC Anda diakses dari jarak jauh oleh seorang hacker, bukankah Anda berada dalam masalah besar? Ya, itu benar – detail Recall ini tidak dapat diakses kecuali PC Anda dieksploitasi secara aktif (walaupun bagian dari masalah Beaumont adalah pernyataan Microsoft yang tampaknya salah bahwa segala jenis akses jarak jauh ke data Recall tidak mungkin dilakukan sama sekali, karena disebutkan di atas).

Hal yang paling menarik di sini adalah jika seseorang mengakses PC Anda, Recall tampaknya memudahkan penyerang tersebut untuk mengambil semua detail yang berpotensi sangat sensitif tentang riwayat penggunaan Anda.

Meskipun Trojan pencuri informasi sudah ada dan mengikis korban dalam skala besar secara terus-menerus, Recall dapat memungkinkan penghapusan data pribadi semacam ini dilakukan dengan sangat cepat dan mudah.

Inilah inti dari kritik tersebut, seperti yang dijelaskan Beaumont: “Recall memungkinkan pelaku ancaman untuk secara otomatis menghapus semua yang pernah Anda lihat dalam hitungan detik. Selama pengujian ini dengan infostealer siap pakai, saya menggunakan Microsoft Defender untuk Endpoint – yang mendeteksi pencuri info siap pakai – namun saat remediasi otomatis dimulai (yang memakan waktu lebih dari sepuluh menit), data Penarikan saya sudah lama hilang.”

Ini adalah sebagian besar alasan mengapa Beaumont menyebut Recall sebagai “salah satu kegagalan keamanan paling konyol yang pernah saya lihat.”

Jika Microsoft tidak mengambil tindakan sebelum dikirimkan, ingatlah – karena secara teori masih ada waktu, meskipun peluncuran PC Copilot+ sudah sangat dekat sekarang. (Namun, Recall masih bisa ditendang sementara untuk disentuh selagi dikerjakan lebih lanjut – mungkin).

Jika Recall dikirimkan seperti yang diterapkan saat ini, Beaumont menyarankan untuk mematikannya: “Juga untuk lebih jelasnya Anda dapat menonaktifkan ini di Pengaturan saat dikirimkan, dan saya sangat menyarankan Anda melakukannya kecuali mereka mengerjakan ulang fitur dan pengalamannya.”

Di sinilah letak masalah pelik lainnya: fungsionalitas yang didukung AI diaktifkan secara default. Penarikan kembali disorot selama pengalaman pengaturan Copilot+ PC, dan Anda dapat menonaktifkannya, namun cara penerapannya berarti Anda harus mencentang kotak untuk masuk ke pengaturan pasca-penyiapan, lalu mematikan Recall sana – jika tidak, ini hanya akan terjadi tersisa. Dan beberapa pengguna Windows 11 kemungkinan akan terjebak karena tidak memahami arti opsi kotak centang selama penyiapan dan berakhir dengan Recall aktif secara default.

Ini bukanlah cara kerja fitur seperti ini – terutama mengingat masalah privasi yang disoroti di sini – dan kami telah menyatakan perasaan kami dengan jelas sebelumnya. Apa pun yang memiliki kemampuan luas seperti Recall tentunya harus dinonaktifkan secara default – atau pengguna harus memiliki pilihan yang sangat jelas selama penyiapan. Bukan semacam 'centang kotak ini, lewati lingkaran ini nanti' yang aneh.