Caracteristica AI Recall din Windows 11 este considerată de un expert în securitate drept „una dintre cele mai ridicole defecțiuni de securitate pe care le-am văzut vreodată”

Microsoft a fost deja târât pe cap în ceea ce privește funcționalitatea sa de retragere pentru Windows 11 de către cercetătorii de securitate și de către cei care supraveghează confidențialitatea deopotrivă – și va avea nevoie de un costum ignifug pentru cea mai recentă revărsare de foc împotriva caracteristicii bazate pe inteligență artificială.

Acest lucru vine de la expertul în securitate Kevin Beaumont, după cum a subliniat The Verge. Site-ul notează că Beaumont a lucrat pentru Microsoft pentru scurt timp în urmă cu câțiva ani.

Pentru a recapitula – în cazul în care ați ratat-o ​​cumva – Recall este o funcție AI pentru PC-urile Copilot+, care se lansează la sfârșitul acestei luni și acționează ca o cronologie fotografică – în esență, o istorie a tot ceea ce ați făcut pe computer, înregistrată prin capturi de ecran care sunt făcute în mod regulat pe fundalul Windows 11.

Beaumont l-a pus pe Recall să lucreze la un computer normal (non-Copilot+) – ceea ce se poate face, deși nu este recomandat din punct de vedere al performanței – și se încurcă cu el de o săptămână.

El a ajuns la concluzia că Microsoft a făcut o greșeală uriașă aici, cel puțin urmând caracteristica așa cum este implementată în prezent – ​​și este pe cale să fie livrată, desigur. Într-adevăr, Beaumont afirmă că Microsoft „probabil va da foc întregului brand Copilot din cauza cât de prost a fost implementat și implementat”, nu mai puțin.

Deci, care este marea problemă? Ei bine, în principal, este lipsa de gândire în jurul securității și a modului în care există o discrepanță majoră între descrierea de către Microsoft a modului în care Recall este aparent menținut etanș și ceea ce a găsit Beaumont.

După cum puteți vedea în postarea de mai sus pe X (fostul Twitter), una dintre principalele experți în securitate cu Microsoft este că a informat instituțiile media că un hacker nu poate captura datele Copilot+ Recall de la distanță. Cu alte cuvinte, un atacator ar trebui să acceseze dispozitivul fizic, în persoană – și acest lucru nu este adevărat.

Într-o postare lungă pe blog pe acest subiect, Beaumont explică: „Acest lucru este greșit. Datele pot fi accesate de la distanță.” Rețineți că Recall funcționează în întregime local, așa cum a spus Microsoft - doar că nu este imposibil să accesați datele de la distanță, așa cum s-a sugerat (dacă puteți accesa computerul, desigur).

După cum explică Beaumont, cealaltă mare problemă aici este baza de date Recall în sine, care conține toate datele din acele capturi de ecran și istoricul utilizării computerului dvs. - deoarece toate acestea sunt stocate în text simplu (într-o bază de date SQLite).

Acest lucru face foarte ușor să strângeți toate informațiile legate de rechemare despre exact modul în care ați folosit computerul cu Windows 11 – presupunând că un atacator poate obține acces la dispozitiv (fie de la distanță, fie în persoană).

Analiză: Apelați funcția Recall sau regretați

Există o mulțime de preocupări suplimentare și aici. După cum a subliniat Microsoft când a dezvăluit Recall, nu există limite pentru ceea ce poate fi capturat în istoricul activității bazate pe inteligență artificială de pe computerul dvs. (cu excepția unor ușoare excepții, cum ar fi modul de navigare privată al Microsoft Edge - dar nu Chrome Incognito, evident). ).

Informațiile financiare sensibile, de exemplu, nu vor fi excluse, iar Beaumont subliniază în continuare că mesajele de ștergere automată din aplicațiile de mesagerie vor fi captate de ecran, astfel încât acestea să poată fi accesate printr-o bază de date Recall furată. Într-adevăr, orice mesaj pe care îl ștergeți de la WhatsApp, Signal sau orice altceva ar putea fi citit printr-un compromis de retragere.

Dar așteaptă puțin, s-ar putea să te gândești – dacă computerul tău este accesat de la distanță de un hacker, oricum nu ai probleme adânci? Ei bine, da, este adevărat – nu este ca și cum aceste detalii de Recall pot fi accesate decât dacă PC-ul tău este exploatat în mod activ (deși o parte a problemei lui Beaumont este declarația aparent rătăcită a Microsoft că orice fel de acces de la distanță la datele Recall nu a fost deloc posibil, deoarece menționat mai sus).

Adevărata problemă aici este că, dacă cineva vă accesează computerul, Recall pare că îi este foarte ușor pentru acel atacator să prindă toate aceste detalii potențial extrem de sensibile despre istoricul dvs. de utilizare.

În timp ce troienii de furt de informații există deja și zgârie victimele la scară largă în mod continuu, Recall ar putea permite ca acest tip de aspirare a datelor cu caracter personal să se realizeze ridicol de rapid și ușor.

Acesta este miezul criticii, așa cum explică Beaumont: „Recall permite actorilor amenințărilor să automatizeze răzuirea a tot ceea ce te-ai uitat vreodată în câteva secunde. În timpul testării acestui lucru cu un infostealer de la raft, am folosit Microsoft Defender pentru Endpoint – care a detectat infostealer-ul de pe raft – dar în momentul în care a început remedierea automată (care a durat peste zece minute), datele mele de rechemare au dispărut deja de mult.”

Aceasta este o parte majoră a motivului pentru care Beaumont numește Recall „una dintre cele mai ridicole defecțiuni de securitate pe care le-am văzut vreodată”.

Dacă Microsoft nu ia măsuri înainte de a fi livrat, minte - pentru că mai este timp, oricum, în teorie, deși lansarea PC-urilor Copilot+ este foarte aproape acum. (Cu toate acestea, Recall ar putea fi încă dat cu piciorul temporar pentru a atinge în timp ce se lucrează în continuare – poate).

Dacă Recall se livrează așa cum este implementat în prezent, Beaumont vă sfătuiește să îl dezactivați: „De asemenea, pentru a fi foarte clar, puteți dezactiva acest lucru în Setări atunci când este livrat și vă recomand cu căldură să faceți, dacă nu reproșează funcția și experiența.”

Aici se află o altă problemă spinoasă: funcționalitatea alimentată de AI este activată implicit. Recall-ul este evidențiat în timpul experienței de configurare a PC-ului Copilot+ și îl puteți dezactiva, dar modul în care este implementat înseamnă că trebuie să bifați o casetă pentru a introduce setări după configurare și apoi să dezactivați Recall acolo - altfel, va fi pur și simplu rămas pe. Și unii utilizatori de Windows 11 probabil că vor cădea în capcana de a nu înțelege ce înseamnă opțiunea casetă de bifare în timpul instalării și vor ajunge doar cu Recall activat în mod implicit.

Nu acesta este modul în care ar trebui să funcționeze o funcție ca aceasta – în special având în vedere preocupările de confidențialitate evidențiate aici – și ne-am exprimat destul de clar sentimentele în acest sens înainte. Orice cu abilități largi, cum ar fi Recall, ar trebui să fie dezactivat în mod implicit, cu siguranță – sau utilizatorii ar trebui să aibă o alegere foarte clară în timpul configurării. Nu un fel de smecherie ciudate „bifează această casetă, sari prin acest cerc mai târziu”.