Funkcja AI Recall w systemie Windows 11 została skrytykowana przez eksperta ds. bezpieczeństwa jako „jedno z najbardziej absurdalnych błędów w zakresie bezpieczeństwa, jakie kiedykolwiek widziałem”

Microsoft został już wciągnięty w dyskusję w związku z funkcją Przywołania dostępną dla systemu Windows 11 zarówno przez badaczy bezpieczeństwa, jak i organy nadzorujące prywatność – i będzie potrzebował ognioodpornego kombinezonu, aby móc w ostatnim ognistym ataku wytoczyć funkcję wykorzystującą sztuczną inteligencję.

Jak podkreśla The Verge, pochodzi od eksperta ds. bezpieczeństwa Kevina Beaumonta. W serwisie napisano, że kilka lat temu Beaumont przez krótki czas pracował dla Microsoftu.

Podsumowując – na wypadek, gdybyś to jakoś przeoczył – Recall to funkcja sztucznej inteligencji dla komputerów Copilot+, która zostanie uruchomiona jeszcze w tym miesiącu i działa jak fotograficzna oś czasu – zasadniczo historia wszystkiego, co zrobiłeś na swoim komputerze, zarejestrowana za pomocą zrobionych zrzutów ekranu regularnie w tle systemu Windows 11.

Beaumont zlecił Recall pracę na normalnym komputerze (innym niż Copilot+) – co można zrobić, chociaż nie jest to zalecane ze względu na wydajność – i bawił się nim przez tydzień.

Doszedł do wniosku, że Microsoft popełnił tutaj gigantyczny błąd, przynajmniej kierując się obecnie zaimplementowaną funkcją – i oczywiście wkrótce zostanie ona wydana. Rzeczywiście Beaumont twierdzi, że Microsoft „prawdopodobnie podpali całą markę Copilot ze względu na to, jak słabo została ona wdrożona i wdrożona”.

Więc w czym jest duży problem? Cóż, przede wszystkim jest to brak przemyślenia na temat bezpieczeństwa i zasadnicza rozbieżność między opisem Microsoftu na temat pozornej szczelności Recall a tym, co odkrył Beaumont.

Jak widać w powyższym poście na X (dawniej Twitterze), jednym z głównych sporów eksperta ds. bezpieczeństwa z firmą Microsoft jest poinformowanie mediów, że haker nie jest w stanie zdalnie przejąć danych Copilot+ Recall. Innymi słowy, osoba atakująca musiałaby uzyskać fizyczny, osobisty dostęp do urządzenia – a to nie jest prawdą.

W długim poście na blogu na ten temat Beaumont wyjaśnia: „To jest błędne. Dostęp do danych można uzyskać zdalnie.” Należy pamiętać, że Recall działa całkowicie lokalnie, jak powiedział Microsoft – tyle tylko, że zdalne wykorzystanie danych nie jest niemożliwe, jak sugerowano (oczywiście jeśli masz dostęp do komputera).

Jak wyjaśnia Beaumont, innym dużym problemem jest sama baza danych Recall, która zawiera wszystkie dane z tych zrzutów ekranu i historię użytkowania Twojego komputera – ponieważ wszystko to jest przechowywane w postaci zwykłego tekstu (w bazie danych SQLite).

Dzięki temu bardzo łatwo jest przechwycić wszystkie informacje związane z wycofaniem, dotyczące dokładnego sposobu korzystania z komputera z systemem Windows 11 – zakładając, że osoba atakująca może uzyskać dostęp do urządzenia (zdalnie lub osobiście).

Analiza: Przypomnij sobie funkcję Przywołaj lub pożałuj

Tutaj także pojawia się wiele dalszych obaw. Jak zauważył Microsoft, ujawniając funkcję Recall, nie ma ograniczeń co do tego, co można przechwycić w historii aktywności na komputerze opartej na sztucznej inteligencji (z wyjątkiem kilku drobnych wyjątków, takich jak tryb przeglądania prywatnego w Microsoft Edge – ale co wymowne, nie Chrome Incognito ).

Na przykład wrażliwe informacje finansowe nie zostaną wykluczone, a Beaumont wskazuje dalej, że zrzuty ekranu zostaną wykonane również w przypadku wiadomości automatycznie usuwanych w aplikacjach do przesyłania wiadomości, aby można było uzyskać do nich dostęp za pośrednictwem skradzionej bazy danych Recall. Rzeczywiście, każda wiadomość, którą usuniesz z takich serwisów jak WhatsApp, Signal lub cokolwiek innego, może zostać odczytana poprzez kompromis w zakresie wycofania.

Ale poczekaj chwilę, możesz pomyśleć – jeśli haker uzyska zdalny dostęp do Twojego komputera, czy i tak nie będziesz w poważnych tarapatach? Cóż, tak, to prawda – dostęp do szczegółów wycofania nie jest możliwy, jeśli komputer nie jest aktywnie wykorzystywany (choć częścią problemu Beaumonta jest najwyraźniej błędne stwierdzenie Microsoftu, że jakikolwiek zdalny dostęp do danych wycofania nie jest w ogóle możliwy, ponieważ wspomniano powyżej).

Największą zaletą jest to, że jeśli ktoś uzyska dostęp do Twojego komputera, funkcja Recall najwyraźniej bardzo ułatwia osobie atakującej przechwycenie wszystkich potencjalnie niezwykle wrażliwych szczegółów Twojej historii użytkowania.

Chociaż trojany kradnące informacje już istnieją i stale wyszukują ofiary na dużą skalę, Recall może umożliwić tego rodzaju odkurzanie danych osobowych absurdalnie szybko i łatwo.

Oto sedno krytyki, jak wyjaśnia Beaumont: „Recall umożliwia cyberprzestępcom zautomatyzowanie w ciągu kilku sekund skanowania wszystkiego, na co kiedykolwiek patrzyłeś. Podczas testowania tego za pomocą gotowego narzędzia do kradzieży informacji korzystałem z usługi Microsoft Defender for Endpoint, która wykryła gotowego złodzieja informacji, ale zanim włączyło się automatyczne korygowanie (co zajęło ponad dziesięć minut), moje dane wycofania już dawno zniknęły”.

Jest to główny powód, dla którego Beaumont nazywa Recall „jednym z najbardziej absurdalnych błędów w zakresie bezpieczeństwa, jakie kiedykolwiek widziałem”.

Jeśli Microsoft nie podejmie działań przed dostawą, nie martw się – teoretycznie i tak jest jeszcze czas, chociaż premiera komputerów Copilot+ jest już bardzo blisko. (Jednakże Recall nadal może zostać tymczasowo kopnięty, aby go dotknąć, podczas gdy – być może – trwają dalsze prace nad nim).

Jeśli usługa Recall rzeczywiście będzie dostarczana w obecnym stanie, Beaumont zaleca jej wyłączenie: „A także dla jasności, możesz wyłączyć tę opcję w Ustawieniach, gdy zostanie ona dostarczona, i gorąco polecam to zrobić, chyba że zmienią tę funkcję i doświadczenie”.

Tutaj pojawia się kolejna drażliwa kwestia: funkcja oparta na sztucznej inteligencji jest domyślnie włączona. Funkcja przywracania jest podświetlona podczas konfiguracji komputera Copilot+ i można ją wyłączyć, ale sposób, w jaki jest to realizowane, oznacza, że ​​należy zaznaczyć pole, aby wprowadzić ustawienia po konfiguracji, a następnie wyłączyć w tym miejscu opcję Przywołaj – w przeciwnym razie będzie to po prostu pozostawione. Niektórzy użytkownicy systemu Windows 11 prawdopodobnie wpadną w pułapkę niezrozumienia znaczenia opcji pola wyboru podczas instalacji i po prostu domyślnie włączą opcję Przywoływanie.

Nie tak powinna działać taka funkcja – szczególnie biorąc pod uwagę podkreślone tutaj obawy dotyczące prywatności – i jasno wyraziliśmy już nasze odczucia w tej sprawie. Wszystko, co ma szerokie możliwości, takie jak Przywołanie, z pewnością powinno być domyślnie wyłączone – w przeciwnym razie użytkownicy powinni mieć bardzo jasny wybór przedstawiony im podczas konfiguracji. A nie jakieś dziwaczne wybryki typu „zaznacz to pole, przeskocz przez obręcz później”.