Функция AI Recall в Windows 11 названа экспертом по безопасности «одним из самых нелепых недостатков безопасности, которые я когда-либо видел»

Исследователи в области безопасности и наблюдатели за конфиденциальностью уже раскритиковали Microsoft в отношении ее функции Recall, предназначенной для Windows 11, и ей понадобится огнестойкий костюм для последней яростной атаки на эту функцию, основанную на искусственном интеллекте.

Об этом сообщил эксперт по безопасности Кевин Бомонт, как подчеркивает The Verge. На сайте отмечается, что несколько лет назад Бомонт некоторое время работал в Microsoft.

Подведем итоги — если вы как-то пропустили это — Recall — это функция искусственного интеллекта для ПК Copilot+, которая запускается позже в этом месяце и действует как фотографическая временная шкала — по сути, история всего, что вы сделали на своем компьютере, записанная с помощью сделанных снимков экрана. регулярно в фоновом режиме Windows 11.

Бомонт заставил Recall работать на обычном (не Copilot+) ПК – что можно сделать, хотя это не рекомендуется с точки зрения производительности – и возился с ним уже неделю.

Он пришел к выводу, что Microsoft допустила здесь огромную ошибку, по крайней мере, воспользовавшись этой функцией в ее нынешнем виде – и, конечно же, она вот-вот появится. Действительно, Бомонт утверждает, что Microsoft «вероятно, собирается поджечь весь бренд Copilot из-за того, насколько плохо он был реализован и развернут», не меньше.

Так в чем же большая проблема? Ну, в основном, это отсутствие продумывания вопросов безопасности и того, что существует серьезное несоответствие между описанием Microsoft того, как Recall, по-видимому, сохраняется водонепроницаемым, и тем, что обнаружил Бомонт.

Как вы можете видеть в приведенном выше сообщении на X (ранее Twitter), одна из главных претензий эксперта по безопасности к Microsoft заключается в том, что она сообщила средствам массовой информации, что хакер не может получить данные Copilot+ Recall удаленно. Другими словами, злоумышленнику потребуется физический доступ к устройству, лично – а это неправда.

В длинном сообщении в блоге на эту тему Бомонт объясняет: «Это неправильно. Доступ к данным можно получить удаленно». Обратите внимание, что Recall работает полностью локально, как заявила Microsoft – просто невозможно получить доступ к данным удаленно, как предлагается (если, конечно, у вас есть доступ к ПК).

Как уточняет Бомонт, еще одной большой проблемой здесь является сама база данных Recall, которая содержит все данные с этих снимков экрана и историю использования вашего ПК, поскольку все это хранится в виде обычного текста (в базе данных SQLite).

Это позволяет очень легко получить всю информацию, связанную с отзывом, о том, как именно вы использовали свой компьютер с Windows 11 — при условии, что злоумышленник может получить доступ к устройству (удаленно или лично).

Анализ: вспомните функцию «Возврат» или пожалейте об этом

Здесь также есть много других проблем. Как отметила Microsoft, когда представила Recall, нет никаких ограничений на то, что может быть записано в истории активности на вашем ПК с помощью искусственного интеллекта (за исключением некоторых небольших исключений, таких как режим приватного просмотра Microsoft Edge, но не Chrome Incognito, что характерно). ).

Конфиденциальная финансовая информация, например, не будет исключена, и Бомонт далее отмечает, что автоматически удаляемые сообщения в приложениях для обмена сообщениями также будут делаться на скриншотах, чтобы к ним можно было получить доступ через украденную базу данных Recall. Действительно, любое сообщение, которое вы удаляете из таких приложений, как WhatsApp, Signal или что-то еще, может быть прочитано с помощью компрометации отзыва.

Но подождите минутку, вы можете подумать: если хакер получил удаленный доступ к вашему компьютеру, неужели у вас все равно большие проблемы? Ну, да, это правда – не похоже, что к этим данным Recall можно получить доступ, если только ваш компьютер не подвергается активным атакам (хотя отчасти проблема Бомонта заключается в явно ошибочном заявлении Microsoft о том, что любой вид удаленного доступа к данным Recall вообще невозможен, поскольку упомянутое выше).

Самое интересное здесь то, что если кто-то получит доступ к вашему компьютеру, Recall, по-видимому, позволяет злоумышленнику очень легко получить все эти потенциально чрезвычайно конфиденциальные данные о вашей истории использования.

Хотя трояны-похитители информации уже существуют и постоянно очищают жертвы в больших масштабах, Recall может сделать этот вид сбора личных данных невероятно быстрым и простым.

В этом суть критики, как объясняет Бомонт: «Recall позволяет злоумышленникам автоматически очищать все, что вы когда-либо просматривали, за считанные секунды. Во время тестирования с помощью готового информационного вора я использовал Microsoft Defender for Endpoint, который обнаружил готового информационного вора, но к моменту начала автоматического исправления (которое заняло более десяти минут) мои данные отзыва уже давно исчезли».

Это основная причина, по которой Бомонт называет Recall «одним из самых нелепых недостатков безопасности, которые я когда-либо видел».

Если Microsoft не предпримет никаких действий до того, как он выйдет в продажу, имейте в виду – поскольку теоретически время еще есть, хотя выпуск компьютеров Copilot+ уже очень близок. (Тем не менее, Recall все еще можно временно кикнуть, чтобы коснуться, пока над ним продолжают работать — возможно).

Если Recall действительно будет выпущен в том виде, в котором он реализован в настоящее время, Бомонт советует отключить его: «Кроме того, чтобы быть предельно ясным, вы можете отключить это в настройках, когда он выйдет, и я настоятельно рекомендую вам это сделать, если они не переработают эту функцию и опыт».

Здесь кроется еще одна острая проблема: функциональность искусственного интеллекта включена по умолчанию. Вызов подсвечивается во время настройки Copilot+ на ПК, и вы можете отключить его, но способ реализации этого означает, что вам нужно поставить галочку в поле, чтобы войти в настройки после настройки, а затем отключить там возврат – в противном случае это будет просто вышел на. А некоторые пользователи Windows 11, скорее всего, попадут в ловушку, не понимая, что означает флажок во время установки, и в конечном итоге просто по умолчанию будут иметь функцию «Воспоминание».

Подобная функция не должна работать таким образом – особенно с учетом проблем конфиденциальности, о которых здесь говорится – и мы уже довольно ясно выражали свое мнение по этому поводу ранее. Все, что имеет широкие возможности, такие как Recall, должно быть отключено по умолчанию, иначе пользователям должен быть предоставлен очень четкий выбор во время установки. Не какие-то странные махинации типа «поставь галочку, а потом перепрыгни через это кольцо».