Windows 11의 AI 리콜 기능은 보안 전문가에 의해 '내가 본 것 중 가장 터무니없는 보안 실패 중 하나'라고 비난했습니다.

Microsoft는 이미 보안 연구원과 개인 정보 보호 감시자 모두에 의해 Windows 11의 리콜 기능과 관련하여 석탄을 끌었습니다. AI 기반 기능에 대한 최신 불길을 막기 위해 난연성 슈트가 필요할 것입니다.

The Verge가 강조한 보안 전문가 Kevin Beaumont의 의견입니다. 이 사이트는 Beaumont가 몇 년 전에 잠시 Microsoft에서 근무했다고 기록하고 있습니다.

요약하자면 – 어떻게든 놓쳤을 경우를 대비해 – Recall은 Copilot+ PC용 AI 기능으로, 이번 달 말에 출시되어 사진 타임라인 역할을 합니다. 기본적으로 PC에서 수행한 모든 작업에 대한 기록이며, 촬영한 스크린샷을 통해 기록됩니다. 정기적으로 Windows 11의 백그라운드에서.

Beaumont는 성능 측면에서 권장되지는 않지만 일반(Copilot+가 아닌) PC에서 Recall 작업을 수행했으며 일주일 동안 이 PC를 만지작거렸습니다.

그는 적어도 현재 구현된 기능을 고려하면 Microsoft가 큰 실수를 저질렀다고 결론 내렸습니다. 물론 곧 출시될 예정입니다. 실제로 Beaumont는 Microsoft가 "이 기능의 구현 및 출시가 얼마나 형편없기 때문에 Copilot 브랜드 전체에 불을 지를 것"이라고 주장합니다.

그렇다면 큰 문제는 무엇입니까? 글쎄요, 주로 보안에 대한 생각이 부족하고 Recall이 완벽하게 유지되는 방식에 대한 Microsoft의 설명과 Beaumont가 발견한 내용 사이에 큰 불일치가 있다는 것입니다.

X(이전의 Twitter)에 대한 위 게시물에서 볼 수 있듯이 보안 전문가가 Microsoft에 대해 강조하는 주요 장점 중 하나는 해커가 Copilot+ Recall 데이터를 원격으로 확보할 수 없다는 점을 언론 매체에 알렸다는 것입니다. 즉, 공격자는 물리적으로 직접 장치에 액세스해야 하지만 이는 사실이 아닙니다.

이 주제에 대한 긴 블로그 게시물에서 Beaumont는 다음과 같이 설명합니다. “이것은 잘못된 것입니다. 데이터에 원격으로 액세스할 수 있습니다.” Microsoft가 말했듯이 Recall은 전적으로 로컬에서 작동합니다. 제안된 대로(물론 PC에 액세스할 수 있는 경우) 원격으로 데이터에 접근하는 것이 불가능하지는 않습니다.

Beaumont가 자세히 설명했듯이 여기서 또 다른 큰 문제는 스크린샷의 모든 데이터와 PC 사용 기록을 포함하는 Recall 데이터베이스 자체입니다. 이 모든 내용은 일반 텍스트(SQLite 데이터베이스)로 저장됩니다.

이렇게 하면 공격자가 장치에 원격으로 또는 직접 액세스할 수 있다고 가정할 때 Windows 11 PC를 정확히 어떻게 사용했는지에 대한 모든 Recall 관련 정보를 매우 쉽게 빼낼 수 있습니다.

분석: Recall 기능을 떠올릴 것인가, 아니면 후회할 것인가

여기에도 더 많은 우려가 있습니다. Microsoft가 Recall을 공개했을 때 지적했듯이 AI 기반 PC 활동 내역에서 캡처할 수 있는 항목에는 제한이 없습니다. ).

예를 들어 민감한 금융 정보는 제외되지 않으며 Beaumont는 메시징 앱에서 자동 삭제되는 메시지도 스크린샷으로 캡처되므로 도난당한 리콜 데이터베이스를 통해 액세스할 수 있다고 덧붙입니다. 실제로 WhatsApp, Signal 등에서 삭제한 모든 메시지는 리콜 손상을 통해 읽을 수 있습니다.

하지만 잠깐만요. 해커가 귀하의 PC에 원격으로 접근한다면 어쨌든 큰 문제에 빠지지 않을까?라고 생각할 수도 있습니다. 네, 그렇습니다. PC가 적극적으로 악용되지 않는 한 이러한 Recall 세부 정보에 액세스할 수는 없습니다(Beaumont의 문제 중 하나는 Microsoft가 Recall 데이터에 대한 모든 종류의 원격 액세스가 전혀 불가능하다는 잘못된 진술을 한 것임에도 불구하고). 위에 언급했듯이).

여기서 가장 중요한 점은 누군가가 귀하의 PC에 액세스하는 경우 Recall을 사용하면 해당 공격자가 사용 기록에 대해 잠재적으로 매우 민감한 모든 세부 정보를 매우 쉽게 얻을 수 있다는 것입니다.

정보 도둑질 트로이 목마가 이미 존재하고 지속적으로 대규모로 피해자를 긁어 모으고 있는 반면, Recall을 사용하면 이러한 종류의 개인 데이터 후버링을 엄청나게 빠르고 쉽게 수행할 수 있습니다.

Beaumont가 설명하는 것처럼 이것이 비판의 핵심입니다. “Recall을 통해 위협 행위자는 사용자가 본 모든 것을 몇 초 내에 자동으로 스크랩할 수 있습니다. 기성 Infostealer를 사용하여 이를 테스트하는 동안 기성 Infostealer를 감지한 Microsoft Defender for Endpoint를 사용했지만 자동화된 교정이 시작될 때(10분 이상 소요) 내 Recall 데이터는 이미 사라진 지 오래였습니다.”

이것이 Beaumont가 Recall을 "내가 본 것 중 가장 터무니없는 보안 실패 중 하나"라고 부르는 이유의 주요 부분입니다.

Microsoft가 출시 전에 조치를 취하지 않는다면 염두에 두십시오. Copilot+ PC 출시가 이제 매우 임박했지만 이론상으로는 아직 시간이 있기 때문입니다. (그러나 Recall은 추가 작업이 진행되는 동안 일시적으로 터치할 수 있습니다. 아마도).

Recall이 현재 구현된 대로 출시된다면 Beaumont는 이를 끄라고 조언합니다. "또한 매우 명확하게 설명하기 위해 출시될 때 설정에서 이 기능을 비활성화할 수 있습니다. 기능과 경험을 재작업하지 않는 한 그렇게 하는 것이 좋습니다."

여기에는 또 다른 까다로운 문제가 있습니다. AI 기반 기능은 기본적으로 켜져 있습니다. Recall은 Copilot+ PC 설정 중에 강조 표시되며 끌 수 있지만 이것이 구현되는 방식은 설정 후 설정을 입력하려면 상자를 선택한 다음 거기에서 Recall을 꺼야 함을 의미합니다. 그렇지 않으면 단순히 왼쪽. 그리고 일부 Windows 11 사용자는 설정 중에 체크박스 옵션이 무엇을 의미하는지 이해하지 못하는 함정에 빠지고 결국 기본적으로 Recall이 켜진 상태로 끝날 수도 있습니다.

특히 여기에서 강조된 개인 정보 보호 문제를 고려할 때 이는 이와 같은 기능이 작동하는 방식이 아니며, 우리는 이전에 이에 대한 우리의 생각을 아주 명확하게 밝혔습니다. Recall과 같은 광범위한 기능이 있는 모든 기능은 기본적으로 꺼져 있어야 합니다. 그렇지 않으면 사용자는 설정 중에 매우 명확한 선택 사항을 제시해야 합니다. '이 상자를 체크하고 나중에 이 고리를 뛰어 넘는' 일종의 이상한 헛소리가 아닙니다.