La fonctionnalité AI Recall de Windows 11 est qualifiée par un expert en sécurité de « l'une des failles de sécurité les plus ridicules que j'ai jamais vues »

Microsoft a déjà été traîné sur les charbons concernant sa fonctionnalité de rappel entrante pour Windows 11 par les chercheurs en sécurité et les organismes de surveillance de la vie privée – et il aura besoin d'une combinaison ignifuge pour la dernière effusion de feu contre la fonctionnalité alimentée par l'IA.

Cela vient de l'expert en sécurité Kevin Beaumont, comme le souligne The Verge. Le site note que Beaumont a brièvement travaillé pour Microsoft il y a quelques années.

Pour récapituler – au cas où vous l'auriez manqué d'une manière ou d'une autre – Recall est une fonctionnalité d'IA pour les PC Copilot+, qui sera lancée plus tard ce mois-ci et agit comme une chronologie photographique – essentiellement un historique de tout ce que vous avez fait sur votre PC, enregistré via des captures d'écran prises. régulièrement en arrière-plan de Windows 11.

Beaumont a fait fonctionner Recall sur un PC normal (non-Copilot+) – ce qui peut être fait, même si cela n'est pas recommandé en termes de performances – et s'y amuse depuis une semaine.

Il est arrivé à la conclusion que Microsoft a commis une énorme erreur ici, du moins en se basant sur la fonctionnalité telle qu'elle est actuellement implémentée – et elle est sur le point d'être livrée, bien sûr. En effet, Beaumont affirme que Microsoft « va probablement mettre le feu à l’ensemble de la marque Copilot en raison de la mauvaise mise en œuvre et du déploiement de celle-ci », rien de moins.

Alors, quel est le gros problème ? Eh bien, principalement, c'est le manque de réflexion sur la sécurité et la différence majeure entre la description de Microsoft sur la façon dont Recall est apparemment maintenu étanche et ce que Beaumont a trouvé.

Comme vous pouvez le voir dans l'article ci-dessus sur X (anciennement Twitter), l'un des principaux problèmes de l'expert en sécurité avec Microsoft est qu'il a informé les médias qu'un pirate informatique ne peut pas récupérer les données de Copilot+ Recall à distance. En d’autres termes, un attaquant devrait accéder physiquement à l’appareil, en personne – et ce n’est pas vrai.

Dans un long article de blog sur ce sujet, Beaumont explique : « C’est faux. Les données sont accessibles à distance. Notez que Recall fonctionne entièrement localement, comme l'a dit Microsoft – c'est juste qu'il n'est pas impossible d'accéder aux données à distance, comme suggéré (si vous pouvez accéder au PC, bien sûr).

Comme Beaumont l'explique, l'autre gros problème ici est la base de données Recall elle-même, qui contient toutes les données de ces captures d'écran et l'historique de l'utilisation de votre PC – car tout cela est stocké en texte brut (dans une base de données SQLite).

Cela permet d'extraire très facilement toutes les informations liées au rappel sur la façon exacte dont vous utilisez votre PC Windows 11 – en supposant qu'un attaquant puisse accéder à l'appareil (soit à distance, soit en personne).

Analyse : rappelez la fonction de rappel ou regrettez-la

Il y a ici aussi de nombreuses autres préoccupations. Comme Microsoft l'a souligné lors de la publication de Recall, il n'y a aucune limite à ce qui peut être capturé dans l'historique de l'activité sur votre PC, alimenté par l'IA (à l'exception de quelques légères exceptions, comme le mode de navigation privée de Microsoft Edge – mais pas Chrome Incognito, ce qui est révélateur). ).

Les informations financières sensibles, par exemple, ne seront pas exclues, et Beaumont souligne en outre que les messages supprimés automatiquement dans les applications de messagerie seront également capturés, afin qu'ils puissent être consultés via une base de données de rappel volée. En effet, tout message que vous supprimez de WhatsApp, Signal ou autre pourrait être lu via un compromis de rappel.

Mais attendez une minute, vous pensez peut-être : si un pirate informatique accède à distance à votre PC, n'êtes-vous pas en grande difficulté de toute façon ? Eh bien, oui, c'est vrai – ce n'est pas comme si ces détails de rappel étaient accessibles à moins que votre PC ne soit activement exploité (bien qu'une partie du problème de Beaumont soit la déclaration apparemment erronée de Microsoft selon laquelle tout type d'accès à distance aux données de rappel n'était pas du tout possible, car mentionné ci-dessus).

Le vrai problème ici est que si quelqu'un accède à votre PC, Recall permet apparemment à cet attaquant de récupérer très facilement tous ces détails potentiellement extrêmement sensibles sur votre historique d'utilisation.

Alors que des chevaux de Troie voleurs d'informations existent déjà et éliminent régulièrement les victimes à grande échelle, Recall pourrait permettre d'effectuer ce type d'aspiration de données personnelles de manière ridiculement rapide et facile.

C'est là le nœud de la critique, comme l'explique Beaumont : « Le rappel permet aux acteurs de la menace d'automatiser la suppression de tout ce que vous avez consulté en quelques secondes. Lors du test avec un infostealer prêt à l'emploi, j'ai utilisé Microsoft Defender pour Endpoint – qui a détecté l'infostealer prêt à l'emploi – mais au moment où la correction automatisée a démarré (ce qui a pris plus de dix minutes), mes données de rappel avaient déjà disparu depuis longtemps.

C’est en grande partie la raison pour laquelle Beaumont qualifie Recall de « l’une des failles de sécurité les plus ridicules que j’ai jamais vues ».

Si Microsoft ne prend pas de mesures avant sa livraison, faites attention – car il est encore temps, en théorie de toute façon, même si la sortie des PC Copilot+ est très proche maintenant. (Cependant, Recall pourrait toujours être temporairement expulsé pour être touché pendant qu'il est travaillé davantage – peut-être).

Si Recall est livré tel qu'il est actuellement implémenté, Beaumont conseille de le désactiver : "Pour être également très clair, vous pouvez le désactiver dans les paramètres lors de la livraison, et je vous recommande fortement de le faire à moins qu'ils ne retravaillent la fonctionnalité et l'expérience."

C’est ici que réside un autre problème épineux : la fonctionnalité basée sur l’IA est activée par défaut. Le rappel est mis en évidence lors de l'expérience de configuration du Copilot+ PC, et vous pouvez le désactiver, mais la façon dont cela est implémenté signifie que vous devez cocher une case pour entrer les paramètres après la configuration, puis désactiver le rappel ici – sinon, ce sera simplement à gauche sur. Et certains utilisateurs de Windows 11 tomberont probablement dans le piège de ne pas comprendre ce que signifie l'option de case à cocher lors de l'installation et se retrouveront simplement avec le rappel activé par défaut.

Ce n’est pas ainsi qu’une fonctionnalité comme celle-ci devrait fonctionner – en particulier compte tenu des problèmes de confidentialité soulignés ici – et nous avons déjà exprimé clairement nos sentiments à ce sujet. Tout ce qui a des capacités étendues comme Recall devrait sûrement être désactivé par défaut – ou les utilisateurs devraient avoir un choix très clair qui leur soit présenté lors de la configuration. Pas une sorte de manigances étranges du genre « cochez cette case, sautez dans ce cerceau plus tard ».