Un experto en seguridad critica la función AI Recall de Windows 11 como "una de las fallas de seguridad más ridículas que he visto"

Microsoft ya ha sido arrastrado sobre las brasas con respecto a su funcionalidad Recall entrante para Windows 11 tanto por parte de investigadores de seguridad como de defensores de la privacidad, y necesitará un traje ignífugo para la última oleada de fuego contra la función impulsada por IA.

Esto viene del experto en seguridad Kevin Beaumont, como destaca The Verge. El sitio señala que Beaumont trabajó brevemente para Microsoft hace unos años.

En resumen, en caso de que te lo hayas perdido de alguna manera, Recall es una función de IA para PC Copilot+, que se lanza a finales de este mes y actúa como una línea de tiempo fotográfica, esencialmente un historial de todo lo que has hecho en tu PC, registrado a través de capturas de pantalla tomadas. regularmente en segundo plano de Windows 11.

Beaumont hizo que Recall funcionara en una PC normal (que no sea Copilot+), lo cual se puede hacer, aunque no se recomienda en cuanto al rendimiento, y ha estado trasteando con él durante una semana.

Ha llegado a la conclusión de que Microsoft ha cometido un gran error aquí, al menos siguiendo la característica tal como está implementada actualmente (y está a punto de distribuirse, por supuesto). De hecho, Beaumont afirma que Microsoft “probablemente va a prender fuego a toda la marca Copilot debido a lo mal que se ha implementado y desplegado”, nada menos.

Entonces, ¿cuál es el gran problema? Bueno, principalmente, es la falta de reflexión sobre la seguridad y cómo hay una discrepancia importante entre la descripción de Microsoft de la forma en que Recall aparentemente se mantiene hermético y lo que Beaumont ha descubierto.

Como puede ver en la publicación anterior en X (anteriormente Twitter), uno de los principales problemas del experto en seguridad con Microsoft es que informó a los medios de comunicación que un pirata informático no puede capturar los datos de Copilot+ Recall de forma remota. En otras palabras, un atacante necesitaría acceder al dispositivo físicamente, en persona, y esto no es cierto.

En una larga publicación de blog sobre este tema, Beaumont explica: “Esto está mal. Se puede acceder a los datos de forma remota”. Tenga en cuenta que Recall funciona completamente localmente, como dijo Microsoft; solo que no es imposible acceder a los datos de forma remota, como se sugiere (si puede acceder a la PC, por supuesto).

Como explica Beaumont, el otro gran problema aquí es la propia base de datos Recall, que contiene todos los datos de esas capturas de pantalla y el historial de uso de su PC, ya que todo esto se almacena en texto plano (en una base de datos SQLite).

Esto hace que sea muy fácil recopilar toda la información relacionada con la recuperación de exactamente cómo ha estado usando su PC con Windows 11, suponiendo que un atacante pueda acceder al dispositivo (ya sea de forma remota o en persona).

Análisis: recupere la función Recuperar o se arrepienta

Aquí también hay muchas otras preocupaciones. Como señaló Microsoft cuando reveló Recall, no hay límites a lo que se puede capturar en el historial de actividad de su PC impulsado por IA (salvo algunas pequeñas excepciones, como el modo de navegación privada de Microsoft Edge, pero no Chrome Incognito, de manera reveladora). ).

La información financiera confidencial, por ejemplo, no será excluida, y Beaumont señala además que los mensajes que se eliminan automáticamente en las aplicaciones de mensajería también se tomarán capturas de pantalla, para que se pueda acceder a ellos a través de una base de datos de Recall robada. De hecho, cualquier mensaje que elimine de WhatsApp, Signal o cualquier otro sitio podría leerse mediante un compromiso de recuperación.

Pero espera un momento, podrías estar pensando: si un hacker accede remotamente a tu PC, ¿no estás en serios problemas de todos modos? Bueno, sí, eso es cierto: no es que se pueda acceder a estos detalles de Recall a menos que su PC esté activamente explotada (aunque parte del problema de Beaumont es la declaración aparentemente errónea de Microsoft de que cualquier tipo de acceso remoto a los datos de Recall no era posible en absoluto, ya que mencionado anteriormente).

El verdadero truco aquí es que si alguien accede a su PC, Recall aparentemente hace que sea muy fácil para ese atacante obtener todos estos detalles potencialmente muy sensibles sobre su historial de uso.

Si bien ya existen troyanos ladrones de información que atacan a las víctimas a gran escala de forma continua, Recall podría permitir que este tipo de recolección de datos personales se realice de forma ridículamente rápida y sencilla.

Este es el meollo de la crítica, como lo explica Beaumont: “La recuperación permite a los actores de amenazas automatizar la eliminación de todo lo que has visto en cuestión de segundos. Durante la prueba con un ladrón de información disponible, utilicé Microsoft Defender para Endpoint, que detectó el ladrón de información disponible, pero cuando se activó la corrección automática (que tomó más de diez minutos), mis datos de recuperación ya habían desaparecido hacía mucho tiempo”.

Esta es una de las principales razones por las que Beaumont llama a Recall "una de las fallas de seguridad más ridículas que he visto jamás".

Si Microsoft no toma medidas antes de su lanzamiento, tenga cuidado, ya que todavía hay tiempo, en teoría al menos, aunque el lanzamiento de las PC Copilot+ está muy cerca. (Sin embargo, Recall aún se podría patear temporalmente para tocarlo mientras se trabaja más en él, tal vez).

Si Recall se envía tal como está implementado actualmente, Beaumont recomienda desactivarlo: "Además, para ser muy claro, puedes desactivar esto en Configuración cuando se envía, y te recomiendo encarecidamente que lo hagas a menos que modifiquen la función y la experiencia".

Aquí radica otro tema espinoso: la funcionalidad impulsada por IA está activada de forma predeterminada. La recuperación se resalta durante la experiencia de configuración de Copilot+ en PC y puede desactivarla, pero la forma en que se implementa significa que debe marcar una casilla para ingresar a la configuración después de la configuración y luego desactivar la recuperación allí; de lo contrario, simplemente será dejado en. Y algunos usuarios de Windows 11 probablemente caerán en la trampa de no entender lo que significa la opción de casilla de verificación durante la configuración y terminarán con la recuperación activada de forma predeterminada.

Esta no es la forma en que debería funcionar una característica como esta, especialmente teniendo en cuenta las preocupaciones de privacidad resaltadas aquí, y ya hemos dejado bastante claro nuestra opinión al respecto. Cualquier cosa con capacidades de amplio alcance como Recall debería estar desactivada de forma predeterminada, seguramente, o los usuarios deberían tener una opción muy clara presentada durante la configuración. No es una especie de travesuras extrañas del tipo 'marca esta casilla, salta a través de este aro más tarde'.