Sicherheitsrisiko: Microsofts KI-Assistent Recall

Microsofts KI-Assistent Recall ist ein Sicherheitsrisiko

Ankündigung und Aufsehen


Bei der diesjährigen Microsoft Build wurde die Funktion Recall vorgestellt. Seitdem sorgt sie für mächtig Aufsehen. Die Idee hinter Recall klingt beeindruckend - es wurde jedoch schnell ein Sicherheitsrisiko erkannt.



Funktionsweise & Gedächtnisstütze


Recall, ein Screenshot alle fünf Sekunden erstellt vorausgesetzt sich der Inhalt des Bildschirms ändert indexiert diese Screenshots als Gedächtnisstütze. Dank KI-gestützter Text- und Bilderkennung funktioniert - ebenfalls bei unscharfen Suchanfragen, erzeugt das Tool passende Ergebnisse. Ähnlich der macOS-Software Rewind.ai.



Lokaler Betrieb und Verschlüsselung


Der zugrundeliegende Azure AI-Code arbeitet lokal auf den Geräten. Kein Internet notwendig und ohne Microsoft-Konto nutzbar. Bei aktivierter BitLocker-Funktion oder Anmeldung mit Microsoft-Konto - die gesamten Laufwerke im Ruhezustand verschlüsselt. Gleiches gilt für die erstellten Recall-Snapshots. OCR (optische Zeichenerkennung) sammelt Informationen und speichert alles in einer SQLite-Datenbank, lokal. Nach Anwendung sortieren.



Ein PC mit 256 GByte speichert davon über drei Monate.

Speichern & Zugriffsrisiken


Problematisch ist die Tatsache. Dass Recall standardmäßig aktiviert ist. Es erfasst auch Aktivitäten die der Nutzer möglicherweise nicht dokumentieren möchte. Inkognito-Seitenbesuche oder gelöschte Dateien eingeschlossen. Die SQLite-Datenbank leicht zugänglich ist - jeder lokale Nutzer könnte sie lesen und exportieren. Dazu sind keine Adminrechte nötig erklärt Sicherheitsforscher Kevin Beaumont.



Ein Schädling könnte diese Daten ähnlich wie einfach erfassen.

Aktivierung und Datenbankstruktur


In einer Testumgebung konnten wir Recall mithilfe der auf GitHub verfügbaren Software "AmperageKit" aktivieren. Dieser aufwendige; langsame Prozess erforderte den Download von archive.org vor der Nutzung. Ein Neustart war ebenfalls notwendig - danach wurde Recall in den Einstellungen aktiviert.



Zu entdecken war die SQLite3-Datenbank im Verzeichnis AppData\Local\CoreAIPlatform.00\UKP\ des Benutzerprofils. Jpegs der Screenshots leicht mit einem Browser oder Bildbearbeitungsprogramm zu öffnen.



Manuelle Ausschlüsse & Standardeinstellungen


Bestimmte Webseiten und Apps lassen sich in den Einstellungen manuell von der Recall-Dokumentation ausschließen. Obwohl theoretisch möglich - viele Nutzer ändern Standardeinstellungen nicht häufig.



Kevin Beaumont gibt Microsoft Zeit nachzubessern - steht allerdings TotalRecall zur Verfügung - ein Skript, das zeigt, ebenso wie einfach Daten gestohlen werden können. Derzeit überwiegt das Risiko die potenziellen Vorteile bei weitem.






Kommentare


Anzeige