zum Inhalt

Datenschutzexperten äußern Bedenken über die neue KI-Technologie von Microsoft.

Die neueste KI-Innovation von Microsoft beunruhigt Experten, da sie von Eindringlingen missbraucht werden könnte.

Eine Demonstration von Microsofts Recall-Funktion auf einem Surface Pro ist nach der Microsoft...
Eine Demonstration von Microsofts Recall-Funktion auf einem Surface Pro ist nach der Microsoft Briefing-Veranstaltung in Redmond, Washington, am 20. Mai 2024 zu sehen.

Datenschutzexperten äußern Bedenken über die neue KI-Technologie von Microsoft.

Diese Woche wurde ein neues Windows-Computer-Tool namens Recall vorgestellt. Es funktioniert wie eine persönliche "Zeitmaschine" und ermöglicht es den Nutzern, schnell alles abzurufen, was jemals auf ihrem Bildschirm angezeigt wurde, einschließlich Dokumente, Bilder und Websites. Anders als bei der Stichwortsuche macht die App regelmäßig Screenshots vom Bildschirm des Nutzers und speichert sie direkt auf dem Gerät. Künstliche Intelligenz verarbeitet die Daten und macht sie durchsuchbar.

Wenn jemand zum Beispiel einmal nach einem grünen Kleid oder dem Namen einer örtlichen Eisdiele gesucht hat, kann er die Funktion auffordern, alle auf dem Bildschirm angezeigten Daten abzurufen.

Obwohl die semantische Suche einen bedeutenden Fortschritt für die KI darstellt, wird sie zu einer Zeit veröffentlicht, in der sich das Feld schnell weiterentwickelt und staatliche Regulierungsbehörden, Unternehmen und Verbraucher herausfinden müssen, wie sie diese Technologie verantwortungsvoll nutzen können.

Jen Golbeck, eine KI-Professorin an der University of Maryland, die sich mit dem Thema Datenschutz beschäftigt, warnt davor, dass die Funktion potenzielle Probleme aufwerfen könnte, wenn das Gerät in die falschen Hände gerät.

"Die Daten bleiben zwar auf dem Gerät, aber das bedeutet nicht, dass andere nicht darauf zugreifen können", sagte sie. "Sie haben keine Möglichkeit, sich zu schützen, selbst wenn Sie den Inkognito-Modus verwenden oder Ihren Verlauf löschen, da das Tool Zugriff auf alles hat, was auf Ihrem Bildschirm war.

Die unabhängige britische Aufsichtsbehörde für Datenschutz und Informationsfreiheit, das Information Commissioner's Office (ICO), untersucht das Tool, um zu verstehen, welche Sicherheitsvorkehrungen zum Schutz der Privatsphäre der Nutzer getroffen wurden.

"Wir erwarten von Unternehmen, dass sie den Nutzern gegenüber transparent sind, wie ihre Daten verwendet werden, und dass sie personenbezogene Daten nur in dem Maße verarbeiten, wie es für die Erreichung eines bestimmten Zwecks erforderlich ist", so das ICO in einer Erklärung.

Microsoft antwortete nicht sofort auf eine Anfrage zur Stellungnahme. CEO Satya Nadella sagte dem Wall Street Journal in einem Interview vor der Einführung, dass Websuchen nur über den Microsoft Edge Webbrowser durchgeführt werden könnten und die Screenshots den Computer des Nutzers nie verlassen würden.

"Man muss zwei Dinge zusammenbringen: Das ist mein Computer, und das ist mein Recall - und das alles wird lokal gemacht", sagte er.

Geoff Blaber, CEO des Marktforschungsunternehmens CCS Insight, hält das Problem für weniger besorgniserregend.

"Die Reaktion einiger auf diese Funktion ist nicht überraschend, aber eine Überreaktion, wenn man bedenkt, dass die Daten ausschließlich auf dem Gerät verbleiben und der Nutzer die volle Kontrolle darüber hat", so Blaber.

Der Benutzer kann bei der Einrichtung des Geräts entscheiden, ob er die Funktion aktivieren möchte, und er kann festlegen, auf welche Apps und Websites Recall zugreifen kann.

"Diese Kontrollen lassen darauf schließen, dass bei der Entwicklung der Funktion Sicherheit und Datenschutz im Mittelpunkt standen", so Blaber. "Recall wird nicht für jeden interessant sein, aber der Nutzen, der sich daraus ergibt, dürfte erheblich sein.

Potenzial für böswillige Nutzung

Golbeck warnte jedoch, dass dieser Schutz in bestimmten Situationen möglicherweise nicht ausreicht, z. B. bei einem Journalisten in einem feindlichen Land, bei einer Person, die versucht, einer missbräuchlichen Beziehung zu entkommen, bei jemandem, der nach sensiblen medizinischen Informationen sucht, oder bei einem Angestellten, dessen Chef ihn überwachen will. Sie geht davon aus, dass der Arbeitsplatz am stärksten betroffen sein wird.

"Wir wissen, dass Arbeitgeber überwachen, was wir auf ihren Geräten tun, aber viele Leute werden auf ihrem Arbeitscomputer etwas Persönliches tun, und all das wird archiviert und ist für eine IT-Abteilung sichtbar, selbst wenn es nur auf dem Gerät bleibt", fügte sie hinzu.

Golbeck sagte, dass der Datenschutz bei der Entwicklung von Technologien oft außer Acht gelassen wurde.

"Wir haben in den letzten 15 Jahren gesehen, dass jeder einzelne dieser potenziell bösartigen Anwendungsfälle auf die eine oder andere Weise zum Tragen kommt. Die Leute wollen diese coole Funktion nutzen, ohne sich des Risikos für die Privatsphäre bewusst zu sein - dass nämlich alles, was man tut, dauerhaft aufgezeichnet wird", sagte sie.

Die Reaktionen auf Funktionen wie biometrische Passwörter, wie Fingerabdrücke, Gesichtserkennung und Iris-Scans, waren in der Vergangenheit geteilt. Blaber erklärte, dass eine Zusammenarbeit zwischen Microsoft und seinen Partnern erforderlich sei, um den Wert, die Sicherheit und den Datenschutz des Produkts in realen Anwendungen zu demonstrieren.

Trotz dieser Maßnahmen hält Michela Menting, Senior Research Director bei ABI Research, die Funktion für einen "Rückschritt" für den Datenschutz.

"Das Argument, dass Hacker physischen Zugang benötigen, um Recall überhaupt manipulieren zu können, ist bestenfalls kurzsichtig, denn es gibt viele sehr einfallsreiche Möglichkeiten, wie Bedrohungsakteure ein solch wertvolles Tool ausnutzen könnten", so Menting. "Es kostet einfach nur Zeit und Mühe, einen Weg zu finden".

Lesen Sie auch:

Quelle: edition.cnn.com

Kommentare

Aktuelles