SteveJ
V:I:P
- Registriert
- 21 Apr. 2010
- Themen
- 1.047
- Beiträge
- 3.240
- Reaktionen
- 8.402
Microsoft baut die KI-Funktionen in Windows 11 und Copilot weiter aus...
Auf der kürzlich veranstalteten Entwicklerkonferenz Build (21. bis 23. Mai 2024) wurde mit Recall eine Erinnerungsfunktion für den KI-Assistenten vorgestellt, die unter Experten bereit höchst umstritten ist:
Wie in einem Videospiel werden dabei in regelmäßigen Abständen Speicherstände der Aktivitäten des Users angefertigt, sogenannte "Snapshots".
In diesen Schnappschüssen werden alle aktuellen Aktivitäten, Eingaben auf dem Desktop, kürzlich verwendete Dateien mit Zeitpunkt der Verwendung und dergleichen gesammelt – kurz gesagt handelt es sich um eine umfangreiche Dokumentation von alledem, was der Anwender zuletzt getan hat.
Recall speichert diese Aktivitäten in einer Datei (angeblich nur lokal...), analysiert sie mit einer OCR-Funktion und wertet sie aus.
Die Erkenntnisse sammelt das Tool dann für seine Assistenzfunktion.
Sinn und Zweck dahinter soll eine bessere Unterstützung für die User sein, die dadurch schneller an relevante Dateien gelangen sollen und somit weniger manuelle Suchen durchführen müssen.
Wie praktisch, könnte man meinen, dass Windows mir bald das Suchen am PC erleichtert...
Der PC wird damit aber faktisch zur totalitären Überwachungsmaschine. Klingt schon weniger praktisch, eher gefährlich.
Nehmen wir als Beispiel an, man hat grade z.B. die Software KeePass offen – einen Passwort-Manager, der deine gesamten Anmeldedaten sicher speichern soll.
Recall könnte Screenshots machen, während KeePass geöffnet ist, und diese Screenshots könnten sensible Informationen enthalten.
Wenn das System dann von einem Hacker kompromittiert wird, hat dieser potenziell Zugriff auf alle gespeicherten Passwörter und andere vertrauliche Informationen.
Diese Situation könnte katastrophale Folgen haben, da der Angreifer nun die volle Kontrolle über sämtliche gespeicherten Online-Konten erlangen könnte. 🙈
Eine schöne Vorstellung, nicht wahr? Genau das, was wir uns alle erhofft haben! 🤪
Und auch belastend ist das Ganze für die Hardware:
Mindestens 16 GByte RAM sind gefordert, ein Prozessor mit acht Threads, und bei einer 512-GByte-SSD will Recall bis zu 75 GByte haben.
Bevor das Ding also Suchen verkürzen kann, macht es vermutlich erst mal alles langsamer.
Wer seinen PC ständig per Taskmanager und anderen Tools überwacht, kann jetzt schon zusehen, wie die Indizierung der heutigen Suche oder die Telemetriemessungen von Windows das System regelmäßig ausbremsen.
Recall wird deshalb auch zunächst nur auf den Copilot+ PCs verfügbar sein, die extra für KI-Anwendungen ausgelegt sind.
Es ist dann vermutlich nur eine Frage der Zeit, bis Microsoft allein schon deswegen – vielleicht auch nur als Vorwand – anbietet, die Indizierung und die KI-Erkennung auf Server auszulagern:
Alle Screenshots und andere Daten dort speichern, von leistungsstarker Hardware verarbeiten lassen, und nur die Ergebnisse ausliefern.
Oder gleich als Service in der Cloud, natürlich per Abo.
So eine Art Suchmaschine für das ganze Unternehmen, für die Aktivitäten aller Mitarbeiter.
Vielleicht, um im obigen Beispiel zu bleiben, hat mein Kollege ja die gesuchte Webseite neulich auch aufgerufen?
Spätestens an diesem Punkt wird es dann mutmaßlich illegal...
Die detaillierte Überwachung von Mitarbeitern ist nämlich durch verschiedene Vorgaben verboten, nicht nur durch die in der EU geltende DSGVO.
Auch das Fernmeldegeheimnis, das Betriebsverfassungsgesetz – all das wird von einem so einschneidenden System wie Microsofts Dauer-Screenrecorder berührt.
Wohl auch deshalb gibt es bereits eine Anleitung, wie man per Gruppenrichtlinie Recall deaktiviert...
Ohne zumindest eine entsprechend formulierte Betriebsvereinbarung dürfte man nach meinem Dafürhalten so ein System in einem deutschen Unternehmen auch gar nicht einsetzen.
An der Stelle, wo während der Microsoft-Vorstellung von Recall jemand sagte: "Hey, lass mal alle 5 Sekunden bei jedem PC den Bildschirminhalt speichern.", hätte in einem deutschen Unternehmen mindestens der zuständige Datenschutzbeauftragte dann mit Gegenständen geworfen...
Mehr Fachkompetenz kann hier vielleicht unsere "Boardjuristin" @Glamour Girl beisteuern.
Dazu kommt, bemühen wir mal ein grobes geflügeltes Wort der Security-Szene, auch noch Folgendes: "Wo ein Trog steht, da kommen die Schweine."
Die Begehrlichkeiten nach allen Aktivitäten eines Menschen an seinem Computer sind jetzt schon riesig.
Angefangen von Arbeitgebern, Werbetreibenden, bis hin zu Strafverfolgern. Für letztere könnte Recall geradezu perfekt geschaffen sein.
Bemüht man sich heute darum, bei Razzien nach schweren Straftaten laufende und entsperrte Systeme zu beschlagnahmen, so wäre die Beweissicherung vermutlich künftig viel einfacher.
Noch schwerer wiegt, dass wir uns schleichend daran gewöhnen, dass der als "persönlicher Computer" gestartete PC nicht mehr uns gehört.
Natürlich war mit der Bezeichnung gemeint, nicht mehr statt Terminals und anderen Techniken jedem Mitarbeiter einen Computer auf oder unter den Schreibtisch zu stellen.
Mit der Verbreitung in Privathaushalten hat sich der PC aber schon vor Jahrzehnten zum eigenen, eben persönlichen Datenspeicher gewandelt.
Wir haben uns schon daran gewöhnt, auf Webseiten und in Apps ausspioniert zu werden, ständig mit Werbung konfrontiert zu sein, und dass unser Auto uns evtl. bei der Versicherung verpetzt.
Der PC, mit ein bisschen Handarbeit letzter Ort der digitalen Privatsphäre, darf nicht auch noch vollständig überwacht werden.
Wenn wir uns auch noch daran gewöhnen, ist es nicht mehr weit, bis Kamera und Mikrofon ständig eingeschaltet werden, weil wir vielleicht mal etwas Sinnvolles gesagt haben, im Meeting die Stirn runzelten, als der Chef etwas Superwichtiges sagte – die Information kann man ja sicher nochmal irgendwann brauchen... 🙈
Da dabei aber auch eine ganze Reihe sensibler Informationen gespeichert und ausgewertet werden könnten, hat jetzt beispielsweise die oberste Datenschutzbehörde Großbritanniens die Ermittlungen aufgenommen.
Wie der Nachrichtensender BBC berichtet, hat das Informations Commissioner's Office (ICO) bei Microsoft angefragt, wie es um den Schutz der Privatsphäre der Anwenderinnen und Anwender bestellt ist.
Darin fordert die Behörde zudem Auskunft darüber, wie das Unternehmen aus Redmond (US-Bundesstaat Washington) vor einem Release seiner Produkte sicherstellt, dass alle Rechte und Freiheiten seiner Kunden gewahrt werden.
Zum Glück ist bereits eine einfache Möglichkeit dokumentiert, dieses zweifelhafte Feature zu deaktivieren:
Ein kleiner Schritt für den Menschen, ein großer Schritt für die Privatsphäre!
Verschiedene Stimmen aus der Tech-Branche halten die neuen Funktionen, die Hersteller wie Microsoft auf Computer für Privatanwender zwingen, für sehr bedenklich.
Dr. Kris Shrishak, seines Zeichens Datenschutzexperte und Berater des European Data Protection Boards der Europäischen Union, nennt das neue Feature etwa einen "Privatsphäre-Albtraum".
Auch Michael Will, Präsident des Bayerischen Landesamt für Datenschutzaufsicht und damit zuständig für Microsoft in Deutschland, sieht derzeit eine Vielzahl ungeklärter Fragen.
Das Landesamt habe bisher weder genauere Details zur Funktion vorliegen, noch die Möglichkeit gehabt, das Feature unabhängig zu überprüfen.
Man sei mit Microsoft "in laufendem Kontakt", warte bezüglich Recall allerdings noch auf weiterführende Informationen.
Grundsätzlich bestünden aber sowohl im privaten, als auch beruflichen Gebrauch "massive Fragen der Datensicherheit, also nach dem Schutz gegen unbefugte Zugriffe, insbesondere durch physischen Zugriff auf das Gerät im Fall von Verlust oder Diebstahl“.
Damit Recall in Europa überhaupt Einzug halten könne, müsse das neue Feature "als Grundeinstellung zunächst deaktiviert bleiben, bis der verantwortliche Nutzer über seinen Einsatz auf Grundlage genauer Information eine bewusste Entscheidung getroffen hat“.
Quellen: Heise, ICO, t3n, Microsoft, Computer-Bild, Bayerisches Landesamt für Datenschutzaufsicht
Auf der kürzlich veranstalteten Entwicklerkonferenz Build (21. bis 23. Mai 2024) wurde mit Recall eine Erinnerungsfunktion für den KI-Assistenten vorgestellt, die unter Experten bereit höchst umstritten ist:
Wie in einem Videospiel werden dabei in regelmäßigen Abständen Speicherstände der Aktivitäten des Users angefertigt, sogenannte "Snapshots".
In diesen Schnappschüssen werden alle aktuellen Aktivitäten, Eingaben auf dem Desktop, kürzlich verwendete Dateien mit Zeitpunkt der Verwendung und dergleichen gesammelt – kurz gesagt handelt es sich um eine umfangreiche Dokumentation von alledem, was der Anwender zuletzt getan hat.
Recall speichert diese Aktivitäten in einer Datei (angeblich nur lokal...), analysiert sie mit einer OCR-Funktion und wertet sie aus.
Die Erkenntnisse sammelt das Tool dann für seine Assistenzfunktion.
Sinn und Zweck dahinter soll eine bessere Unterstützung für die User sein, die dadurch schneller an relevante Dateien gelangen sollen und somit weniger manuelle Suchen durchführen müssen.
Wie praktisch, könnte man meinen, dass Windows mir bald das Suchen am PC erleichtert...
Der PC wird damit aber faktisch zur totalitären Überwachungsmaschine. Klingt schon weniger praktisch, eher gefährlich.
Nehmen wir als Beispiel an, man hat grade z.B. die Software KeePass offen – einen Passwort-Manager, der deine gesamten Anmeldedaten sicher speichern soll.
Recall könnte Screenshots machen, während KeePass geöffnet ist, und diese Screenshots könnten sensible Informationen enthalten.
Wenn das System dann von einem Hacker kompromittiert wird, hat dieser potenziell Zugriff auf alle gespeicherten Passwörter und andere vertrauliche Informationen.
Diese Situation könnte katastrophale Folgen haben, da der Angreifer nun die volle Kontrolle über sämtliche gespeicherten Online-Konten erlangen könnte. 🙈
Eine schöne Vorstellung, nicht wahr? Genau das, was wir uns alle erhofft haben! 🤪
Und auch belastend ist das Ganze für die Hardware:
Mindestens 16 GByte RAM sind gefordert, ein Prozessor mit acht Threads, und bei einer 512-GByte-SSD will Recall bis zu 75 GByte haben.
Bevor das Ding also Suchen verkürzen kann, macht es vermutlich erst mal alles langsamer.
Wer seinen PC ständig per Taskmanager und anderen Tools überwacht, kann jetzt schon zusehen, wie die Indizierung der heutigen Suche oder die Telemetriemessungen von Windows das System regelmäßig ausbremsen.
Recall wird deshalb auch zunächst nur auf den Copilot+ PCs verfügbar sein, die extra für KI-Anwendungen ausgelegt sind.
Es ist dann vermutlich nur eine Frage der Zeit, bis Microsoft allein schon deswegen – vielleicht auch nur als Vorwand – anbietet, die Indizierung und die KI-Erkennung auf Server auszulagern:
Alle Screenshots und andere Daten dort speichern, von leistungsstarker Hardware verarbeiten lassen, und nur die Ergebnisse ausliefern.
Oder gleich als Service in der Cloud, natürlich per Abo.
So eine Art Suchmaschine für das ganze Unternehmen, für die Aktivitäten aller Mitarbeiter.
Vielleicht, um im obigen Beispiel zu bleiben, hat mein Kollege ja die gesuchte Webseite neulich auch aufgerufen?
Spätestens an diesem Punkt wird es dann mutmaßlich illegal...
Die detaillierte Überwachung von Mitarbeitern ist nämlich durch verschiedene Vorgaben verboten, nicht nur durch die in der EU geltende DSGVO.
Auch das Fernmeldegeheimnis, das Betriebsverfassungsgesetz – all das wird von einem so einschneidenden System wie Microsofts Dauer-Screenrecorder berührt.
Wohl auch deshalb gibt es bereits eine Anleitung, wie man per Gruppenrichtlinie Recall deaktiviert...
Ohne zumindest eine entsprechend formulierte Betriebsvereinbarung dürfte man nach meinem Dafürhalten so ein System in einem deutschen Unternehmen auch gar nicht einsetzen.
An der Stelle, wo während der Microsoft-Vorstellung von Recall jemand sagte: "Hey, lass mal alle 5 Sekunden bei jedem PC den Bildschirminhalt speichern.", hätte in einem deutschen Unternehmen mindestens der zuständige Datenschutzbeauftragte dann mit Gegenständen geworfen...
Mehr Fachkompetenz kann hier vielleicht unsere "Boardjuristin" @Glamour Girl beisteuern.
Dazu kommt, bemühen wir mal ein grobes geflügeltes Wort der Security-Szene, auch noch Folgendes: "Wo ein Trog steht, da kommen die Schweine."
Die Begehrlichkeiten nach allen Aktivitäten eines Menschen an seinem Computer sind jetzt schon riesig.
Angefangen von Arbeitgebern, Werbetreibenden, bis hin zu Strafverfolgern. Für letztere könnte Recall geradezu perfekt geschaffen sein.
Bemüht man sich heute darum, bei Razzien nach schweren Straftaten laufende und entsperrte Systeme zu beschlagnahmen, so wäre die Beweissicherung vermutlich künftig viel einfacher.
Noch schwerer wiegt, dass wir uns schleichend daran gewöhnen, dass der als "persönlicher Computer" gestartete PC nicht mehr uns gehört.
Natürlich war mit der Bezeichnung gemeint, nicht mehr statt Terminals und anderen Techniken jedem Mitarbeiter einen Computer auf oder unter den Schreibtisch zu stellen.
Mit der Verbreitung in Privathaushalten hat sich der PC aber schon vor Jahrzehnten zum eigenen, eben persönlichen Datenspeicher gewandelt.
Wir haben uns schon daran gewöhnt, auf Webseiten und in Apps ausspioniert zu werden, ständig mit Werbung konfrontiert zu sein, und dass unser Auto uns evtl. bei der Versicherung verpetzt.
Der PC, mit ein bisschen Handarbeit letzter Ort der digitalen Privatsphäre, darf nicht auch noch vollständig überwacht werden.
Wenn wir uns auch noch daran gewöhnen, ist es nicht mehr weit, bis Kamera und Mikrofon ständig eingeschaltet werden, weil wir vielleicht mal etwas Sinnvolles gesagt haben, im Meeting die Stirn runzelten, als der Chef etwas Superwichtiges sagte – die Information kann man ja sicher nochmal irgendwann brauchen... 🙈
Da dabei aber auch eine ganze Reihe sensibler Informationen gespeichert und ausgewertet werden könnten, hat jetzt beispielsweise die oberste Datenschutzbehörde Großbritanniens die Ermittlungen aufgenommen.
Wie der Nachrichtensender BBC berichtet, hat das Informations Commissioner's Office (ICO) bei Microsoft angefragt, wie es um den Schutz der Privatsphäre der Anwenderinnen und Anwender bestellt ist.
Darin fordert die Behörde zudem Auskunft darüber, wie das Unternehmen aus Redmond (US-Bundesstaat Washington) vor einem Release seiner Produkte sicherstellt, dass alle Rechte und Freiheiten seiner Kunden gewahrt werden.
Zum Glück ist bereits eine einfache Möglichkeit dokumentiert, dieses zweifelhafte Feature zu deaktivieren:
- "Einstellungen“ öffnen.
- Zu "Datenschutz und Sicherheit" gehen.
- "Recall & Snapshots“ auswählen.
- "Snapshots speichern“ deaktivieren.
Ein kleiner Schritt für den Menschen, ein großer Schritt für die Privatsphäre!
Verschiedene Stimmen aus der Tech-Branche halten die neuen Funktionen, die Hersteller wie Microsoft auf Computer für Privatanwender zwingen, für sehr bedenklich.
Dr. Kris Shrishak, seines Zeichens Datenschutzexperte und Berater des European Data Protection Boards der Europäischen Union, nennt das neue Feature etwa einen "Privatsphäre-Albtraum".
Auch Michael Will, Präsident des Bayerischen Landesamt für Datenschutzaufsicht und damit zuständig für Microsoft in Deutschland, sieht derzeit eine Vielzahl ungeklärter Fragen.
Das Landesamt habe bisher weder genauere Details zur Funktion vorliegen, noch die Möglichkeit gehabt, das Feature unabhängig zu überprüfen.
Man sei mit Microsoft "in laufendem Kontakt", warte bezüglich Recall allerdings noch auf weiterführende Informationen.
Grundsätzlich bestünden aber sowohl im privaten, als auch beruflichen Gebrauch "massive Fragen der Datensicherheit, also nach dem Schutz gegen unbefugte Zugriffe, insbesondere durch physischen Zugriff auf das Gerät im Fall von Verlust oder Diebstahl“.
Damit Recall in Europa überhaupt Einzug halten könne, müsse das neue Feature "als Grundeinstellung zunächst deaktiviert bleiben, bis der verantwortliche Nutzer über seinen Einsatz auf Grundlage genauer Information eine bewusste Entscheidung getroffen hat“.
Quellen: Heise, ICO, t3n, Microsoft, Computer-Bild, Bayerisches Landesamt für Datenschutzaufsicht
Zuletzt bearbeitet:
