Enorme Sicherheitsbedenken gegen chinesische KI DeepSeek
Enorme Sicherheitsbedenken gegen chinesische KI DeepSeek
Die Warnungen vor Sicherheitslücken bei der chinesischen KI DeepSeek werden immer lauter. So werden etwa Profile der Nutzer erstellt, und diese Daten werden in China gespeichert.
Behörden und Cybersicherheitsfachleute haben gravierende Sicherheitsbedenken gegen die chinesische KI DeepSeek. Dabei geht es gleich um mehrere Punkte: die offenkundig sehr weitreichende Speicherung von Nutzerdaten, die Manipulierbarkeit der Anwendung für kriminelle Zwecke und die Frage, inwieweit der chinesische Spionage- und Überwachungsapparat Zugriff auf Nutzerdaten hat.
Speicherung von Tastatureingaben
Ein wesentlicher Kritikpunkt ist die Speicherung der Tastatureingaben. DeepSeek informiert in seinen Datenschutzhinweisen darüber, dass "Tastatureingabemuster oder -rhythmen" (keystroke patterns or rhythms) erfasst werden - ein Verfahren, das zur Identifizierung von Nutzern eingesetzt werden kann.
"Auch Tastatureingaben innerhalb der App können womöglich mitgelesen werden, bevor sie abgeschickt werden", sagt eine Sprecherin des Bundesamts für Sicherheit in der Informationstechnik (BSI) auf Anfrage der Nachrichtenagentur dpa: "Daneben wird die Art und Weise, wie Tastatureingaben vorgenommen werden, gespeichert."
Mit solchen Mustern könnten mit Hilfe Künstlicher Intelligenz Nutzprofile erstellt und wiedererkannt werden. "Das BSI hält diese Möglichkeit mindestens für sicherheitskritische Bereiche für bedenklich", betont die Sprecherin.
[...]
Ich glaub ja eher nicht das Deepseek das Problem ist, eher die GUI und die App. Denn das LLM kann man lokal laufen lassen und entsprechend enschließen.
Abgesehen davon, dass die Masse der Leute wohl eher die App nutzen, ist das Problem viel umfassender. Die chinesische Zensur kann man auch bei lokaler Nuztung von Deepseek nicht umgehen. Das China Media Project hat sehr gute Berichte dazu verfasst, siehe etwas diese drei:
A Proposal for AI-Powered Censorship (Januar 2025)
Tracking Control: Sparking Compliant AI (Mai 2024)
AI for All (Dezember 2024)
Es ist ein bisschen viel, aber sehr lesenswert.
Aber OpenAI und der andere Rotz ist OK oder was? Haben die sich von der Union was vom Lack geklaut?
Aber OpenAI und der andere Rotz ist OK oder was?
Hat hier niemand behauptet.
Indirekt impliziert, indem man sich so auf das chinesische Produkt einschießt, aber OpenAI nicht die gleiche kritische Berichterstattung abbekommt
Das ist halt Kwalitätsdschurnalismus vom allerfeinsten. Die Sorte, die man, ohne, dass es jemand merkt, einfach mit einem "KI"-Bullshitgenerator ersetzen könnte.
welchen mehrwert hat man denn, wenn man die keystrokes einsammelt, anstatt nur mit dem regulären input zu arbeiten?
ansonsten unterscheidet sich die datensammelei doch nicht wesentlich von den gängingen social media apps, oder?
edit: auf der seite vom bsi ist darüber nichts zu finden, außer
https://www.bsi.bund.de/DE/Service-Navi/Presse/Pressemitteilungen/Presse2025/250127_KI-im-Alltag.htmlscheint also ein artikel zu sein, der so an die dpa ging, weil fast alle (focus, tagesschau, t3n) den selben wortlaut haben.
weiß nicht, ob ich die kommunikationstrategie vom bsi so gut finde.
Jeder tippt etwas anders. Du kannst z.b. sehen ob mehrere Personen eingaben machen und die eingaben ihnen zuordnen. Z.b. jemand der mit 10 vs 2 fingern tippt.
Keystrokes werden auch erfasst wenn du den Text wieder löschst. Also wird alles erfasst was jemals getippt wurde. Passwort aus versehen einfügen und direkt wieder löschen ohne je zu senden -> egal is trotzdem aufm Server
Man muss ja nun auch mal relevant erscheinen, da bietet sich ein chinesisches LLM wirklich an xD
Benutzt einfach Mistral AI - europäisches Unternehmen und sehr transparent.
böse chinesen, ganz ganz liebe amerikaner. ne, is klar.