Einen Chatbot zu nutzen bedeutet, sich durch ein Minenfeld für die Privatsphäre und Zensur zu bewegen.

KI-Chat-Apps wie ChatGPT sammeln Benutzerdaten, filtern Antworten und treffen Entscheidungen zur Inhaltsmoderation, die nicht immer transparent sind. Aber DeepSeek – ein neuer, in China entwickelter KI-Chatbot, der als eine große Bedrohung für (neues Fenster)w(neues Fenster)estliche Tech-Unternehmen(neues Fenster) beispiellose Aufmerksamkeit auf sich zieht – tut all das und mehr.

Tatsächlich birgt dieser Chatbot ein noch größeres Risiko: DeepSeek ist gesetzlich verpflichtet, den Forderungen der chinesischen Regierung nach dem Zugreifen auf Daten und der Inhaltskontrolle nachzukommen, ohne eine rechtliche Möglichkeit, sich dagegen zu wehren.

Während Regierungen weltweit – einschließlich der USA und der EU – Daten von Tech-Unternehmen anfordern können, haben westliche Unternehmen rechtliche Möglichkeiten, diese Anfragen vor Gericht anzufechten. OpenAI, Google und Meta können beispielsweise die meisten unverhältnismäßigen Regierungsforderungen zurückweisen, vor unabhängigen Gerichten Berufung einlegen oder Anfragen ablehnen, die gegen Privatsphäre-Gesetze wie die GDPR verstoßen. DeepSeek operiert jedoch unter Chinas Nationalem Geheimdienstgesetz(neues Fenster), das Unternehmen zur Zusammenarbeit mit staatlichen Geheimdienstaktivitäten verpflichtet – ohne Transparenz oder die Möglichkeit einer rechtlichen Verweigerung. Das bedeutet: Wenn die chinesische Regierung das Zugreifen auf Benutzerdaten wünscht oder KI-generierte Antworten manipulieren möchte, hat DeepSeek keine andere Wahl, als dem Folge zu leisten.

Dieser Artikel befasst sich damit, was DeepSeek tatsächlich sammelt und warum das für deine Privatsphäre, Zensur und staatliche Kontrolle von Bedeutung ist.

Was ist DeepSeek?

DeepSeek ist ein KI-Start-up im Besitz von High-Flyer, einem in China ansässigen Hedgefonds(neues Fenster). Es wurde als Open-Source-Alternative zu ChatGPT beworben, die in der Lage ist, menschenähnliche Antworten zu generieren, beim Codieren zu helfen und komplexe Probleme zu lösen – und das alles zum Spottpreis(neues Fenster).

Das Modell erlangte internationale Aufmerksamkeit(neues Fenster), weil es angeblich die Leistung führender westlicher KI-Modelle zu einem Bruchteil der Kosten erreichte. Bis Januar 2025 hatte DeepSeek ChatGPT beim Herunterladen aus Apples App Store überholt(neues Fenster), was einen weltweiten Ausverkauf von Tech-Aktien auslöste und Bedenken über die Milliarden von Dollar aufwarf, die Tech-Unternehmen in den USA in den Ausbau von stromfressenden Rechenzentren stecken – Ausgaben, die ihrer Ansicht nach für den nächsten KI-Durchbruch unerlässlich sind.

Doch als die Menschen DeepSeek herunterluden und ihre Erfahrungen beim Herumspielen mit dem Chatbot teilten, wurde schnell klar, dass die Nutzung von DeepSeek den für diese Art von Technologie typischen Kompromiss erfordert: deine Privatsphäre und die Sicherheit deiner sensibelsten Informationen.

Tiefgreifende Sicherheitslücken

Neue Untersuchungen haben gezeigt, dass die Sicherheitspraktiken von DeepSeek ebenso besorgniserregend sein könnten wie seine Datenrichtlinien, auf die wir später noch eingehen werden.

Am 29. Januar 2025 berichtete das Cybersicherheitsunternehmen Wiz(neues Fenster), dass DeepSeek versehentlich über eine Million Zeilen sensibler Daten im offenen Internet ungeschützt hinterlassen hatte. Das Leak enthielt digitale Softwareschlüssel, die potenziell das unbefugte Zugreifen auf die Systeme von DeepSeek ermöglichen könnten, und Chat-Protokolle von echten Benutzern, die die tatsächlichen Prompts anzeigen, die dem Chatbot gegeben wurden.

Die Forscher von Wiz gaben an, dass sie die Datenbank durch minimales Scannen fast sofort gefunden hätten. Innerhalb von 30 Minuten, nachdem Wiz DeepSeek kontaktiert hatte, wurde die Datenbank gesperrt. Es ist jedoch unklar, ob böswillige Akteure auf die Daten zugegriffen oder sie heruntergeladen haben, bevor sie gesichert wurden. Angesichts der Leichtigkeit, mit der sie zu finden war, ist dieses Szenario durchaus denkbar.

Ami Luttwak, der Chief Technology Officer von Wiz, erklärte gegenüber Wired(neues Fenster), das Leak sei ein „dramatischer Fehler“ gewesen, und sprach eine Warnung aus, dass die Systeme von DeepSeek überhaupt nicht ausgereift genug seien, „um mit irgendwelchen sensiblen Daten verwendet zu werden“.

Dieses Leak machte jedoch zumindest eines klar: DeepSeek sammelt und speichert nicht nur riesige Mengen an Benutzerdaten – es scheint ihm auch an den Sicherheitsmaßnahmen zu fehlen, die zu ihrem Schutz erforderlich sind.

Welche Daten sammelt DeepSeek?

Laut seiner Datenschutzerklärung(neues Fenster) sammelt DeepSeek eine Vielzahl personenbezogener Daten, darunter:

  • Profilinformationen: Benutzername, E-Mail-Adresse, Telefonnummer, Passwort und Geburtsdatum.
  • Benutzereingaben: Alles, was du tippst oder hochlädst, einschließlich Chatverlauf, Prompts und Audioeingaben.
  • Geräte- und Netzwerkdaten: IP-Adresse, Gerätemodell, Betriebssystem, Systemspache und Tastaturanschlagmuster.
  • Nutzungsdaten: Funktionen, die du nutzt, Aktionen, die du ausführst, und Systemleistungsprotokolle.
  • Cookies und Tracker: Web-Beacons und andere Tracking-Technologien zur Überwachung des Benutzerverhaltens.
  • Drittanbieter-Daten: Informationen von verknüpften Konten und Werbepartnern, die deine Aktivitäten über Websites, Apps und Stores hinweg verfolgen.

Die Handhabung und das Speichern dieser Daten durch DeepSeek auf Servern in China, wo sie dem staatlichen Zugreifen unterliegen, haben bei europäischen Regulierungsbehörden Alarm geschlagen.

Gegen DeepSeek wird in Europa ermittelt

Sowohl Irlands Datenschutzkommission (DPC)(neues Fenster) als auch Italiens Datenschutzbehörde (DPA)(neues Fenster) haben Untersuchungen eingeleitet(neues Fenster), wie das Unternehmen Benutzerdaten sammelt, speichert und verarbeitet.

Die italienische DPA hat das Zugreifen auf DeepSeek im Land blockiert, nachdem das Unternehmen keine ausreichenden Informationen über seinen Umgang mit personenbezogenen Daten bereitgestellt hatte. Die Regulierungsbehörden wollen wissen, welche Daten DeepSeek sammelt, wo sie gespeichert sind und ob dies mit EU-Privatsphäre-Gesetzen wie der GDPR übereinstimmt.

Auch die irische DPC hat Details darüber angefordert, wie DeepSeek Daten von irischen Benutzern verarbeitet. Unterdessen wurde die App von DeepSeek aus den App Stores von Apple und Google in Italien entfernt, obwohl unklar ist, ob diese Entfernung freiwillig oder erzwungen war.

Wenn DeepSeek die europäischen Privatsphäre-Gesetze nicht einhält, könnte es in der EU mit Geldstrafen, Verboten oder weiteren Einschränkungen rechnen müssen.

DeepSeek ist Open Source, aber ist es sicher?

DeepSeek ist Open Source, was bedeutet, dass du den Code(neues Fenster) deiner eigenen App anpassen kannst, um eine unabhängige – und sicherere – Version zu erstellen. Dies hat bei einigen die Hoffnung geweckt, dass eine privatsphäre-freundlichere Version von DeepSeek entwickelt werden könnte. Die Nutzung von DeepSeek in seiner jetzigen Form – wie es heute existiert und in China gehostet wird – birgt jedoch ernsthafte Risiken für jeden, der um seine sensibelsten, privaten Informationen besorgt ist.

Jedes Modell, das auf den Servern von DeepSeek trainiert oder betrieben wird, unterliegt weiterhin den chinesischen Datengesetzen, was bedeutet, dass die chinesische Regierung jederzeit das Zugreifen verlangen kann.

Wenn du nach einer privateren KI-Erfahrung suchst, ist das lokale Ausführen von Modellen eine bessere Option. Tools wie LM Studio(neues Fenster) ermöglichen es dir, KI-Modelle direkt auf dein eigenes Gerät herunterzuladen und dort auszuführen, sodass deine Daten privat bleiben.

Selbst wenn die Technologie von DeepSeek vielversprechend ist, machen seine Datenpraktiken und rechtlichen Verpflichtungen es zu einem ernsthaften Risiko für die Privatsphäre und Sicherheit.

DeepSeek unterliegt Chinas Überwachungsgesetzen

DeepSeek operiert unter Chinas Nationalem Geheimdienstgesetz von 2017(neues Fenster) – einer Statute, die alle chinesischen Unternehmen verpflichtet, die Regierung in Fragen der nationalen Sicherheit zu unterstützen. Das bedeutet, dass jedes chinesische Unternehmen, von TikTok über RedNote bis hin zu DeepSeek, dazu gezwungen werden kann, Benutzerdaten mit den chinesischen Behörden zu teilen(neues Fenster), selbst wenn diese Daten von Benutzern aus den Vereinigten Staaten oder anderen Ländern stammen.

Dieses Gesetz verpflichtet alle chinesischen Unternehmen dazu:

  • Der Regierung auf Anfrage das Zugreifen auf Benutzerdaten zu gewähren
  • Bei nationalen Geheimdienstoperationen zu helfen
  • Stillschweigen über staatlich verordnetes Teilen von Daten zu bewahren

DeepSeek hat keine andere Wahl, als den Forderungen der Regierung nachzugeben, unabhängig davon, ob dies die Herausgabe privater Benutzerdaten oder die Anpassung seiner KI-Ergebnisse an staatlich genehmigte Narrative(neues Fenster) bedeutet.

DeepSeek zensiert bereits Informationen

Alle Mainstream-KI-Chat-Apps haben Richtlinien, Regeln und Grenzen für die Moderation von Inhalten, die hauptsächlich dazu dienen, Schaden zu verhindern – nicht, um politische Narrative zu kontrollieren. Aber es scheint, dass DeepSeek aktiv die Geschichte umschreibt und staatlich genehmigte Botschaften verbreitet.

Ein Proton-Mitarbeiter gab beispielsweise diesen Prompt bei DeepSeek ein, um Informationen über die Proteste auf dem Tian’anmen-Platz von 1989 zu suchen, eine von Studenten angeführte Bewegung, die Chinas Regierung veränderte: „Wichtige Welttermine am 15. April 1989.“ DeepSeek begann, eine Antwort zu generieren, löschte diese aber schnell wieder und bot stattdessen diese Antwort an: „Tut mir leid, das sprengt meinen aktuellen Rahmen. Lass uns über etwas anderes reden.“

Laut weiteren Tests von The Diplomat(neues Fenster) hat DeepSeek:

  • Sich geweigert, wichtige historische Termine anzuerkennen: Als es nach der Kulturrevolution gefragt wurde, verhielt es sich so, als ob dieser Termin nie stattgefunden hätte.
  • Politisch unbequeme Fakten zensiert: Als es nach dem verfolgten Intellektuellen Chu Anping gefragt wurde, ignorierte es sein Verschwinden und lobte stattdessen die KPCh für ihren Support von Intellektuellen.
  • Staatspropaganda verbreitet: Als DeepSeek nach Chinas Wirtschaft gefragt wurde, lenkte es die Unterhaltung auf das Vertrauen in die Regierungsführung um.
  • Antworten zu internationalen Streitigkeiten bearbeitet: Auf die Frage, wem die Spratly-Inseln gehören, räumte DeepSeek zunächst den Territorialstreit ein – löschte dann aber seine Antwort und ersetzte sie durch: „Lass uns über etwas anderes reden.“
  • Direkte Antworten auf globale Konflikte vermieden: Auf die Frage, ob Russlands Invasion in der Ukraine gerechtfertigt sei, weigerte sich DeepSeek, mit Ja oder Nein zu antworten, und wiederholte stattdessen Chinas offizielle Haltung der Neutralität.

So sehen staatlich erzwungene Zensur und Meinungskontrolle aus.

Chatbots sind mächtige Werkzeuge, aber der Kompromiss ist deine Privatsphäre

Der Aufstieg großer Sprachmodelle als Chatbot-Assistenten wirft bereits ernsthafte Bedenken hinsichtlich der Privatsphäre und Zensur auf, da Unternehmen wie OpenAI und Google Regeln beugen und riesige Datenmengen mit wenig Transparenz sammeln. Aber es gibt keinen technischen Grund, warum KI so invasiv sein muss – eine private und sichere KI ist möglich, doch niemand baut sie.

DeepSeek geht bei diesen Bedenken noch einen Schritt weiter. Es sammelt nicht nur umfangreiche persönliche Informationen, sondern kann sich rechtlich auch nicht den Forderungen der Regierung nach Datenzugriff und Inhaltsmanipulation widersetzen. Anstatt eine KI zu entwickeln, welche die Privatsphäre der Benutzer respektiert, setzen diese Unternehmen auf Datenerfassung, Tracking und undurchsichtige Moderationsrichtlinien.

Wir bei Proton glauben an Privatsphäre, Transparenz und ein zensurfreies Internet. Ob KI, Social Media oder Cloud-Dienste – du verdienst es zu wissen, wer deine Daten kontrolliert und wie sie verwendet werden.

Wenn dir Online-Privatsphäre und digitale Freiheit am Herzen liegen, sei vorsichtig, welchen KI-Tools du vertraust – denn nicht alle haben dein Bestes im Sinn.