Datenschutz bei KI-Tools: was darf rein, was nicht?
Mit KI erstellt und von einer zweiten KI anhand der Quellen geprüft. Stand: 16. November 2026. Mehr in den Hinweisen zur KI.
Alles, was du in eine KI tippst oder hochlädst, geht an den Anbieter. Das ist bei einem Rezeptwunsch egal, bei einer Kundenliste nicht. Hier steht, welche Daten wohin dürfen, wie du Texte so umschreibst, dass niemand erkennbar ist, und was du tust, wenn doch etwas Falsches drin war, Stand November 2026.

Das Wichtigste in Kürze
- Daten über erkennbare Menschen, Geschäftsgeheimnisse und Zugangsdaten gehören nicht in ein privates KI-Konto.
- Ein Kürzel statt des Namens macht Daten nicht anonym. Erkennbar ist eine Person oft schon über Einzelheiten.
- Bei privaten Konten nutzen viele Anbieter deine Eingaben zum Training, wenn du es nicht ausschaltest. Firmenkonten schließen das laut Anbietern standardmäßig aus.
- Für Daten von Kundschaft oder Beschäftigten braucht es einen Dienst, den der Betrieb freigegeben hat, mit Vertrag zur Auftragsverarbeitung.
- Ist etwas falsch eingegeben, sag es sofort der zuständigen Stelle. Verschweigen macht es schlimmer.
Der Grundsatz: Es geht um Menschen und Geheimnisse
Datenschutz schützt personenbezogene Daten, also alles, was sich auf einen erkennbaren Menschen bezieht: Name, Adresse, Telefonnummer, aber auch eine Kundennummer oder eine Beschreibung, aus der man auf die Person schließen kann. Besonders geschützt sind Angaben zur Gesundheit, zur Religion, zur politischen Meinung und einige andere.
Dazu kommen Dinge, die nicht unter den Datenschutz fallen, aber trotzdem vertraulich sind: Preise und Margen, Pläne, Verträge, Quellcode, Passwörter. Wer solche Geschäftsgeheimnisse sorglos herausgibt, schwächt ihren Schutz.
Was mit deinen Eingaben passiert, hängt vom Dienst ab. Sie werden beim Anbieter verarbeitet und meist eine Zeit lang gespeichert, damit du den Chat später wieder öffnen kannst. Je nach Einstellung nutzt der Anbieter sie auch, um seine Modelle zu verbessern, und in manchen Fällen lesen Menschen bei der Prüfung mit. Du gibst die Daten also aus der Hand, auch wenn sich das Tippen privat anfühlt.
In der Probelektion setzt du deinen ersten Auftrag zusammen und bekommst eine Rückmeldung. Ohne Konto, in wenigen Minuten. Probelektion starten
Die Ampel für den Alltag
| Farbe | Was | Beispiele |
|---|---|---|
| Grün | Allgemeines, Öffentliches, eigene Texte ohne Personen | Eine Hausordnung vereinfachen, eine Formel bauen, einen Aushang ohne Namen entwerfen |
| Gelb | Geht nur umgeschrieben oder mit freigegebenem Firmenkonto | Eine Kundenmail ohne Namen und Einzelheiten, Stichpunkte aus einer Besprechung mit Kürzeln |
| Rot | Gehört nie in ein privates Konto | Gesundheitsdaten, Personalakten, Bewerbungen anderer, Kundenlisten, Verträge, Passwörter und Zugangsdaten |
Bei Gelb hilft die Frage: Würde die Person sich in diesem Text wiedererkennen? Wenn ja, schreib ihn allgemeiner oder lass ihn weg.
So schreibst du Texte um
Oft brauchst du die echten Angaben gar nicht. Die KI soll formulieren, nicht wissen, wer gemeint ist. Ersetz deshalb Namen durch Rollen und Einzelheiten durch allgemeine Beschreibungen.
| Zu genau | Allgemein genug |
|---|---|
| Frau Yilmaz aus der Lindenstraße 4 hat ihre Rechnung Nr. 2026-117 über 380 Euro nicht bezahlt. | Eine Kundin hat eine Rechnung über einen dreistelligen Betrag nicht bezahlt. |
| Unser Kollege Herr Braun fehlt seit drei Wochen wegen einer Depression. | Ganz weglassen. Krankmeldungen gehören nicht in einen KI-Chat. |
| Der Vertrag mit der Firma Lindner Bau läuft am 31. März aus, Rabatt 12 Prozent. | [Firma], Vertrag läuft in [Monat] aus, Rabatt [Prozent]. |
Ein Kürzel wie „Kunde K-17“ macht Daten nicht anonym, solange du die Liste mit den Namen hast. Das heißt Pseudonym. Echt anonym ist ein Text erst, wenn niemand mehr die Person erkennen kann, auch nicht über Beruf, Alter, Ort oder eine besondere Geschichte. Das ist schwerer, als es klingt.
Privates Konto, Firmenkonto, Training
Ob deine Eingaben zum Training genutzt werden, also um die Modelle weiterzuentwickeln, hängt von Dienst und Konto ab. Laut den Anbietern sieht es so aus:
- ChatGPT: Bei Free, Go, Plus und Pro standardmäßig an, abschaltbar in den Datenkontrollen. Business, Enterprise und Edu: standardmäßig kein Training.
- Claude: Bei Free, Pro und Max, wenn du es erlaubst. Team und Enterprise: kein Training mit Kundeninhalten.
- Gemini: „Keep Activity“ ist ab 18 Jahren standardmäßig an, dann auch Training. Mit Workspace kein Training ohne Erlaubnis.
- Microsoft Copilot: Mit Arbeitskonto kein Training der Basismodelle. Für private Konten sagt die Hilfe es nicht eindeutig.
Training ausschalten ist sinnvoll, macht ein privates Konto aber nicht zum Firmenkonto. Für Daten von Kundschaft oder Beschäftigten braucht ein Betrieb einen Dienst mit Vertrag zur Auftragsverarbeitung (AVV). Darin steht, wie der Anbieter mit den Daten umgeht. Für Daten unter Schweigepflicht, etwa in Praxen oder Kanzleien, reicht ein AVV meist nicht allein.
Die vier großen Anbieter sitzen in den USA. Für Datenübermittlungen dorthin gibt es seit 2023 einen Beschluss der EU-Kommission, den EU-US-Datenschutzrahmen, für Firmen, die sich dafür zertifiziert haben. Das Gericht der EU hat eine Klage dagegen 2025 abgewiesen. Über das Rechtsmittel entscheidet nun der Europäische Gerichtshof. Ob ein Dienst für deinen Betrieb in Frage kommt, prüft die oder der Datenschutzbeauftragte. Einen Vergleich der Dienste findest du im Ratgeber Welche KI passt?.
Wenn du angestellt bist
Bist du angestellt, entscheidet dein Betrieb, welche KI du für die Arbeit nutzt und was hineindarf. Firmendaten gehören nicht in dein privates Konto, auch wenn es bequemer ist.
Amira ist Datenschutzbeauftragte in einem Maschinenbaubetrieb mit 200 Beschäftigten. Nachdem mehrere Kolleginnen private KI-Konten für Kundenmails genutzt hatten, hat sie eine Seite mit Regeln geschrieben: welche KI freigegeben ist, eine Ampel wie oben, wen man fragt. Seitdem kommen die Fragen vor dem Eintippen, nicht danach.
- Frag nach, ob es eine KI-Regel gibt und welche KI freigegeben ist.
- Melde dich mit dem Arbeitskonto an, nicht privat.
- Halte dich an die Ampel deines Betriebs, auch bei eingebauten Assistenten wie Copilot in Office.
- Frag im Zweifel vorher, nicht hinterher.
Wenn du selbstständig bist
Als Selbstständige oder Selbstständiger trägst du die Verantwortung für die Daten deiner Kundschaft selbst. Renate führt ein kleines Reisebüro mit zwei Mitarbeiterinnen. Für Angebotstexte und Reisebeschreibungen nutzt sie einen KI-Chat ohne Kundendaten. Namen, Geburtsdaten und Passnummern bleiben in ihrer Buchungssoftware.
- Schalte das Training in deinem Konto aus, wenn du kannst.
- Willst du Kundendaten mit KI verarbeiten, wähle einen Plan mit AVV und lies ihn.
- Nenne den Dienst in deiner Datenschutzerklärung, wenn du Kundendaten damit verarbeitest.
- Schreib eine kurze Regel für alle, die für dich arbeiten.
Mehr zu Angeboten, Website und Kundenanfragen steht im Ratgeber Selbstständig mit KI.
Dateien, Fotos und Sprache
Nicht nur getippter Text zählt. Auch Dateien, Bildschirmfotos und Sprachnachrichten gehen an den Anbieter, oft mit mehr Inhalt, als man denkt.
- Ein Bildschirmfoto zeigt oft mehr als den gewünschten Ausschnitt, etwa Namen in einer Seitenleiste.
- Eine Tabelle hat manchmal ausgeblendete Spalten oder weitere Blätter mit Daten.
- Fotos können Ort und Zeit der Aufnahme enthalten.
- Ein Dokument kann Kommentare und frühere Fassungen enthalten.
Oskar ist Auszubildender in einer Steuerkanzlei. Statt eine Tabelle mit Mandantendaten hochzuladen, schreibt er drei erfundene Beispielzeilen in derselben Form ab. Für die Formel, die er braucht, reicht das völlig.
Wenn doch etwas Falsches drin war
Es passiert: eine Mail mit Namen kopiert, eine falsche Datei hochgeladen. Wichtig ist, schnell und offen zu handeln.
- Hör sofort auf und schick nichts weiter hinterher.
- Lösch den Chat oder die Datei im Dienst, soweit das geht.
- Sag es deiner Führungskraft oder der oder dem Datenschutzbeauftragten, mit Datum, Dienst und was eingegeben wurde.
- Der Betrieb prüft, ob er eine Datenpanne melden muss. Wenn ja, unverzüglich und möglichst innerhalb von 72 Stunden, nachdem er davon erfahren hat.
Löschen im Chat heißt nicht immer, dass die Daten sofort überall weg sind. Darum ist die Meldung wichtig, auch wenn es peinlich ist. Wer es verschweigt, nimmt dem Betrieb die Möglichkeit, rechtzeitig zu handeln.
So übst du das
Aufträge so zu schreiben, dass niemand erkennbar ist und die KI trotzdem liefert, was du brauchst, ist Übungssache. In der Lern-App „KI können“ übst du das in kurzen Lektionen mit Beispielen aus deinem Beruf und setzt die Aufträge in deiner eigenen KI um. Die Probelektion geht ohne Konto. Wie die App selbst mit KI und Daten umgeht, steht unter KI in der App.
Quellen
- Datenschutz-Grundverordnung, Verordnung (EU) 2016/679 (EUR-Lex) (öffnet in neuem Tab)
- Datenschutzkonferenz, Orientierungshilfe Künstliche Intelligenz und Datenschutz (2024) (öffnet in neuem Tab)
- EU-Kommission, Angemessenheitsbeschluss zum EU-US-Datenschutzrahmen (10. Juli 2023) (öffnet in neuem Tab)
- OpenAI Help Center, Data controls in ChatGPT (öffnet in neuem Tab)
- Anthropic Privacy Center, Einstellungen zur Modellverbesserung (öffnet in neuem Tab)
- Google, Gemini Apps Privacy Hub (öffnet in neuem Tab)
- Microsoft Learn, Data, Privacy, and Security for Microsoft Copilot (öffnet in neuem Tab)
- Gesetz zum Schutz von Geschäftsgeheimnissen (GeschGehG) (öffnet in neuem Tab)
Stand der Angaben: 16. November 2026. Gesetze und Angebote können sich ändern; der Artikel ist keine Rechtsberatung.
Weiterlesen
Gleich ausprobieren
Die Probelektion mit Beispielen für Datenschutzbeauftragte/r. Ohne Konto, in wenigen Minuten.
Probelektion starten