Kundendaten in KI-Tools: Was ist wirklich erlaubt?

Kundendaten in KI-Tools: Was ist wirklich erlaubt?

Kundendaten in KI-Tools einzugeben ist im Alltag schnell passiert. Der Lieferschein liegt in der Inbox, der Kunde wartet auf eine Antwort, und ChatGPT ist nur einen Klick entfernt. Genau in diesem Moment der Eile stellt sich die Frage, die viele Unternehmen beschäftigt: Was darf eigentlich rein, und was bleibt besser draußen?

Im Büro, am Empfang oder in der Disposition passiert das jeden Tag mehrmals. Eine Adresse hier, eine Telefonnummer dort, schon ist die Mail formuliert oder die Zusammenfassung fertig. Nur merkt kaum jemand, dass genau in diesem Moment personenbezogene Daten einen Dienstleister verlassen, der vielleicht gar nicht dafür vorgesehen ist.

Was gilt für Kundendaten in KI-Tools genau?

Für Kundendaten in KI-Tools gilt grundsätzlich die DSGVO, genau wie für jede andere Verarbeitung personenbezogener Daten. Sobald ein Name, eine Adresse, eine E-Mail oder eine Telefonnummer in ein Tool eingegeben wird, handelt es sich um eine Datenverarbeitung im Sinne des Gesetzes. Das gilt unabhängig davon, ob die Eingabe über die Tastatur, per Sprachbefehl oder über eine automatische Schnittstelle erfolgt.

Wichtig ist dabei vor allem eine Frage: Wer verarbeitet die Daten, und auf welcher Grundlage? Nutzt Ihr Unternehmen ein Tool, bei dem der Anbieter die Daten im Auftrag verarbeitet, braucht es dafür einen Auftragsverarbeitungsvertrag. Ohne diesen Vertrag ist die Nutzung in der Regel nicht zulässig, selbst wenn die Daten technisch gesehen sicher verschlüsselt übertragen werden.

Welche Regeln dabei für ChatGPT konkret gelten, haben wir ausführlich im Beitrag ChatGPT Datenschutz: Welche Daten dürfen rein? beschrieben.

Welche Daten sind unkritisch, welche nicht?

Unkritisch sind Daten, die keinen Rückschluss auf eine bestimmte Person zulassen. Eine Auftragsnummer ohne weiteren Zusatz oder eine reine Mengenangabe aus einer Bestellung fällt in der Regel nicht unter die DSGVO. Sobald aber ein Name, eine Lieferadresse oder eine persönliche Telefonnummer dazukommt, wird aus einer harmlosen Zahl ein personenbezogenes Datum.

Besonders sensibel wird es bei besonderen Kategorien personenbezogener Daten, etwa Gesundheitsangaben in einer Reklamation oder Angaben zu Gewerkschaftszugehörigkeit in einer Personalnotiz. Solche Angaben gehören grundsätzlich nicht in ein KI-Tool, das nicht ausdrücklich dafür freigegeben ist. Ein praktischer Kniff im Alltag ist, Namen und Adressen vor der Eingabe durch Platzhalter zu ersetzen, wenn es nur um den Inhalt eines Textes geht, nicht um die Person dahinter.

Wie unterscheiden sich die KI-Tools selbst?

Ein privates ChatGPT-Konto und ein im Unternehmen eingerichtetes Tool wie Microsoft 365 Copilot unterscheiden sich rechtlich erheblich. Bei einem privaten Konto ohne Geschäftsvereinbarung trägt im Zweifel der Mitarbeitende selbst die Verantwortung für die Eingabe, und das Unternehmen hat kaum Kontrolle darüber, was passiert. Bei einem unternehmensweit eingerichteten Tool dagegen läuft die Verarbeitung innerhalb der bestehenden Verträge mit dem Anbieter, inklusive der nötigen Zusicherungen zum Datenschutz.

Was das für Copilot konkret bedeutet, erklären wir im Beitrag Copilot DSGVO: Was Sie wirklich wissen müssen. Welche Lizenzstufe dafür überhaupt notwendig ist, zeigt der Vergleich in Copilot Lizenzen im Vergleich.

Stellen Sie sich vor, ein Disponent in einer Spedition tippt abends schnell eine Kundenadresse samt Telefonnummer in sein privates ChatGPT-Konto, um eine Benachrichtigung zu formulieren. Die Mail ist in Sekunden fertig, aber die Kundendaten haben das Unternehmen in diesem Moment ungeprüft verlassen. Wäre stattdessen ein freigegebenes, vertraglich abgesichertes Tool im Einsatz, wäre derselbe Vorgang unproblematisch gewesen.

Kniffs Tipp

Platzhalter statt Klarnamen

Ersetzen Sie Namen, Adressen und Telefonnummern vor der Eingabe in ein KI-Tool testweise durch Platzhalter wie „Kunde A“ oder „Musterstraße 1“. So bleibt der Inhalt des Textes erhalten, ohne dass echte Kundendaten das Unternehmen verlassen.

Wo liegen die Grenzen und Stolperfallen?

Die größte Stolperfalle ist der private Zugang ohne Freigabe durch das Unternehmen. Viele Mitarbeitende nutzen aus Gewohnheit ihr eigenes Konto, einfach weil es schneller geht als der offizielle Weg. Genau hier entsteht ein Risiko, das sich erst zeigt, wenn eine Datenschutzbehörde nachfragt oder ein Kunde Auskunft verlangt, wohin seine Daten gelangt sind.

Auch der Serverstandort spielt eine Rolle. Nicht jeder Anbieter verarbeitet Daten ausschließlich innerhalb der EU, und nicht jeder Vertrag erfüllt automatisch die Anforderungen der DSGVO. Eine klare, schriftlich festgehaltene Regelung schafft hier Sicherheit, und eine KI-Richtlinie im Unternehmen ist dafür der richtige Rahmen.

Wenn Sie nicht genau wissen, welche Daten in Ihrem Betrieb überhaupt in welche Tools fließen, lohnt sich ein strukturierter Blick von außen. Ein KI-Check vor Ort deckt genau solche Datenflüsse auf, bevor sie zum Problem werden. Allgemeine Hinweise zum Datenschutz liefert außerdem die Website des Bundesbeauftragten für den Datenschutz.

Eine KI kann hier übrigens nichts für Sie entscheiden. Ob eine Angabe personenbezogen ist oder nicht, bleibt eine menschliche Einschätzung, die im Zweifel besser einmal zu vorsichtig ausfällt als einmal zu großzügig.

Dazu passt auch: Schatten-KI im Unternehmen: Der stille Kontrollverlust.

Probieren Sie es morgen früh gleich aus: Schauen Sie sich die letzten fünf Chatverläufe Ihres Teams in einem beliebigen KI-Tool an und prüfen Sie, ob dort Namen, Adressen oder Auftragsnummern von echten Kunden auftauchen.

Häufige Fragen

Dürfen wir Kundendaten in KI-Tools wie ChatGPT eingeben?

Das hängt vom Tool und von der Art der Daten ab. Personenbezogene Angaben wie Name oder Adresse dürfen nur dann eingegeben werden, wenn eine vertragliche Grundlage mit dem Anbieter besteht, etwa ein Auftragsverarbeitungsvertrag.

Brauchen wir für Copilot oder ChatGPT einen Auftragsverarbeitungsvertrag?

Ja, sobald personenbezogene Daten verarbeitet werden, ist ein Auftragsverarbeitungsvertrag notwendig. Bei unternehmensweit eingerichteten Tools wie Microsoft 365 Copilot ist diese Vereinbarung meist schon Teil des bestehenden Microsoft-Vertrags, bei privaten Konten fehlt sie in der Regel.

Wie erkennen Mitarbeitende, welche Kundendaten sensibel sind?

Als Faustregel gilt: Alles, was eine Person eindeutig identifizierbar macht, etwa Name, Adresse, Telefonnummer oder E-Mail, ist sensibel. Eine klare KI-Richtlinie im Unternehmen hilft, diese Einschätzung nicht jedem Einzelnen allein zu überlassen.

← Alle Beiträge

Wo steckt der Kniff in Ihrem Betrieb?

Im kostenlosen Erstgespräch finden wir es gemeinsam heraus. Schreiben Sie uns oder rufen Sie an. Wir melden uns innerhalb eines Werktags.