„Darf ich Kundendaten in ChatGPT eingeben?“ ist die Frage, die in fast jedem Unternehmens-Workshop kommt – und jede pauschale Antwort darauf ist falsch. Ob du darfst, entscheidet nicht das Tool, sondern dein Tarif, dein Zweck und deine Rechtsgrundlage. Hier steht, was die DSGVO beim KI-Einsatz wirklich verlangt, was die deutschen Aufsichtsbehörden dazu geschrieben haben und in welchen sechs Schritten du das sauber aufsetzt. Stand: September 2026.
Wichtig
Dieser Artikel ist eine redaktionelle Einschätzung aus der Weiterbildungspraxis, keine Rechtsberatung. Datenschutz ist Einzelfallarbeit: Verbindlich beurteilen kann deinen Fall nur deine Datenschutzbeauftragte, deine zuständige Aufsichtsbehörde oder eine Kanzlei. Wenn ihr eine oder einen Datenschutzbeauftragten habt, gehört diese Person an den Anfang des Projekts – nicht ans Ende.
„Darf ich Kundendaten in ChatGPT eingeben?“ – die ehrliche Antwort
Es kommt darauf an – und zwar auf drei Dinge, von denen keines das Tool ist. Erstens: In welchem Tarif nutzt du es? Zweitens: Wofür genau, und auf welche Rechtsgrundlage stützt du das? Drittens: Müssen die Daten überhaupt personenbezogen in den Prompt?
Der häufigste Denkfehler steckt schon in der Frage „Ist das Tool DSGVO-konform?“. Ein Werkzeug ist nie konform oder unkonform – das ist immer deine Verarbeitung. Ein Anbieter liefert dafür gute Voraussetzungen oder schlechte; die Verantwortung bleibt bei dir.
1. Der Tarif entscheidet über den Vertrag. Setzt du ein Cloud-KI-Tool zu eigenen Zwecken ein, bist du Verantwortlicher und der Anbieter dein Auftragsverarbeiter – dann braucht es eine Vereinbarung nach Art. 28 Abs. 3 DSGVO. Kostenlose Privatkonten bieten so einen Vertrag in der Regel gar nicht erst an. Das ist der eigentliche Grund, warum der Gratis-Tarif im Unternehmen ausscheidet, nicht erst die Trainingsfrage.
2. Zweck und Rechtsgrundlage kommen vor dem Tool. Für jeden Verarbeitungsschritt mit Personenbezug brauchst du eine Rechtsgrundlage – Vertragserfüllung, berechtigtes Interesse, Einwilligung. Und du brauchst einen vorab festgelegten, konkreten Zweck, weil sich nur daran messen lässt, ob die Verarbeitung überhaupt erforderlich ist. „Wir führen KI ein“ ist kein Zweck.
3. Datenminimierung schlägt jede Vertragsklausel. Was gar nicht erst im Prompt landet, muss auch nicht abgesichert werden. Das ist der schnellste Hebel im Alltag – er hat allerdings eine Grenze, die weiter unten steht.
„Datenschutzrechtlich vorzugswürdig sind daher Anwendungen, die die Ein- und Ausgabedaten nicht zu Trainingszwecken verwenden.“
Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ der Konferenz der unabhängigen Datenschutzaufsichtsbehörden (DSK) vom 6. Mai 2024 – bis heute das zentrale Dokument der deutschen Aufsicht zum Thema.DSGVO oder AI Act? Zwei Gesetze, zwei völlig verschiedene Fragen
Seit die KI-Verordnung greift, werden beide Regelwerke in Diskussionen munter vermischt. Sie beantworten aber unterschiedliche Fragen – und du kannst das eine erfüllen und das andere trotzdem verletzen.
| DSGVO | KI-Verordnung (AI Act) | |
|---|---|---|
| Leitfrage | Was passiert mit personenbezogenen Daten? | Ist das KI-System sicher, transparent und beherrschbar? |
| Ansatzpunkt | Der Personenbezug – ohne ihn gilt sie nicht | Das Produkt – gilt auch ohne jeden Personenbezug |
| Typische Pflichten | Rechtsgrundlage, Zweckbindung, AVV, Verzeichnis, ggf. DSFA, Betroffenenrechte | KI-Kompetenz (Art. 4), Kennzeichnung von KI im Kundenkontakt und von Deepfakes (Art. 50) |
| Seit wann | Mai 2018, unverändert | Gestaffelt: Verbote und Schulungspflicht seit Februar 2025, Transparenz und Sanktionen seit 2. August 2026, Hochrisiko-Pflichten verschoben auf Dezember 2027 bzw. August 2028 |
| Aufsicht in DE | Landesdatenschutzbehörden bzw. BfDI | Bundesnetzagentur |
Praktisches Beispiel: Ein Chatbot auf deiner Website, der nur Öffnungszeiten vorliest, ist ein AI-Act-Fall (er muss sich als KI zu erkennen geben), aber kaum ein DSGVO-Fall. Sobald derselbe Bot Kundenanliegen mit Namen und Vorgangsnummer entgegennimmt, hast du beides. Was der AI Act im Detail verlangt und was daran gerade verschoben wurde, steht im Überblick zum AI Act 2026 – dieser Artikel bleibt bei der Datenschutzseite.
Was die Anbieter zusagen – und wo der Consumer-Tarif aufhört
Derselbe Chatbot, zwei völlig verschiedene datenschutzrechtliche Welten: Der Unterschied zwischen einem privaten und einem geschäftlichen Zugang ist nicht das Modell, sondern der Vertrag dahinter. Was die vier großen Anbieter ihren Geschäftskunden zusagen (Stand September 2026, jeweils nach eigenen Angaben):
| Anbieter | Zusage im Business-/Enterprise-Vertrag | Was im Privat-Tarif anders ist |
|---|---|---|
| OpenAI | API-Daten werden seit dem 1. März 2023 nicht zum Training genutzt, außer man meldet sich aktiv dafür an; Auftragsverarbeitungsvertrag, SOC 2, ISO 27001/27701. Missbrauchs-Logs standardmäßig 30 Tage; Zero Data Retention und EU-Datenresidenz nur nach Freigabe | Bei privaten Konten hängt die Nutzung zur Modellverbesserung an einer Einstellung – und die ist nicht überall aus |
| Anthropic (Claude) | Die Commercial Terms formulieren ein Verbot an sich selbst: „Anthropic may not train models on Customer Content from Services.“ Das Data Processing Addendum ist per Verweis Vertragsbestandteil | Bei Free, Pro und Max entscheidet eine Konto-Einstellung; abgegebenes Feedback wird bis zu fünf Jahre gespeichert |
| Google (Gemini in Workspace) | Prompts gelten als Kundendaten nach dem Cloud Data Processing Addendum: „Workspace does not use customer data for training models without customer’s prior permission or instruction“ | Die kostenlosen Gemini-Apps laufen unter anderen Bedingungen als der Workspace-Vertrag |
| Microsoft 365 Copilot | Data Protection Addendum und Product Terms, Microsoft als Auftragsverarbeiter; Prompts, Antworten und Graph-Daten trainieren keine Foundation-Modelle; EU Data Boundary – aber Websuchanfragen fallen nicht darunter, und Anthropic-Modelle sind derzeit ausgenommen | Copilot mit privatem Microsoft-Konto trägt diese Zusagen nicht |
Wie unterschiedlich die Voreinstellungen sein können, zeigt GitHub Copilot: In den Plänen für Einzelnutzer ist das Modelltraining seit dem 24. April 2026 standardmäßig aktiviert, Business- und Enterprise-Kunden sind unter dem Datenverarbeitungsvertrag ausgenommen. Wer die Produktfamilien auseinanderhalten will, findet die Details im Überblick zu Microsoft Copilot.
Gut zu wissen
Diese Zusagen sind Vertragsversprechen der Anbieter, keine Prüfsiegel einer Behörde – und sie ändern sich. Deshalb gehört zu jedem Tool ein Datum: Wann hast du die Bedingungen zuletzt gelesen? Die DSK empfiehlt dafür ausdrücklich eine Routine im Datenschutzmanagement, keine einmalige Prüfung.
Kurz zum Drittland: Was ist mit den US-Anbietern?
Fast alle großen Modelle laufen bei US-Konzernen. Rechtlich getragen wird das vom EU-US Data Privacy Framework: Die EU-Kommission hat den USA am 10. Juli 2023 ein angemessenes Schutzniveau bescheinigt – allerdings nur für US-Organisationen, die sich dafür zertifiziert haben. Der Beschluss steht laut Kommissionsübersicht weiterhin; die erste periodische Überprüfung wurde im Oktober 2024 veröffentlicht.
Zwei Einschränkungen gehören dazu. Die Zertifizierung ist anbieterbezogen – du musst nachsehen, ob dein konkreter Anbieter gelistet ist, sonst brauchst du Standardvertragsklauseln plus eigene Risikoprüfung. Und ehrlich: Die beiden Vorgängerregelungen hat der Europäische Gerichtshof gekippt, auch gegen das aktuelle Framework wird geklagt. Eine Architektur, die nur mit diesem einen Beschluss funktioniert, steht auf einem Bein.
Außerhalb von EU und USA fehlt diese Brücke ganz – für China gibt es keinen Angemessenheitsbeschluss, was bei Diensten wie DeepSeek der entscheidende Punkt ist, nicht die Modellqualität. Die radikalste Lösung ist, den Transfer zu vermeiden: Die DSK hält technisch geschlossene Systeme datenschutzrechtlich ausdrücklich für vorzugswürdig – was für sensible Fälle die Option KI lokal auf eigener Hardware interessant macht.
Datenminimierung: der Ausweg, der öfter scheitert als gedacht
Kein Personenbezug, kein Datenschutzproblem – dieser Weg ist der beste, wenn er funktioniert. Die DSK nennt solche Einsatzfelder ausdrücklich: Wo weder in Eingabe noch Ausgabe noch Anmeldeprozess personenbezogene Daten vorkommen, greift das Datenschutzrecht nicht. Nur unterschätzen die meisten, wie schnell ein Personenbezug wieder da ist.
„Entwirf ein Arbeitszeugnis im befriedigenden Bereich für einen Kundenberater im Autohaus X.“
Beispiel aus der DSK-Orientierungshilfe für eine Eingabe mit Personenbezug – kein Name, keine Adresse. Aus Unternehmen, Rolle und Zeitpunkt lässt sich die Person trotzdem bestimmen.Die Aufsicht formuliert es deutlich: Um die Eingabe personenbezogener Daten zu vermeiden, reicht es regelmäßig nicht, Namen und Anschriften zu entfernen. Bei kleinen Teams, seltenen Rollen oder eindeutigen Vorgangsnummern bleibt der Bezug bestehen. Der umgekehrte Fall existiert ebenfalls: Auch eine unpersonenbezogene Eingabe kann eine Ausgabe mit Personenbezug erzeugen – und dafür brauchst du wieder eine Rechtsgrundlage.
Was im Alltag trotzdem trägt: mit Platzhaltern arbeiten („Mitarbeiter A“) und die echten Namen erst im fertigen Dokument einsetzen; nur den Ausschnitt einfügen, den die Aufgabe braucht; Zahlen aggregieren statt Einzelfälle zu schildern. Das ist keine Anonymisierung im rechtlichen Sinn, aber es senkt das Risiko – und es lässt sich schulen.
In sechs Schritten zur DSGVO-konformen KI-Nutzung
- Anwendungsfall und Zweck festlegen – vor der Tool-Auswahl. Schreib auf, wofür KI eingesetzt werden soll, welche Daten dabei vorkommen und welches Ergebnis erwartet wird. Ohne diese Festlegung lässt sich keine der folgenden Fragen beantworten, weil sich Erforderlichkeit nur gegen einen konkreten Zweck prüfen lässt. Wie du das strukturiert angehst, steht im Guide KI im Unternehmen einführen.
- Tarif und Auftragsverarbeitung prüfen. Gibt es einen Vertrag nach Art. 28 DSGVO? Lässt sich die Nutzung der Eingaben zum Training abschalten – und ist sie es? Wie lange bleibt die Eingabe-Historie gespeichert? Dazu gehören betriebliche Accounts statt privater; die DSK rät sogar zu Funktions-E-Mail-Adressen statt Namenskonten, damit beim Anbieter keine Profile einzelner Beschäftigter entstehen.
- Verzeichnis von Verarbeitungstätigkeiten ergänzen. Der Schritt, den fast alle vergessen: Eine neue KI-gestützte Verarbeitung gehört ins Verzeichnis nach Art. 30 DSGVO – mit Zweck, Datenkategorien, Empfängern und Löschfristen. Das ist kein neues Dokument, sondern ein neuer Eintrag, und es ist das Erste, wonach eine Aufsichtsbehörde fragt.
- Risiko bewerten – und bei Bedarf eine DSFA machen. Vor der Verarbeitung steht eine Vorabprüfung; ergibt sie ein voraussichtlich hohes Risiko, ist eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO Pflicht. Beim KI-Einsatz sei das „vielfach der Fall“, schreibt die DSK. Ihre Muss-Liste nennt unter Nummer 11 ausdrücklich den Einsatz von KI zur Steuerung der Interaktion mit Betroffenen oder zur Bewertung persönlicher Aspekte – der KI-Kundenservice steht damit direkt drauf.
- Interne Richtlinie schreiben und schulen. Eine Seite reicht, wenn sie konkret ist: welche Tools erlaubt sind, welche Daten nie in einen Prompt gehören, wer im Zweifel gefragt wird. Die DSK empfiehlt ausdrücklich, erlaubte und untersagte Einsatzszenarien als Beispiele zu benennen. Die Schulung ist ohnehin fällig – die KI-Schulungspflicht aus Art. 4 der KI-Verordnung gilt seit Februar 2025.
- Betroffenenrechte vorab klären. Wer beantwortet eine Auskunftsanfrage, wenn Kundendaten durch ein KI-Tool gelaufen sind? Wie kommst du an die beim Anbieter gespeicherten Daten? Art. 28 Abs. 3 lit. e DSGVO verpflichtet den Auftragsverarbeiter, dich dabei zu unterstützen – das gehört in den Vertrag und in einen Prozess, bevor die erste Anfrage kommt.
Schatten-KI: Warum das Verbot der teuerste Weg ist
Die häufigste Reaktion auf Unsicherheit ist ein Rundschreiben: „KI-Tools sind bis auf Weiteres untersagt.“ Was danach passiert, ist erstaunlich gut dokumentiert – von der Aufsicht selbst.
„Ohne klare Regelungen, ob und wie KI-Anwendungen im Arbeitsalltag eingesetzt werden dürfen, besteht das Risiko, dass Beschäftigte KI-Anwendungen eigenmächtig und unkontrolliert nutzen. Es ist davon auszugehen, dass dies derzeit Realität in vielen Unternehmen und Behörden ist.“
DSK-Orientierungshilfe, Abschnitt 2.2 – bemerkenswert offen für ein Behördenpapier.Ein Verbot beendet die Nutzung nicht, es verlagert sie: aufs private Handy, in den privaten Account, an jeder Protokollierung vorbei. Genau dort entstehen die Fälle, die später kaum aufzuarbeiten sind, weil niemand mehr rekonstruieren kann, welche Daten wohin geflossen sind. Der Unterschied zwischen verbotenem und geregeltem Einsatz ist nicht, ob KI genutzt wird – sondern ob du weißt, wo.
Aus der Weiterbildungspraxis: Die meisten Datenschutz-Vorfälle mit KI sind keine bösen Absichten, sondern Nichtwissen. Jemand kopiert eine Kundenmail samt Adresse in einen Gratis-Chatbot, um eine freundliche Antwort zu formulieren – und übermittelt in dem Moment personenbezogene Daten an einen Dienst, mit dem kein Vertrag besteht. Wer einmal verstanden hat, warum das ein Problem ist und welche Alternative bereitsteht, macht es nicht wieder. Eine Mitarbeiterschulung ist hier schlicht billiger als die Aufarbeitung eines Vorfalls.
Vier Fehler, die in der Praxis am häufigsten passieren
1. Den Betriebsrat vergessen. Nach § 87 Abs. 1 Nr. 6 BetrVG besteht ein Mitbestimmungsrecht bei technischen Einrichtungen, die zur Überwachung von Verhalten oder Leistung der Beschäftigten bestimmt sind – bei KI-Systemen mit Nutzungsprotokollen ist das schneller einschlägig, als viele annehmen. Seit 2021 gilt zudem § 80 Abs. 3 BetrVG: Muss der Betriebsrat die Einführung oder Anwendung von KI beurteilen, „gilt insoweit die Hinzuziehung eines Sachverständigen als erforderlich“. Wer den Rat erst nach dem Rollout einbindet, verhandelt aus der schwächeren Position.
2. Kostenlose Tools im Team dulden. Kein Auftragsverarbeitungsvertrag, kein Rollen- und Rechtekonzept, keine belastbare Löschmöglichkeit, oft Training als Voreinstellung – und beim Anbieter entstehen Nutzungsprofile einzelner Beschäftigter, sobald sie mit privaten Konten arbeiten. Der Sprung auf einen Geschäftstarif kostet meist weniger als die erste ernsthafte Prüfung dieser Konstellation.
3. Bewerberdaten durch die KI schicken. Art. 22 Abs. 1 DSGVO verbietet Entscheidungen mit Rechtswirkung, die ausschließlich automatisiert ergehen. Die DSK nennt als klaren Verstoß den Fall, dass eine KI-Anwendung alle eingegangenen Bewerbungen auswertet und selbstständig die Einladungen verschickt – und stellt klar: „Eine lediglich formelle Beteiligung eines Menschen im Entscheidungsprozess ist nicht ausreichend.“ Zeitdruck und dünne Personaldecke sind ausdrücklich keine Entschuldigung, Ergebnisse ungeprüft zu übernehmen. Dazu kommt das Diskriminierungsrisiko: Ein Modell, das aus früheren Einstellungen lernt, reproduziert deren Muster.
4. Löschung für erledigt halten – oder für unmöglich. Beides ist falsch. Ein nachgeschalteter Filter, der eine unerwünschte Ausgabe unterdrückt, ist laut DSK noch keine Löschung im Sinne von Art. 17 DSGVO, weil die Daten im Modell verfügbar bleiben können; eine Berichtigung kann ein Nachtraining erfordern. Der Europäische Datenschutzausschuss hat im Dezember 2024 festgehalten, dass ein Modell nur dann als anonym gilt, wenn Identifizierung oder Extraktion personenbezogener Daten „sehr unwahrscheinlich“ sind – und im Juli 2026 zu Anonymisierung und Web-Scraping nachgelegt. In der Praxis zählt für dich zuerst, was in deinem eigenen Zugriff liegt: Chatverläufe, Protokolle, Exporte.
Häufige Fragen
Darf ich ChatGPT im Unternehmen nutzen?
Ja – aber nicht in jedem Tarif und nicht für jeden Zweck. Für den geschäftlichen Einsatz mit personenbezogenen Daten brauchst du einen Zugang mit Auftragsverarbeitungsvertrag, eine Rechtsgrundlage für die konkrete Verarbeitung und interne Regeln, welche Daten in einen Prompt dürfen. Ein privates Gratis-Konto erfüllt die erste Bedingung schon nicht.
Brauche ich eine DSFA für KI?
Nicht pauschal, aber häufiger als gedacht. Pflicht ist die Datenschutz-Folgenabschätzung nach Art. 35 DSGVO, wenn die Verarbeitung voraussichtlich ein hohes Risiko bedeutet. Die Muss-Liste der Datenschutzkonferenz führt unter Nummer 11 ausdrücklich den Einsatz von KI zur Steuerung der Interaktion mit Betroffenen oder zur Bewertung persönlicher Aspekte auf – ein KI-Kundenservice fällt also direkt darunter. Ein interner Textassistent ohne Personenbezug dagegen nicht.
Was ist der Unterschied zwischen DSGVO und AI Act?
Die DSGVO schützt personenbezogene Daten – sie greift nur, wenn Personenbezug vorliegt, dann aber vollständig. Der AI Act reguliert KI als Produkt: Er verlangt Transparenz, KI-Kompetenz und je nach Risikoklasse weitere Pflichten, unabhängig davon, ob personenbezogene Daten im Spiel sind. Beide können gleichzeitig gelten, ersetzen einander aber nie.
Reicht es, Namen aus dem Prompt zu entfernen?
Meistens nicht. Die Aufsichtsbehörden schreiben ausdrücklich, dass das Entfernen von Namen und Anschriften regelmäßig nicht genügt – aus Kontext, Rolle, Unternehmen und Zeitpunkt lässt sich der Bezug oft wiederherstellen. Platzhalter, Ausschnitte statt ganzer Akten und aggregierte Zahlen senken das Risiko, sind aber keine Anonymisierung im rechtlichen Sinn.
Muss der Betriebsrat bei KI beteiligt werden?
In vielen Fällen ja. Ein Mitbestimmungsrecht nach § 87 Abs. 1 Nr. 6 BetrVG besteht bei technischen Einrichtungen, die zur Überwachung von Verhalten oder Leistung bestimmt sind. Zusätzlich gilt § 80 Abs. 3 BetrVG: Muss der Betriebsrat die Einführung oder Anwendung von KI beurteilen, gilt die Hinzuziehung eines Sachverständigen als erforderlich.
Kann ich Daten aus einem KI-Modell löschen lassen?
Beim Modell selbst ist das technisch schwierig, das Recht auf Löschung nach Art. 17 DSGVO gilt trotzdem. Ein Ausgabefilter allein ersetzt die Löschung nach Auffassung der Aufsicht nicht, weil die Daten im Modell verfügbar bleiben können. Praktisch beginnst du bei dem, was in deinem Zugriff liegt: Chatverläufe, Protokolle und Exporte beim Anbieter und im eigenen Haus.
Regeln aufschreiben ist der eine Teil – verstanden werden der andere
Die Pflicht, die dich unabhängig vom Tool trifft, ist Kompetenz im Team: Beschäftigte müssen wissen, welche Daten in welches System dürfen und warum. Im kostenlosen Erstgespräch schauen wir auf euren tatsächlichen KI-Einsatz, welche Schulung dazu passt und ob die Kosten über Förderprogramme ganz oder teilweise übernommen werden können.
Kostenloses Erstgespräch sichern
Benedikt Backhaus – schreibt bei Scaly über KI-Tools, neue Modelle und aktuelle Entwicklungen rund um künstliche Intelligenz. Er beobachtet die KI-Szene laufend und ordnet ein, was neue Releases praktisch bedeuten – ehrlich und ohne Hype. Einschätzung, keine Rechtsberatung. Benedikt auf LinkedIn
