Recht & Compliance

Kundendaten in KI-Automatisierung: Was nach DSGVO vor dem Start geklärt sein muss

Von , Gründer (jeanhinz.io) Veröffentlicht 18.11.2026 Aktualisiert 18.11.2026 6 Min. Lesezeit

Kurz gesagt

Bevor Kundendaten in eine KI-Automatisierung fließen, müssen sieben Punkte geklärt sein: Rechtsgrundlage, Auftragsverarbeitungsvertrag, Ort der Verarbeitung, Ausschluss von Training, Löschung, keine vollautomatisierte Entscheidung und eine Folgenabschätzung, wo nötig. Der Artikel gibt Ihnen dafür eine Prüfliste mit sieben Punkten.

Inhalt
  1. Welche Rechtsgrundlage gilt für Kundendaten in einer Automatisierung?
  2. Wer ist Auftragsverarbeiter, und was muss im Vertrag stehen?
  3. Wo werden die Daten verarbeitet?
  4. Werden die Daten zum Training genutzt?
  5. Wann ist eine automatisierte Entscheidung verboten?
  6. Wann brauchen Sie eine Datenschutz-Folgenabschätzung?
  7. Welche Prüfliste hilft vor dem Start?
  8. Wie setzen wir diese Punkte in unseren Lösungen um?

Kundendaten sind der Rohstoff fast jeder KI-Automatisierung: Anfragen im Postfach, Rechnungen, Gästenachrichten, Interessenten aus dem Immobilienportal. Gleichzeitig ist der Datenschutz einer der häufigsten Gründe, warum Unternehmen bei KI zögern. Unternehmen ohne KI nannten 2024 Bedenken beim Datenschutz zu 53 % als Grund (Destatis, Pressemitteilung Nr. 444).

Die gute Nachricht: Die Fragen sind bekannt und lassen sich vor dem Start klären. Dieser Artikel zeigt die sieben Punkte, die vor der ersten produktiven Mail geklärt sein müssen, mit den Normen der DSGVO und der Orientierungshilfe der Datenschutzaufsicht. Er ist keine Rechtsberatung. Stand: 18.11.2026. Wie wir die Punkte in unseren eigenen Lösungen umsetzen, steht auf der Seite Sicherheit.

Welche Rechtsgrundlage gilt für Kundendaten in einer Automatisierung?

Jede Verarbeitung personenbezogener Daten braucht eine Rechtsgrundlage. Nach Art. 6 DSGVO ist sie nur rechtmäßig, wenn mindestens eine der dort genannten Bedingungen erfüllt ist (Art. 6 DSGVO). Für Kundendaten in einer Automatisierung kommen meist zwei in Frage: die Erfüllung eines Vertrags oder vorvertraglicher Maßnahmen auf Anfrage der Person (lit. b) und das berechtigte Interesse (lit. f).

Ein Beispiel: Ein Kunde fragt per Mail nach einem Angebot. Wenn eine Automatisierung die Anfrage ausliest und einen Angebotsentwurf vorbereitet, dient das der Anfrage des Kunden. Wenn dieselben Daten später für Werbung oder zum Training eines eigenen Modells verwendet werden sollen, ist das ein neuer Zweck mit neuer Prüfung. Die Datenschutzkonferenz betont in ihrer Orientierungshilfe deshalb, vorab den Zweck festzulegen (DSK, Orientierungshilfe KI und Datenschutz).

Wer ist Auftragsverarbeiter, und was muss im Vertrag stehen?

In einer KI-Automatisierung verarbeiten meist mehrere Anbieter Daten in Ihrem Auftrag: die Agentur, die Automatisierungsplattform, der Modellanbieter, vielleicht eine Datenbank. Für jeden braucht es einen Vertrag nach Art. 28 DSGVO mit festen Mindestinhalten. Weitere Auftragsverarbeiter dürfen nur mit Ihrer vorherigen Genehmigung eingesetzt werden, und sie übernehmen dieselben Pflichten (Art. 28 Abs. 2 und 4).

Die Datenschutzkonferenz beschreibt den externen KI-Anbieter in diesem Fall als verlängerten Arm des Verantwortlichen. Sie empfiehlt außerdem betriebliche statt privater Konten. Private Konten von Beschäftigten bei KI-Diensten sind der häufigste blinde Fleck: kein Auftragsverarbeitungsvertrag, keine Kontrolle, keine Löschung.

Wo werden die Daten verarbeitet?

Der Ort der Verarbeitung ist bei KI-Diensten keine Nebensache, weil viele Modelle standardmäßig weltweit rechnen. Übermittlungen in Länder außerhalb der EU sind nur unter den Bedingungen von Kapitel V der DSGVO zulässig (Art. 44). Möglich sind sie auf Grundlage eines Angemessenheitsbeschlusses der Kommission (Art. 45) oder mit geeigneten Garantien wie Standardvertragsklauseln (Art. 46).

Einfacher ist es, die Verarbeitung gleich in der EU zu halten. Die großen Anbieter regeln das unterschiedlich:

Zugang Verarbeitung in der EU möglich? Was die Dokumentation sagt
Claude API direkt bei Anthropic nein Für die Verarbeitung gibt es global oder USA, als Speicherort ist derzeit nur USA verfügbar (Anthropic)
OpenAI API ja, je Projekt Datenresidenz wird beim Anlegen eines Projekts gewählt, Aufrufe gehen dann zum Beispiel an eu.api.openai.com (OpenAI)
Google Cloud, Modelle über den EU-Endpunkt ja Der EU-Endpunkt umfasst nur EU-Mitgliedstaaten, ohne Vereinigtes Königreich und Schweiz (Google Cloud)

Prüfen Sie im Einzelfall, was genau in der Region bleibt. OpenAI nimmt laut Dokumentation zum Beispiel Konto-, Nutzungs- und Abrechnungsdaten von der Datenresidenz aus. Einen ausführlichen Vergleich der Zugänge über Azure, Bedrock und Vertex zeigt der Artikel Azure, Bedrock, Vertex oder Direktzugang. Wenn Daten das Haus gar nicht verlassen sollen, sind kleine Modelle auf eigener Hardware eine Option, siehe Small Language Models.

Werden die Daten zum Training genutzt?

Bei Geschäftszugängen der großen Anbieter ist das Training mit Ihren Eingaben vertraglich oder per Einstellung ausgeschlossen. Bei kostenlosen und privaten Konten ist das oft anders oder muss erst abgeschaltet werden. Halten Sie im Vertrag fest, dass Eingaben und Ausgaben nicht zum Training verwendet werden, und prüfen Sie die Einstellung im Konto selbst.

Wie die Regeln für einzelne Werkzeuge aussehen, erklärt unser Gründer auf jeanhinz.io in eigenen Leitfäden zu ChatGPT, Claude und Gemini.

Wann ist eine automatisierte Entscheidung verboten?

Betroffene haben das Recht, nicht einer ausschließlich auf automatisierter Verarbeitung beruhenden Entscheidung unterworfen zu werden, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie ähnlich erheblich beeinträchtigt (Art. 22 Abs. 1 DSGVO). Ausnahmen gelten für Vertragserfüllung, eine gesetzliche Erlaubnis oder eine ausdrückliche Einwilligung (Abs. 2). Die Datenschutzkonferenz fasst es so: Entscheidungen mit Rechtswirkung dürfen grundsätzlich nur von Menschen getroffen werden.

Für die Praxis heißt das: Eine KI darf vorbereiten, sortieren und Entwürfe schreiben. Ob ein Interessent eine Besichtigung bekommt oder eine Bewerberin eine Absage, entscheidet ein Mensch. Deshalb hat jede unserer Lösungen, die nach außen kommuniziert, einen Freigabeschritt. Die Immobilien-Lead-Qualifizierung schlägt Besichtigungen nur vor und prüft keine Bonität, die Gästekommunikation für Hotels legt Antworten zur Freigabe vor.

Wann brauchen Sie eine Datenschutz-Folgenabschätzung?

Eine Folgenabschätzung ist Pflicht, wenn eine Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten der Betroffenen zur Folge hat, insbesondere bei Verwendung neuer Technologien (Art. 35 Abs. 1 DSGVO). Für mehrere ähnliche Verarbeitungen mit ähnlichen Risiken reicht eine gemeinsame Abschätzung.

Ob das Risiko hoch ist, hängt von Art und Menge der Daten und vom Zweck ab. Eine Automatisierung, die Lieferantenrechnungen ausliest, ist anders zu bewerten als ein System, das Gespräche mit Kunden auswertet oder Gesundheitsdaten verarbeitet. Klären Sie die Frage mit Ihrer oder Ihrem Datenschutzbeauftragten vor dem Auftrag. Wir liefern dafür den Datenschutz-Steckbrief der Lösung, ein Datenflussdiagramm und das Löschkonzept.

Sieben Prüfpunkte, bevor Kundendaten in eine KI-Automatisierung fließenDatenfluss von links nach rechts: Kundendaten, Automatisierung, Sprachmodell, Ergebnis mit Freigabe durch einen Menschen. Darunter sieben Prüfpunkte mit Norm: 1 Rechtsgrundlage nach Artikel 6, 2 Auftragsverarbeitungsvertrag nach Artikel 28, 3 Ort der Verarbeitung nach Artikel 44 bis 46, 4 kein Training, 5 Löschung, 6 keine vollautomatisierte Entscheidung nach Artikel 22, 7 Folgenabschätzung nach Artikel 35, wenn das Risiko hoch ist.KundendatenAutomatisierungSprachmodellErgebnismit Freigabe1 Rechtsgrundlage, Art. 62 Auftragsverarbeitung, Art. 283 Ort der Verarbeitung, Art. 44 bis 464 Kein Training mit Ihren Eingaben5 Löschung nach festgelegter Frist6 Mensch entscheidet, Art. 227 Folgenabschätzung bei hohemRisiko, Art. 35Erst wenn alle sieben Punkte geklärt sind, fließen echte Kundendaten.DSGVO, Stand 18.11.2026. Keine Rechtsberatung.
Der Datenfluss einer typischen Automatisierung und die sieben Punkte, die vorher geklärt sein müssen.

Welche Prüfliste hilft vor dem Start?

Gehen Sie die sieben Punkte vor dem ersten produktiven Einsatz durch und halten Sie das Ergebnis schriftlich fest.

  1. Rechtsgrundlage: Für welchen Zweck werden die Kundendaten verarbeitet, und welche Grundlage nach Art. 6 gilt?
  2. Auftragsverarbeitung: Gibt es mit jedem Anbieter einen Vertrag nach Art. 28, und kennen Sie alle Unterauftragnehmer?
  3. Ort: Wo werden die Daten gespeichert und verarbeitet, und ist der Modellzugang auf die EU eingestellt?
  4. Training: Ist ausgeschlossen, dass Eingaben und Ausgaben zum Training verwendet werden?
  5. Löschung: Wann werden Eingaben, Protokolle und Zwischenergebnisse gelöscht?
  6. Entscheidung: Entscheidet bei allem mit erheblicher Wirkung ein Mensch?
  7. Folgenabschätzung: Ist das Risiko geprüft, und gibt es bei hohem Risiko eine Abschätzung nach Art. 35?

Dazu kommen zwei Punkte außerhalb der DSGVO. Erstens die Transparenz: Wer mit einem Assistenten schreibt, muss erkennen können, dass er mit einer KI spricht (Art. 50 der KI-Verordnung, seit 02.08.2026). Zweitens die Beteiligung des Betriebsrats, wenn Beschäftigtendaten betroffen sind, siehe KI-Einführung und Betriebsrat.

Wie setzen wir diese Punkte in unseren Lösungen um?

Unsere Lösungen sind auf diese Prüfliste gebaut. Hosting und Datenbanken laufen in Frankfurt, personenbezogene Daten gehen nur an Modellzugänge in der EU. Zu jedem Auftrag gibt es einen Auftragsverarbeitungsvertrag mit Liste der Unterauftragnehmer, Ihre Eingaben werden nicht zum Training genutzt, die Konten laufen auf Ihren Namen. Die Details je Anbieter stehen auf der Seite Sicherheit.

Für Lösungen mit vielen Kundendaten lohnt ein Blick auf die Bereichsseite KI im Kundenservice. Für Berufsgeheimnisträger gelten zusätzliche Regeln zur Verschwiegenheit, die die Seite Kanzleien und Steuerberatung erklärt. Den Website-Assistenten, der aus freigegebenen Inhalten antwortet, beschreibt die Lösung Website-Assistent. Dokumentation, KI-Register und Einstufung nach KI-Verordnung bündelt die Leistung Governance und Compliance. Wie Gerichte bisher über KI und Daten entschieden haben, ordnet der Artikel Gerichtsverfahren zu KI ein.

Hinweis: Dieser Artikel ist keine Rechtsberatung. Er gibt den Stand der genannten Normen und Herstellerdokumentationen vom 18.11.2026 wieder. Für Ihre Verarbeitung fragen Sie Ihre Datenschutzbeauftragte oder Ihren Datenschutzbeauftragten.

Häufige Fragen

Darf ich Kundendaten in ChatGPT oder ein anderes KI-Werkzeug eingeben?

Nur wenn die Grundlagen stimmen: eine Rechtsgrundlage nach Art. 6 DSGVO, ein Geschäftskonto mit Auftragsverarbeitungsvertrag, ein geklärter Ort der Verarbeitung und der Ausschluss von Training mit Ihren Eingaben. Private Konten der Mitarbeitenden erfüllen das in der Regel nicht. Keine Rechtsberatung, Stand 18.11.2026.

Brauche ich für eine KI-Automatisierung einen Auftragsverarbeitungsvertrag?

Ja, wenn ein externer Anbieter personenbezogene Daten in Ihrem Auftrag verarbeitet. Das betrifft die Agentur, die Automatisierungsplattform und den Modellanbieter. Art. 28 DSGVO schreibt die Mindestinhalte vor, die DSK nennt externe KI-Anbieter in ihrer Orientierungshilfe einen verlängerten Arm des Verantwortlichen.

Kann die Claude API Daten in der EU verarbeiten?

Über die direkte Claude API von Anthropic nicht. Laut Dokumentation gibt es dort für die Verarbeitung nur die Einstellungen global oder USA und als Speicherort nur die USA. Eine Verarbeitung in der EU ist über Cloud-Plattformen möglich, etwa über Google Cloud mit dem EU-Endpunkt. Wir nutzen für personenbezogene Daten nur solche Zugänge.

Ist eine Datenschutz-Folgenabschätzung für KI immer Pflicht?

Nicht immer. Art. 35 DSGVO verlangt sie, wenn eine Verarbeitung voraussichtlich ein hohes Risiko für die Betroffenen hat, insbesondere bei neuen Technologien. Eine Automatisierung, die Rechnungen ausliest, ist anders zu bewerten als ein System, das Kundengespräche auswertet. Für mehrere ähnliche Vorgänge reicht eine gemeinsame Abschätzung.

Quellen

  1. 1 Verordnung (EU) 2016/679 (Datenschutz-Grundverordnung), Art. 6, 22, 28, 35, 44 bis 46 , Amtsblatt der Europäischen Union, EUR-Lex, 18.11.2026
  2. 2 Orientierungshilfe Künstliche Intelligenz und Datenschutz, Version 1.0 , Datenschutzkonferenz (DSK), 06.05.2024
  3. 3 Data residency (Claude Platform) , Anthropic, 18.11.2026
  4. 4 Data residency (OpenAI API) , OpenAI, 18.11.2026
  5. 5 Data residency for generative AI , Google Cloud, 17.11.2026
  6. 6 Pressemitteilung Nr. 444: Jedes fünfte Unternehmen nutzt künstliche Intelligenz , Statistisches Bundesamt, 25.11.2024

Prüfhinweis: Zum 31.03.2027 prüfen: Datenresidenz-Seiten von Anthropic (bisher nur global oder us), OpenAI und Google Cloud, neue Orientierungshilfen der DSK zu KI, Angemessenheitsbeschluss EU-USA, Angaben auf /sicherheit. Keine Rechtsberatung, Stand 18.11.2026.

Passende Lösungen aus dem Katalog

Service Klasse L

Website-Assistent mit Wissensbasis

Ein Assistent auf Ihrer Website beantwortet Fragen zu Leistungen, Öffnungszeiten und Preisen aus freigegebenen Inhalten und übergibt an einen Menschen, wenn er an seine Grenze kommt.

  • Ihre Website
  • Wissensbasis aus Website und Dokumenten
Preis
ab 2.490 €
Lieferzeit
10 bis 15 Werktage

Branche Klasse L

Interessenten qualifizieren

Portalanfragen landen strukturiert im CRM, mit Rückfragen zu Zeitrahmen und Finanzierungsstand und einem Besichtigungsvorschlag zur Freigabe.

  • ImmoScout24, Immowelt und Kleinanzeigen
  • onOffice oder anderes Makler-CRM, sofern Schnittstelle vorhanden
Preis
ab 2.490 €
Lieferzeit
10 bis 15 Werktage

Branche Klasse M

Gästekommunikation vor und nach Aufenthalt

Bestätigungen, Anreiseinfos und Antworten auf Gästefragen aus Ihrer Hotelsoftware, dazu eine Bewertungsbitte an Gäste mit Einwilligung.

  • Hotelsoftware wie Apaleo oder Mews, oder Reservierungssystem
  • Outlook oder Gmail
Preis
ab 1.490 €
Lieferzeit
5 bis 10 Werktage

Nächster Schritt

Angebot innerhalb eines Werktags

Beschreiben Sie in zwei Sätzen, was automatisch laufen soll. Sie bekommen ein Festpreisangebot mit Lieferzeit, oder eine ehrliche Antwort, wenn ein Werkzeug von der Stange reicht.

Zwei, drei Sätze reichen. Welche Systeme Sie nutzen, hilft uns beim Angebot.

Antwort mit Angebot innerhalb eines Werktags. Netto, für Unternehmen.

Angebot anfordern