Nach dem zweiten Termin kommt das Angebot, und im Anhang liegt ein Vertrag zur Auftragsverarbeitung. Zwölf Seiten, Muster des Anbieters, die Anlagen schon ausgefüllt. Der Einkauf will wissen, ob das so in Ordnung ist. Die Datenschutzbeauftragte ist bis Monatsende im Urlaub.
In dieser Lage ist die Versuchung groß, den AVV zu unterschreiben, wie er ist. Damit gelten die Antworten, die der Anbieter sich selbst gegeben hat. Stellen Sie die Fragen lieber vorher, im Gespräch, solange der Anbieter noch etwas verkaufen will.
Dieser Text ist die Frageliste für dieses Gespräch. Was Sie im eigenen Haus vorbereiten, also Verzeichnis, Löschkonzept und Protokolle, steht in Was die DSGVO von einem Agentensystem verlangt. Hier geht es um die andere Seite des Tisches. Ich baue selbst Agenten für Unternehmen, die Liste gilt also auch für mich. Rechtsberatung ist das nicht, die Bewertung liegt bei Ihrer Datenschutzbeauftragten oder Ihrer Kanzlei.
Ich stütze mich auf den Text der DSGVO, auf die Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ der Datenschutzkonferenz vom 6. Mai 2024, auf die Stellungnahme 22/2024 des Europäischen Datenschutzausschusses und auf die Seite der EU-Kommission zum Datenverkehr mit den USA.
Drei Unterlagen vor dem Gespräch
Bitten Sie den Anbieter eine Woche vor dem Termin um drei Dokumente. Das sind der Entwurf des AVV mit allen Anlagen, die aktuelle Liste der Unterauftragsverarbeiter und die Beschreibung der technischen und organisatorischen Maßnahmen.
Ein Anbieter, der das Thema ernst nimmt, schickt sie am selben Tag, weil er sie fertig hat. Kommt stattdessen ein Link auf die Datenschutzerklärung der Website, wissen Sie schon etwas. Lesen Sie die Unterlagen mit Ihrer Datenschutzbeauftragten und markieren Sie, was zu Ihrem Vorgang nicht passt. Daraus ergibt sich die Hälfte der Fragen von allein.
Fragen zum AVV nach Art. 28 DSGVO
1. Sind Sie für alle unsere Daten Auftragsverarbeiter?
Nach der Orientierungshilfe der Datenschutzkonferenz agiert der externe KI-Anbieter als „verlängerter Arm“ des Verantwortlichen. Dann liegt häufig eine Auftragsverarbeitung vor, und es braucht eine Vereinbarung nach Art. 28 Abs. 3 DSGVO. Die Frage ist, ob das für alles gilt. Ein AVV schließt nicht aus, dass sich der Anbieter in den Nutzungsbedingungen vorbehält, Nutzungsdaten für eigene Zwecke auszuwerten.
Gut klingt „Ja, ausschließlich, und unsere AGB enthalten nichts anderes“. Schwach klingt „Grundsätzlich ja“. Fragen Sie dann nach, was mit dem Wort grundsätzlich gemeint ist.
2. Was steht in der Anlage über unsere Daten?
Nach Art. 28 Abs. 3 legt der Vertrag Gegenstand, Dauer, Art und Zweck der Verarbeitung fest, außerdem die Art der Daten und die Kategorien betroffener Personen. Im Muster steht dort oft „Kontaktdaten, Nutzungsdaten“. Nehmen wir an, Ihr Agent soll das Reklamationspostfach vorsortieren. Dann liest er Freitext, und im Freitext stehen Bankverbindungen, manchmal eine Krankengeschichte.
Ein guter Anbieter füllt die Anlage mit Ihnen für genau diesen Vorgang aus. Ein schwacher erklärt, die Anlage sei für alle Kunden gleich.
3. Wie schnell erfahren wir von einer Datenpanne?
Art. 33 Abs. 2 DSGVO verpflichtet den Auftragsverarbeiter, Ihnen eine Verletzung „unverzüglich“ zu melden. Sie selbst melden der Aufsichtsbehörde nach Art. 33 Abs. 1 möglichst binnen 72 Stunden, nachdem Ihnen die Verletzung bekannt wurde, sofern eine Meldung nötig ist. „Unverzüglich“ ist dagegen keine Zahl. Je später der Anbieter meldet, desto länger wissen Ihre Kunden nichts von dem Vorfall.
Gut ist eine Zahl in Stunden und eine benannte Adresse. Schwach ist „im Rahmen der gesetzlichen Vorgaben“.
4. Wie können wir prüfen, was Sie zusagen?
Art. 28 Abs. 3 Buchstabe h verlangt, dass der Auftragsverarbeiter Ihnen alle Informationen zum Nachweis seiner Pflichten bereitstellt und Überprüfungen einschließlich Inspektionen ermöglicht. Niemand erwartet, dass ein Betrieb mit achtzig Leuten ein Rechenzentrum besichtigt. Sie sollten aber wissen, was Sie stattdessen bekommen.
Gut ist ein aktueller Prüfbericht eines Dritten, der genau den Dienst abdeckt, den Sie kaufen, dazu ein Prüfrecht mit Ankündigungsfrist. Schwach ist ein Zertifikat, das für den Cloud-Anbieter dahinter gilt und für das Produkt selbst nicht.
Fragen zu den Unterauftragsverarbeitern
5. Wer steht auf der Liste, und fehlt jemand?
Ohne Ihre vorherige schriftliche Genehmigung darf der Anbieter nach Art. 28 Abs. 2 DSGVO keinen weiteren Auftragsverarbeiter einschalten. Der Europäische Datenschutzausschuss geht in der Stellungnahme 22/2024 weiter. Der Verantwortliche soll Name, Anschrift und Ansprechpartner aller Auftragsverarbeiter und Unterauftragsverarbeiter jederzeit vorliegen haben, und der Anbieter soll diese Angaben von sich aus liefern und aktuell halten.
Prüfen Sie zuerst, ob der Modellanbieter auf der Liste steht, denn er verarbeitet jede Anfrage. Gut ist eine Liste mit Firma, Aufgabe und Ort der Verarbeitung. Schwach ist „führende europäische und internationale Partner“.
6. Wie erfahren wir von einem Wechsel?
Haben Sie eine allgemeine Genehmigung erteilt, muss der Anbieter Sie nach Art. 28 Abs. 2 über jede geplante Änderung informieren, damit Sie Einspruch erheben können. Entscheidend ist, was nach dem Einspruch passiert.
Gut ist eine E-Mail mit einigen Wochen Vorlauf und ein Sonderkündigungsrecht, falls Sie widersprechen. Schwach ist „Wir aktualisieren die Liste auf unserer Website“. Dann erfahren Sie vom neuen Modellanbieter erst, wenn er Ihre Daten schon hat.
Fragen zum Drittlandtransfer
7. Wo laufen Speicherung und Modellaufrufe, und steht das im Vertrag?
„Server in Frankfurt“ beantwortet, wo die Datenbank liegt. Wo das Sprachmodell rechnet, ist eine zweite Frage, und von wo aus der Support auf Ihre Daten zugreift, eine dritte.
Gut ist eine Region für alle drei, festgehalten im AVV und nicht nur in einer Einstellung. Schwach ist „DSGVO-konformes Hosting in Deutschland“ ohne ein Wort zum Modell.
8. Auf welcher Grundlage gehen Daten in die USA?
Kapitel V der DSGVO erlaubt die Übermittlung in ein Drittland unter anderem auf Grundlage eines Angemessenheitsbeschlusses oder mit geeigneten Garantien wie Standardvertragsklauseln. Für die USA hat die EU-Kommission am 10. Juli 2023 den Angemessenheitsbeschluss zum EU-US Data Privacy Framework erlassen. Er gilt nach Angaben der Kommission für US-Unternehmen, die an dem Rahmen teilnehmen. Ob ein Unternehmen teilnimmt, steht in der Liste auf dataprivacyframework.gov.
Das Gericht der Europäischen Union hat eine Klage gegen den Beschluss am 3. September 2025 abgewiesen (Rechtssache T-553/23, Latombe gegen Kommission). Gegen das Urteil wurde im Oktober 2025 Rechtsmittel beim Gerichtshof eingelegt, Aktenzeichen C-703/25 P. Die beiden Vorgängerregelungen hat der Gerichtshof für ungültig erklärt.
Gut ist deshalb eine Antwort mit zwei Grundlagen, also Zertifizierung und zusätzlich Standardvertragsklauseln. Schwach ist „Die Daten sind verschlüsselt, das betrifft uns nicht“.
Fragen zum Training mit Kundendaten
9. Fließen unsere Eingaben und Ausgaben in ein Training?
Die Orientierungshilfe der Datenschutzkonferenz ist an dieser Stelle deutlich: „Datenschutzrechtlich vorzugswürdig sind daher Anwendungen, die die Ein- und Ausgabedaten nicht zu Trainingszwecken verwenden.“ Lässt sich die Nutzung nicht ausschließen und sind personenbezogene Daten betroffen, braucht es dafür nach derselben Stelle eine Rechtsgrundlage.
Stellen Sie die Frage zweimal, einmal für den Anbieter und einmal für dessen Modellanbieter. Fragen Sie außerdem, ob Menschen Eingaben lesen, etwa bei einer Missbrauchsprüfung, und wie lange die Eingaben dafür aufbewahrt werden.
Gut ist „Nein, bei beiden, und es steht im AVV“. Schwach ist „Das können Sie in den Einstellungen abschalten“. Fragen Sie dann, wie die Voreinstellung lautet und wer in Ihrem Haus sie ändern darf.
Fragen zur Löschung
10. Was löschen Sie wann, im Betrieb und nach Vertragsende?
Hier stecken zwei Fragen in einer. Im Betrieb müssen Sie Löschanträge einzelner Personen erfüllen können. Die Datenschutzkonferenz verlangt dafür „organisatorische und technische Verfahren“, und nach Art. 28 Abs. 3 Buchstabe e muss der Auftragsverarbeiter Sie dabei unterstützen. Nach Vertragsende gilt Art. 28 Abs. 3 Buchstabe g. Der Anbieter löscht alle personenbezogenen Daten oder gibt sie zurück, je nachdem, was Sie wählen, und löscht vorhandene Kopien, sofern keine gesetzliche Pflicht zur Speicherung besteht.
Gut ist eine Tabelle mit einer Frist pro Speicherort, also für Eingaben, Ausgaben, Protokolle, Suchindex und Sicherungen, dazu eine Löschung nach Kundennummer mit Bestätigung. Schwach ist „Ihr Konto wird deaktiviert“.
Was Sie sich im Termin zeigen lassen
Eine Zusage im Gespräch kostet den Anbieter nichts. Lassen Sie sich deshalb drei Dinge am Bildschirm zeigen. Erstens die Einstellung für Region und Training in einem frisch angelegten Konto. Zweitens den Protokolleintrag zu einer Anfrage, die Sie gerade gestellt haben. Drittens die Löschung eines Testkunden mit anschließender Suche nach seinem Namen.
Fragen Sie auch, woran der Agent scheitert, wenn er etwas tun soll, das er nicht darf. Eine Anweisung im Prompt reicht dafür nicht. Warum, steht in Ein Prompt ist eine Bitte, eine Leitplanke ist eine Wand.
Echte Kundendaten gehören erst nach der Unterschrift ins System. Ein kostenloser Test mit den Reklamationen der letzten Woche ist eine Verarbeitung wie jede andere. Steht der Vertrag, folgt der Schattenbetrieb mit echten Vorgängen, in dem der Agent mitarbeitet und nichts verändert.
Was der Betriebsrat wissen will
Die Datenschutzkonferenz empfiehlt, Datenschutzbeauftragte stets einzubinden, wenn über KI-Anwendungen entschieden wird, und die Beteiligung des Betriebsrats zu prüfen. Der Betriebsrat wird wissen wollen, welche Protokolle der Anbieter über die Arbeit Ihrer Beschäftigten führt und wer sie auswerten kann. Holen Sie die Antwort im selben Gespräch ein. Was daraus für die Betriebsvereinbarung folgt, steht in Der Betriebsrat ist kein Hindernis, sondern ein Termin.
Die zehn Fragen zum Mitnehmen
- Sind Sie für alle unsere Daten Auftragsverarbeiter?
- Was steht in der Anlage über unsere Datenarten und Betroffenen?
- Wie schnell und an wen melden Sie eine Datenpanne?
- Welche Prüfberichte bekommen wir, und welches Prüfrecht haben wir?
- Wer steht auf der Liste der Unterauftragsverarbeiter, mit Ort?
- Wie erfahren wir von einem Wechsel, und was folgt aus einem Einspruch?
- Wo laufen Speicherung, Modellaufrufe und Support?
- Auf welcher Grundlage gehen Daten in ein Drittland?
- Trainieren Sie oder Ihr Modellanbieter mit unseren Daten?
- Was wird wann gelöscht, im Betrieb und nach Vertragsende?
Mit den zehn Antworten hat Ihre Datenschutzbeauftragte etwas in der Hand, das sie prüfen kann. Die Bewertung bleibt ihre. Wenn Sie die Fragen an mich richten wollen, bringen Sie die Liste in einen Scoping-Call mit, dreißig Minuten reichen dafür.