Ein Unternehmen, das ChatGPT, Claude oder eine andere KI-Anwendung im Arbeitsalltag einsetzt, verarbeitet damit in aller Regel personenbezogene Daten über einen externen Dienstleister. Die Datenschutzkonferenz stellt in ihrer Orientierungshilfe zu Künstlicher Intelligenz und Datenschutz vom Mai 2024 klar: Verarbeitet ein KI-Anbieter Daten weisungsgebunden im Auftrag, braucht es einen schriftlichen Auftragsverarbeitungsvertrag. Grundlage ist Artikel 28 der Datenschutz-Grundverordnung (DSGVO). Ohne den Vertrag ist der Einsatz nicht rechtskonform. Unabhängig davon verlangt Artikel 35 DSGVO für risikoreiche Verarbeitungen zusätzlich eine Datenschutz-Folgenabschätzung: Der Vertrag regelt die Beziehung zum Anbieter, die Folgenabschätzung bewertet das Risiko für die Betroffenen, eines ersetzt das andere nicht.
Kurzfassung
- Ein Auftragsverarbeitungsvertrag regelt, unter welchen Bedingungen ein externer Anbieter personenbezogene Daten im Auftrag eines Unternehmens verarbeitet, und ist bei den meisten KI-Anwendungen mit Cloud-Anbindung verpflichtend.
- Grundlage ist Artikel 28 DSGVO, konkretisiert durch die DSK-Orientierungshilfe zu Künstlicher Intelligenz und Datenschutz vom Mai 2024.
- Das betrifft jedes Unternehmen, das eine KI-Anwendung eines Drittanbieters mit personenbezogenen Daten nutzt, unabhängig von Unternehmensgröße oder Branche.
Wann ein Auftragsverarbeitungsvertrag Pflicht ist
Ein Auftragsverarbeitungsvertrag, kurz AVV, wird Pflicht, wenn drei Bedingungen gleichzeitig zutreffen. Ein externer Anbieter verarbeitet Daten, diese Daten sind personenbezogen, und der Anbieter handelt nach Weisung des Unternehmens statt nach eigenem Zweck. Bei einer Cloud-basierten KI-Anwendung ist das der Normalfall, sobald Mitarbeitende Namen, Kundendaten, Bewerberdaten oder andere personenbezogene Informationen eingeben.
Der Vertrag ist keine Formalität am Rande. Er ist die rechtliche Grundlage dafür, dass die Verarbeitung überhaupt zulässig ist. Fehlt er, ändert sich an der technischen Sicherheit der Anwendung nichts. Die Nutzung ist aber formal nicht rechtskonform, selbst wenn der Anbieter hohe Sicherheitsstandards einhält.
Für einzelne Anbieter wie OpenAI ist dieser Schritt bereits ausführlich beschrieben, siehe den Beitrag ChatGPT datenschutzkonform im Unternehmen nutzen. Dieser Beitrag nimmt die andere Perspektive ein: Was gilt anbieterunabhängig, für jede KI-Anwendung, die ein Unternehmen einsetzt oder einführen will.
Die Checkliste für den Vertragstext
Ein AVV muss nach Artikel 28 DSGVO bestimmte Mindestinhalte regeln. Bei einem KI-Anbieter kommen einige Punkte hinzu, die bei klassischer Auftragsverarbeitung, etwa bei einem Lohnbüro oder einem Hosting-Anbieter, keine Rolle spielen.
Gegenstand und Dauer der Verarbeitung. Der Vertrag muss klar benennen, welche Daten zu welchem Zweck verarbeitet werden und wie lange sie gespeichert bleiben.
Ausschluss vom Modelltraining. Anton Brinckmann hält diesen für den wichtigsten KI-spezifischen Punkt: Werden Eingaben zum Training oder zur Verbesserung des Modells verwendet? Ein Standardvertrag für klassische IT-Dienstleistungen deckt diese Frage nicht ab, weil sie bei einem Lohnbüro gar nicht erst auftaucht.
Unterauftragsverarbeiter. Viele KI-Anbieter setzen selbst wieder externe Infrastruktur ein, etwa einen Hyperscaler für Rechenleistung oder einen weiteren Modellanbieter im Hintergrund. Jeder dieser Unterauftragsverarbeiter gehört im Vertrag gelistet, nicht nur der Hauptanbieter.
Verarbeitungsort und Drittstaatentransfer. Wo werden die Daten gespeichert, und wo findet die eigentliche Modellverarbeitung statt? Falls außerhalb der EU: Sind Standardvertragsklauseln oder eine gleichwertige Rechtsgrundlage für den Transfer vereinbart?
Audit- und Kontrollrechte. Welche Möglichkeiten hat das Unternehmen, die Einhaltung des Vertrags tatsächlich zu überprüfen, und wie werden Datenpannen gemeldet?
Die Produktseite ist keine Quelle
Ein Hinweis wie „DSGVO-konform“ auf der Produktwebseite eines Anbieters ersetzt keinen dieser fünf Punkte. Verlässlich ist nur der tatsächliche Vertragstext, nicht das Marketing davor.
Wann kein Auftragsverarbeitungsvertrag nötig ist
Drei Konstellationen befreien ein Unternehmen von der AVV-Pflicht, jede davon eng gefasst.
Erstens: keine personenbezogenen Daten im Spiel. Eine KI-Anwendung, die ausschließlich mit anonymisierten oder synthetischen Daten arbeitet, etwa zur Textformatierung ohne Namens- oder Kundenbezug, verarbeitet keine personenbezogenen Daten. Sie braucht deshalb keinen AVV. In der Praxis ist dieser Fall seltener, als er klingt: Personenbezogene Daten schleichen sich oft unbemerkt in Freitextfelder oder Dateianhänge ein.
Zweitens: vollständiger Eigenbetrieb. Läuft ein Modell komplett in eigener Infrastruktur und verlassen keine Daten das eigene System, gibt es keinen externen Auftragsverarbeiter. Damit ist auch kein Vertrag zu schließen. Das ist der Kern dessen, was private KI-Infrastruktur an dieser Stelle strukturell verändert.
Drittens: eigener Verantwortlicher statt Auftragsverarbeiter. Nutzt ein Anbieter die Daten nachweislich für eigene Zwecke statt ausschließlich nach Weisung, etwa für aggregierte, nicht rückführbare Auswertungen, wird er datenschutzrechtlich selbst zum Verantwortlichen. Dieser Fall braucht eine dokumentierte Einzelfallprüfung. Er ist keine Ausrede, um auf einen AVV zu verzichten, wenn tatsächlich weisungsgebunden verarbeitet wird.
Mehrere KI-Anwendungen, mehrere Verträge
Ein einzelner AVV ist überschaubar. Das Problem entsteht mit der Menge. Ein mittelständisches Unternehmen setzt inzwischen selten nur eine KI-Anwendung ein: einen Chatbot für den Kundenservice, ein Transkriptionswerkzeug für Meetings, einen Schreibassistenten im Marketing, dazu KI-Funktionen, die bereits in CRM- oder Buchhaltungssoftware eingebaut sind. Jeder dieser Anbieter braucht einen eigenen, geprüften und aktuell gehaltenen Vertrag.
Hinzu kommt eine Ebene, die oft übersehen wird: Viele SaaS-Anbieter integrieren KI-Funktionen über einen Modellanbieter im Hintergrund, ohne selbst ein Modell zu betreiben. Der eigene AVV mit dem SaaS-Anbieter regelt dann nur die halbe Kette. Ob der eingesetzte Modellanbieter korrekt als Unterauftragsverarbeiter gelistet und vertraglich eingebunden ist, bleibt eine eigene Prüfung. Wer diese Verträge nicht zentral pflegt, verliert schnell den Überblick, welcher Anbieter welche Daten bekommt und ob der jeweilige AVV noch dem aktuellen Funktionsumfang der Anwendung entspricht.
Private KI-Infrastruktur als strukturelle Antwort
Jeder zusätzliche externe KI-Anbieter ist ein zusätzlicher Vertrag, ein zusätzlicher Prüfpunkt und eine zusätzliche Angriffsfläche für einen übersehenen Unterauftragsverarbeiter. Diese Zahl lässt sich nicht auf null senken, denn ein Unternehmen wird kaum vollständig ohne externe Werkzeuge arbeiten. Sie lässt sich aber strukturell begrenzen.
Wird ein Modell in eigener oder dedizierter privater Infrastruktur betrieben, entfällt für genau diesen Anwendungsfall die Frage nach dem externen Auftragsverarbeiter, weil es keinen gibt. Die Daten verlassen das eigene System nicht. Es gibt keinen Vertrag zu prüfen, keine Unterauftragsverarbeiterliste zu überwachen und keinen Drittstaatentransfer zu bewerten. Das ersetzt nicht jeden Cloud-Dienst im Unternehmen, verkleinert aber gezielt die Fälle, in denen ein AVV überhaupt erst zum Thema wird.
Für die verbleibenden externen Anbieter hält Anton Brinckmann eine dokumentierte Übersicht für die wirksamste Einzelmaßnahme: Welcher Anbieter verarbeitet welche Daten, gibt es einen aktuellen AVV, und ist er von der Person geprüft worden, die auch die datenschutzkonforme KI-Einführung im Unternehmen verantwortet.
Was jetzt zu tun ist
Drei Schritte bringen die AVV-Lage eines Unternehmens in einen geprüften Zustand.
- Liste alle KI-Anwendungen im Einsatz auf, auch die, die nur in einzelnen Abteilungen laufen, und prüfe für jede, ob personenbezogene Daten hineinfließen.
- Fordere für jeden dieser Anbieter den aktuellen Auftragsverarbeitungsvertrag an und gleiche ihn gegen die fünf Prüfpunkte aus diesem Beitrag ab, insbesondere den Ausschluss vom Modelltraining und die Liste der Unterauftragsverarbeiter.
- Prüfe danach, für welche Anwendungsfälle sich die Zahl der externen Anbieter durch eigene Infrastruktur reduzieren lässt, statt jeden neuen Vertrag einfach zur wachsenden Liste hinzuzufügen.
