Ein Unternehmen, das ChatGPT, Claude oder ein anderes KI-Tool im Arbeitsalltag einsetzt, verarbeitet damit in aller Regel personenbezogene Daten über einen externen Dienstleister. Die Datenschutzkonferenz stellt in ihrer Orientierungshilfe zu Künstlicher Intelligenz und Datenschutz vom Mai 2024 klar: Verarbeitet ein KI-Anbieter Daten weisungsgebunden im Auftrag, braucht es einen schriftlichen Auftragsverarbeitungsvertrag nach Artikel 28 der Datenschutz-Grundverordnung (DSGVO). Ohne ihn ist der Einsatz nicht rechtskonform.
Kurzfassung
- Ein Auftragsverarbeitungsvertrag regelt, unter welchen Bedingungen ein externer Anbieter personenbezogene Daten im Auftrag eines Unternehmens verarbeitet, und ist bei den meisten KI-Tools mit Cloud-Anbindung verpflichtend.
- Grundlage ist Artikel 28 DSGVO, konkretisiert durch die DSK-Orientierungshilfe zu Künstlicher Intelligenz und Datenschutz vom Mai 2024.
- Das betrifft jedes Unternehmen, das ein KI-Tool eines Drittanbieters mit personenbezogenen Daten nutzt, unabhängig von Unternehmensgröße oder Branche.
Wann ein Auftragsverarbeitungsvertrag Pflicht ist
Ein Auftragsverarbeitungsvertrag, kurz AVV, wird immer dann Pflicht, wenn drei Bedingungen gleichzeitig zutreffen: Ein externer Anbieter verarbeitet Daten, diese Daten sind personenbezogen, und der Anbieter handelt dabei nach Weisung des Unternehmens statt nach eigenem Zweck. Bei einem Cloud-basierten KI-Tool ist das der Normalfall, sobald Mitarbeitende Namen, Kundendaten, Bewerberdaten oder andere personenbezogene Informationen eingeben.
Der Vertrag ist keine Formalität am Rande. Er ist die rechtliche Grundlage dafür, dass die Verarbeitung überhaupt zulässig ist. Fehlt er, ändert sich an der technischen Sicherheit des Tools nichts, aber die Nutzung ist formal nicht rechtskonform, selbst wenn der Anbieter selbst hohe Sicherheitsstandards einhält.
Für einzelne Anbieter wie OpenAI ist dieser Schritt bereits ausführlich beschrieben, siehe den Beitrag ChatGPT datenschutzkonform im Unternehmen nutzen. Dieser Beitrag hier nimmt die andere Perspektive ein: Was gilt anbieterunabhängig, für jedes KI-Tool, das ein Unternehmen einsetzt oder einführen will.
Die Checkliste für den Vertragstext
Ein AVV muss nach Artikel 28 DSGVO bestimmte Mindestinhalte regeln. Bei einem KI-Anbieter kommen einige Punkte hinzu, die bei klassischer Auftragsverarbeitung, etwa bei einem Lohnbüro oder einem Hosting-Anbieter, keine Rolle spielen.
Gegenstand und Dauer der Verarbeitung. Der Vertrag muss klar benennen, welche Daten zu welchem Zweck verarbeitet werden und wie lange sie gespeichert bleiben.
Ausschluss vom Modelltraining. Der wichtigste KI-spezifische Punkt: Werden Eingaben zum Training oder zur Verbesserung des Modells verwendet? Ein Standardvertrag für klassische IT-Dienstleistungen deckt diese Frage nicht ab, weil sie bei einem Lohnbüro gar nicht erst auftaucht.
Unterauftragsverarbeiter. Viele KI-Anbieter setzen selbst wieder externe Infrastruktur ein, etwa einen Hyperscaler für Rechenleistung oder einen weiteren Modellanbieter im Hintergrund. Jeder dieser Unterauftragsverarbeiter gehört im Vertrag gelistet, nicht nur der Hauptanbieter.
Verarbeitungsort und Drittstaatentransfer. Wo werden die Daten gespeichert, wo findet die eigentliche Modellverarbeitung statt, und falls außerhalb der EU: Sind Standardvertragsklauseln oder eine gleichwertige Rechtsgrundlage für den Transfer vereinbart?
Audit- und Kontrollrechte. Welche Möglichkeiten hat das Unternehmen, die Einhaltung des Vertrags tatsächlich zu überprüfen, und wie werden Datenpannen gemeldet?
Die Produktseite ist keine Quelle
Ein Hinweis wie „DSGVO-konform“ auf der Produktwebseite eines Anbieters ersetzt keinen dieser fünf Punkte. Verlässlich ist nur der tatsächliche Vertragstext, nicht das Marketing davor.
Wann kein Auftragsverarbeitungsvertrag nötig ist
Drei Konstellationen befreien ein Unternehmen von der AVV-Pflicht, jede davon eng gefasst.
Erstens: keine personenbezogenen Daten im Spiel. Ein KI-Tool, das ausschließlich mit anonymisierten oder synthetischen Daten arbeitet, etwa zur Textformatierung ohne Namens- oder Kundenbezug, verarbeitet keine personenbezogenen Daten und braucht deshalb keinen AVV. In der Praxis ist dieser Fall seltener, als er klingt, weil sich personenbezogene Daten oft unbemerkt in Freitextfeldern oder Dateianhängen einschleichen.
Zweitens: vollständiger Eigenbetrieb. Läuft ein Modell komplett in eigener Infrastruktur und verlassen keine Daten das eigene System, gibt es keinen externen Auftragsverarbeiter und damit auch keinen Vertrag zu schließen. Das ist der Kern dessen, was private KI-Infrastruktur an dieser Stelle strukturell verändert.
Drittens: eigener Verantwortlicher statt Auftragsverarbeiter. Nutzt ein Anbieter die Daten nachweislich für eigene Zwecke statt ausschließlich nach Weisung, etwa für aggregierte, nicht rückführbare Auswertungen, wird er datenschutzrechtlich selbst zum Verantwortlichen. Dieser Fall braucht eine dokumentierte Einzelfallprüfung und ist keine Ausrede, um auf einen AVV zu verzichten, wenn tatsächlich weisungsgebunden verarbeitet wird.
Mehrere KI-Tools, mehrere Verträge
Ein einzelner AVV ist überschaubar. Das Problem entsteht mit der Menge. Ein mittelständisches Unternehmen setzt heute selten nur ein KI-Tool ein: ein Chatbot für den Kundenservice, ein Transkriptionstool für Meetings, ein Schreibassistent im Marketing, dazu KI-Funktionen, die bereits in CRM- oder Buchhaltungssoftware eingebaut sind. Jeder dieser Anbieter braucht einen eigenen, geprüften und aktuell gehaltenen Vertrag.
Hinzu kommt eine Ebene, die oft übersehen wird: Viele SaaS-Anbieter integrieren KI-Funktionen, ohne selbst ein Modell zu betreiben, sondern über einen Modellanbieter im Hintergrund. Der eigene AVV mit dem SaaS-Anbieter regelt dann nur die halbe Kette. Ob der eingesetzte Modellanbieter korrekt als Unterauftragsverarbeiter gelistet und vertraglich eingebunden ist, bleibt eine eigene Prüfung.
Wer diese Verträge nicht zentral pflegt, verliert schnell den Überblick, welcher Anbieter welche Daten bekommt und ob der jeweilige AVV überhaupt noch dem aktuellen Funktionsumfang des Tools entspricht.
Private KI-Infrastruktur als strukturelle Antwort
Jeder zusätzliche externe KI-Anbieter ist ein zusätzlicher Vertrag, ein zusätzlicher Prüfpunkt und eine zusätzliche Angriffsfläche für einen übersehenen Unterauftragsverarbeiter. Diese Zahl lässt sich nicht auf null senken, ein Unternehmen wird kaum vollständig ohne externe Werkzeuge arbeiten. Sie lässt sich aber strukturell begrenzen.
Wird ein Modell in eigener oder dedizierter privater Infrastruktur betrieben, entfällt für genau diesen Anwendungsfall die Frage nach dem externen Auftragsverarbeiter, weil es keinen gibt. Die Daten verlassen das eigene System nicht, es gibt keinen Vertrag zu prüfen, keine Unterauftragsverarbeiterliste zu überwachen und keinen Drittstaatentransfer zu bewerten. Das ersetzt nicht jeden Cloud-Dienst im Unternehmen, verkleinert aber gezielt die Fälle, in denen ein AVV überhaupt erst zum Thema wird.
Für die verbleibenden externen Anbieter bleibt eine dokumentierte Übersicht die wirksamste Einzelmaßnahme: Welcher Anbieter verarbeitet welche Daten, gibt es einen aktuellen AVV, und ist er von der Person geprüft worden, die auch die datenschutzkonforme KI-Einführung im Unternehmen verantwortet.
Was jetzt zu tun ist
Drei Schritte bringen die AVV-Lage eines Unternehmens in einen belastbaren Zustand. Liste alle KI-Tools im Einsatz auf, auch die, die nur in einzelnen Abteilungen laufen, und prüfe für jedes, ob personenbezogene Daten hineinfließen. Fordere für jeden dieser Anbieter den aktuellen Auftragsverarbeitungsvertrag an und gleiche ihn gegen die fünf Prüfpunkte aus diesem Beitrag ab, insbesondere den Ausschluss vom Modelltraining und die Liste der Unterauftragsverarbeiter. Prüfe danach, für welche Anwendungsfälle sich die Zahl der externen Anbieter durch eigene Infrastruktur überhaupt reduzieren lässt, statt jeden neuen Vertrag einfach zur wachsenden Liste hinzuzufügen.
Wenn du dabei nicht mehr durchblickst, welcher deiner Verträge noch aktuell ist oder ob sich der Aufwand durch eine eigene Lösung senken lässt, geh das im Kennenlerngespräch mit uns Gründern durch: 30 Minuten, danach weißt du, wo du anfangen solltest.
