Kaum ein Thema erzeugt in meinen Gesprächen so viel diffuse Unsicherheit wie Datenschutz beim KI-Einsatz. Die einen verbieten alles und verlieren den Anschluss, die anderen kopieren Kundendaten in kostenlose Chatbots und wissen es nicht besser. Beides ist vermeidbar, denn die Rechtslage ist klarer, als die Aufregung vermuten lässt.

Die Ausgangslage in einem Satz

Die DSGVO interessiert sich nicht dafür, ob ein Werkzeug „KI“ heißt. Sie fragt, ob personenbezogene Daten verarbeitet werden, auf welcher Rechtsgrundlage, durch wen und wo. Ein Sprachmodell ist datenschutzrechtlich zunächst ein Auftragsverarbeiter wie andere Dienste auch — mit zwei Besonderheiten, die man kennen muss.

Die drei Fragen, die zählen

1. Kommen personenbezogene Daten in den Prompt?

Namen, Kundennummern, Gesundheitsangaben, Personalunterlagen — sobald so etwas in die Eingabe wandert, ist es eine Verarbeitung im Sinne der DSGVO und braucht dieselbe Grundlage wie jede andere: einen Auftragsverarbeitungsvertrag mit dem Anbieter, eine Rechtsgrundlage für den Zweck, gegebenenfalls eine Ergänzung im Verarbeitungsverzeichnis. Ohne das ist schon das Einfügen eines Bewerberlebenslaufs in einen kostenlosen Chatbot ein Verstoß.

2. Wo sitzt der Verarbeiter — und wem muss er gehorchen?

Bei den großen KI-Diensten führt die Spur fast immer in die USA. Der Datentransfer stützt sich derzeit meist auf das EU-US Data Privacy Framework — ein Abkommen, dessen Vorgänger zweimal vor Gericht gescheitert sind. Wer seine Verarbeitungsketten darauf baut, sollte wissen, dass diese Grundlage politisch verwundbar ist. Ein Anbieterwechsel „wegen Rechtslage“ mitten im Betrieb ist teuer; die robustere Architektur vermeidet den Transfer von vornherein.

3. Was passiert mit den Eingaben beim Anbieter?

Zwischen Endkunden-Chatbot und Unternehmensvertrag liegt datenschutzrechtlich ein Abgrund: Kostenlose Zugänge behalten sich häufig vor, Eingaben zur Modellverbesserung zu nutzen; Unternehmens- und API-Verträge schließen das in der Regel aus und bieten kurze Speicherfristen. Und einmal ins Training geflossene Daten lassen sich praktisch nicht mehr „löschen“ — Auskunfts- und Löschrechte stoßen hier an technische Grenzen. Deshalb entscheidet die Vertragsstufe, nicht das Logo.

Die Reihenfolge der sauberen Lösungen

  1. Datensparsamkeit zuerst. Vieles, wofür Büros KI nutzen, funktioniert ohne Personenbezug — anonymisieren oder pseudonymisieren, bevor etwas den Rechner verlässt, löst das Problem an der Quelle.
  2. Vertragsstufe korrigieren. Wo ein Cloud-Dienst bleiben soll: Unternehmensvertrag mit AVV, ausgeschlossenem Training und EU-Datenregion. Die kostenlosen Zugänge haben im Betrieb nichts verloren.
  3. Lokal verarbeiten. Für alles, was wirklich sensibel ist, ist die eleganteste Antwort die kürzeste Verarbeitungskette: ein offenes Modell auf eigener Hardware. Keine Übermittlung, kein Drittland, kein AVV — weil kein Dritter beteiligt ist. Was das Haus nicht verlässt, muss man niemandem erklären.

Und im Alltag?

Eine einseitige KI-Richtlinie schlägt jedes Verbot: welche Werkzeuge freigegeben sind, welche Datenklassen wohin dürfen und an wen man Fragen richtet. Dazu eine kurze Schulung — die der AI Act ohnehin verlangt — und das Thema verliert seinen Schrecken. Datenschutz ist beim KI-Einsatz kein Hindernis, sondern ein Auswahlkriterium. Und wie bei der Anbieterwahl gilt: Am wenigsten erklären muss, wer am wenigsten aus der Hand gibt.