Ein Chat-Assistent fühlt sich an wie eine private Unterhaltung. Genau das ist das Problem. Mitarbeitende formulieren Prompts in dem Moment, in dem sie eine Lösung brauchen, nicht in dem Moment, in dem sie an Verträge, Löschfristen oder Trainingsdaten denken. Was dabei eingegeben wird, ist in den seltensten Fällen vorab geprüft.
Was tatsächlich im Prompt landet
In der Praxis landen vier Datenarten besonders häufig im Eingabefeld von ChatGPT, Claude oder Copilot-Chat: Kundendaten (Namen, Vertragsdetails, Supportfälle), Quellcode und andere Geschäftsgeheimnisse, interne Dokumente (Strategiepapiere, Protokolle, Kalkulationen) und personenbezogene Daten Dritter, die nicht einmal im eigenen Unternehmen arbeiten. Keine dieser vier Kategorien ist per se verboten einzugeben. Die Frage ist, ob vorher geklärt wurde, was mit ihr beim Anbieter passiert.
Der Vertrag mit dem Anbieter
Ob ein KI-Anbieter Auftragsverarbeiter im Sinne der DSGVO ist oder an einer Stelle gemeinsam mit dem Unternehmen verantwortlich wird, ist tendenziell eine Einzelfallfrage, die von Vertragsgestaltung und tatsächlicher Datennutzung abhängt. Die Datenschutzkonferenz der deutschen Aufsichtsbehörden hat dazu im Mai 2024 die Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ veröffentlicht. Sie ordnet typische datenschutzrechtliche Anforderungen in den Kontext von KI-Einsatz ein, ist selbst aber nicht verbindlich und erhebt ausdrücklich keinen Anspruch auf Vollständigkeit. Wer prüft, ob ein Auftragsverarbeitungsvertrag vorliegt, landet fast immer bei zwei Anschlussfragen: Wo stehen die Server, und liegt ein Drittlandtransfer vor, der vertraglich abgesichert ist.
Training, Löschung und die Frage, wo die Daten bleiben
Ob eine Eingabe ins Training des Anbieters einfließt, ist typabhängig. Nach eigener Dokumentation von OpenAI unterscheidet sich das Verhalten zwischen Consumer-Zugängen und Geschäftskundenprodukten deutlich: Bei ChatGPT Business, ChatGPT Enterprise und der API werden Eingaben und Ausgaben laut Anbieterangabe standardmäßig nicht fürs Modelltraining verwendet, ein Unternehmen müsste aktiv zustimmen, wenn es das ändern will. Bei individuellen Consumer-Konten liegt es laut derselben Dokumentation anders: Dort fließen Unterhaltungen in das weitere Training ein, sofern niemand aktiv widerspricht. Welcher Zugang im Unternehmen tatsächlich genutzt wird, privater Account oder Geschäftskonto, entscheidet mit, was mit den Daten passiert. Eine dokumentierte Löschfrist für Prompt-Verläufe ist eine zweite, oft unbeantwortete Frage, unabhängig vom gewählten Zugang.
Schatten-IT entsteht nicht aus Boshaftigkeit
Wenn kein zentral freigegebenes Tool existiert oder der Freigabeprozess länger dauert als die Deadline der Aufgabe, öffnen Mitarbeitende den Browser und nutzen, was funktioniert. Das ist kein Versagen Einzelner, sondern ein strukturelles Ergebnis fehlender Alternativen. Die Konsequenz bleibt gleich: Es gibt keine Übersicht, in welchen Tools welche Daten liegen, und niemand hat das zuletzt geprüft.
Ein Prüfraster für den Status quo
Bevor ein Vorfall zeigt, wie die eigene Praxis tatsächlich aussieht, hilft ein Blick auf einige Fragen, mit denen sich der Zustand grob einordnen lässt. Nicht als abschließende Prüfung, sondern als erster Diagnoseschritt.
Gibt es eine schriftliche Nutzungsrichtlinie, die konkret benennt, welche Datenkategorien nicht eingegeben werden dürfen, oder bleibt es bei einem allgemeinen Appell zur Vorsicht? Wurden Mitarbeitende dazu geschult, einmalig oder wiederkehrend? Existieren technische Kontrollen wie DLP-Regeln, Prompt-Filter oder Browser-Policies, oder steht und fällt alles mit einem Richtlinien-Dokument, das kaum jemand noch liest? Wie würde ein Verstoß überhaupt auffallen, über welchen Weg würde er gemeldet, und wer bekommt die Meldung? Und schließlich: Wer entscheidet, ob ein neues KI-Tool im Unternehmen eingesetzt werden darf, ist das dokumentiert, oder ergibt es sich zufällig danach, wer zuerst eine Browser-Erweiterung installiert hat?
Jede dieser Fragen kann auch mit „wissen wir nicht“ beantwortet werden. Das ist bereits ein Ergebnis, mit dem sich arbeiten lässt. Ein Prüfraster wie dieses ersetzt keine vollständige Compliance-Prüfung, zeigt aber, wo die nächste ansetzen müsste.
Governance für selbst gebaute Features ist ein anderes Thema
Dieser Beitrag behandelt die alltägliche Eingabe in fremde KI-Assistenten. Governance für KI-Funktionen, die ein Unternehmen selbst in eigene Produkte einbaut, folgt anderen Fragen und ist Thema von AI Governance: Was der EU AI Act für selbst gebaute KI-Features bedeutet.
Das Leistungsspektrum ist gestaffelt und baut auf Delivery-Transparenz auf. Es läuft über drei Felder: Implementation (Delivery- und Nachweiskontrollen in die Pipeline einziehen), AI Governance (Nachvollziehbarkeit dort schaffen, wo KI-gestützte Schritte in Build und Deployment Freigaben und Verantwortung verwischen) und Maintenance (die Übergabefrage: wem ein System nach dem Go-Live gehört und woran man merkt, dass es niemandem gehört). Ein festes Angebot daraus entsteht erst, wenn klar ist, was du wirklich brauchst. Kontakt: mm@mhm-dl.de.
Kommentar verfassen