ChatGPT im Unternehmen: So bleiben sensible Daten geschützt
Das Wichtigste in Kürze
77 % der Beschäftigten fügen Daten in GenAI-Tools ein, und GenAI ist laut LayerX der wichtigste Kanal für Datenabfluss in Unternehmen.
Verbote verlagern die Nutzung nur auf private Geräte und Konten.
Wirksam ist die Kombination aus Richtlinie, Schulung und technischer Kontrolle.
Am direktesten hilft ein Privacy Gateway, das Daten pseudonymisiert, bevor sie das Sprachmodell erreichen. Die Zuordnung bleibt im Unternehmen.
Wie gelangen sensible Daten täglich in Sprachmodelle?
Laut dem LayerX Enterprise AI and SaaS Data Security Report 2025 fügen 77 % der Beschäftigten Daten in GenAI-Tools ein, und GenAI ist zum wichtigsten Kanal für Datenabfluss in Unternehmen geworden. Das passiert jetzt, in Ihrem Unternehmen, ob Ihre IT davon weiß oder nicht.
Die Cisco 2024 Data Privacy Benchmark Study zeigt: 48 % der Beschäftigten haben nicht öffentliche Unternehmensinformationen in GenAI-Tools eingegeben, und 27 % der Organisationen haben GenAI zumindest vorübergehend verboten. Ein Verbot, das ein Viertel der Unternehmen ausprobiert und meist wieder zurückgenommen hat.
Der Fall Samsung hat die Folgen greifbar gemacht. 2023 fügten Samsung-Ingenieure proprietären Quellcode in ChatGPT ein, um Fehler zu beheben, und gaben dabei unbeabsichtigt Geschäftsgeheimnisse preis. Samsung untersagte ChatGPT daraufhin für seine Beschäftigten. Hinter dem Vorfall stand keine böse Absicht. Die Ursachen waren Bequemlichkeit, Zeitdruck und fehlende Leitplanken.
Genau das ist der Kern des Problems. Beschäftigte wollen keine Datenschutzregeln brechen. Sie wollen schneller arbeiten. ChatGPT und ähnliche Tools sind wirklich nützlich, und ohne klare technische Kontrollen ist die Arbeit mit echten Daten der bequemste Weg. Schatten-KI, also KI-Nutzung außerhalb offizieller IT-Kanäle, füllt die Lücke, die langsame oder fehlende KI-Strategien hinterlassen.
Warum ist ein Verbot von KI-Tools keine Lösung?
Ein ChatGPT-Verbot hält Beschäftigte nicht von der Nutzung ab. Es verlagert sie in den Untergrund.
Private Laptops, private Konten und Heimnetze liegen vollständig außerhalb Ihres Sicherheitsbereichs. Ein Verbot ohne Durchsetzung ist Theater, und Durchsetzung ohne praktische Alternative erzeugt nur Reibung.
Wer KI-Tools verbietet, ohne freigegebene Alternativen anzubieten, trifft außerdem eine Wettbewerbsentscheidung. Mitbewerber, die KI sicher nutzen, werden schneller, liefern bessere Ergebnisse und ziehen Talente an, die diese Werkzeuge erwarten. Ein pauschales Verbot hat also seinen Preis.
Das Ziel sollte sein, sichere KI-Nutzung zu ermöglichen. Beschäftigte brauchen Werkzeuge und Abläufe, mit denen sie von generativer KI profitieren, während sensible Daten dort bleiben, wo sie hingehören: in Ihrer Umgebung.
Welche Daten sind gefährdet, wenn Beschäftigte ChatGPT nutzen?
Die Daten, die regelmäßig in Prompts auftauchen, stammen aus allen Bereichen des Unternehmens:
Personenbezogene Kundendaten wie Namen, E-Mail-Adressen, Postanschriften und Gesundheitsdaten
Interne Geschäftsdaten wie Finanzprognosen, Strategiepapiere, Vorstandspräsentationen und Besprechungsnotizen
Quellcode und geistiges Eigentum, das Ihr Produkt oder Ihren Wettbewerbsvorteil ausmacht
Regulierte Daten nach DSGVO, HIPAA und EU AI Act, bei denen eine unbefugte Verarbeitung erhebliche rechtliche und finanzielle Folgen hat
Für jede dieser Kategorien gelten eigene Pflichten. Ein einziger Prompt mit Patientendaten, Finanzdaten von Kunden oder unveröffentlichtem Quellcode kann eine Meldepflicht für Datenpannen, eine behördliche Untersuchung oder beides auslösen.
Fünf Schritte, damit keine sensiblen Daten in Sprachmodelle gelangen
Bestandsaufnahme machen. Prüfen Sie, welche Teams bereits Sprachmodelle nutzen und welche Daten sie eingeben. Was Sie nicht sehen, können Sie nicht schützen. Audits zur Schatten-KI, die Überwachung von Browser-Erweiterungen und Umfragen unter Beschäftigten liefern eine erste Grundlage.
Eine klare KI-Nutzungsrichtlinie mit Datenklassen festlegen. Nicht alle Daten bergen dasselbe Risiko. Eine Richtlinie, die genau sagt, welche Datenkategorien geteilt werden dürfen, welche vorher pseudonymisiert werden müssen und welche tabu sind, gibt Beschäftigten einen praktischen Rahmen statt eines pauschalen Verbots.
Ein Privacy Gateway einsetzen, das Daten vor dem Sprachmodell pseudonymisiert. Technische Kontrollen sind verlässlicher als Richtlinien allein. Ein Privacy Gateway sitzt zwischen Nutzer und Sprachmodell, erkennt sensible Daten und ersetzt sie, bevor sie Ihre Umgebung verlassen. Das ist die direkteste Antwort auf den Datenschutz bei Unternehmens-LLMs.
Beschäftigte schulen. Technik und Richtlinien wirken nur, wenn Menschen verstehen, warum es sie gibt. Kurze Schulungen mit konkreten Beispielen, die einen riskanten und einen sicheren Prompt zeigen, verringern versehentliche Datenabflüsse wirksamer als ein Richtliniendokument, das kaum jemand liest.
Die Nutzung laufend überwachen und prüfen. KI-Nutzungsmuster ändern sich schnell. Ein Team, das im letzten Quartal wenig Risiko hatte, kann heute ganz anders arbeiten. Laufende Überwachung macht neue Risiken sichtbar, bevor daraus Vorfälle werden, und liefert Ihrer Compliance den nötigen Prüfpfad.
Wie stoppt Pseudonymisierung Datenabflüsse an der Quelle?
Ein Privacy Gateway für Sprachmodelle arbeitet als unsichtbare Schicht zwischen Nutzer und externem Modell. Der Ablauf ist einfach und geschieht in Echtzeit, ohne spürbare Verzögerung.
Schritt 1: Der Nutzer schickt einen Prompt mit sensiblen Daten ab, etwa einem Kundennamen, einer Finanzkennzahl oder einem internen Aktenzeichen.
Schritt 2: Das Privacy Gateway erkennt personenbezogene und andere sensible Werte und ersetzt sie durch Platzhalter, bevor der Prompt das Sprachmodell erreicht.
Schritt 3: Das Sprachmodell verarbeitet nur die bereinigte Fassung und antwortet auf dieser Grundlage.
Schritt 4: Das Privacy Gateway setzt die Originalwerte wieder ein und liefert dem Nutzer eine vollständige, stimmige Antwort. Die Zuordnung bleibt jederzeit in der gesicherten Umgebung des Kunden.
So ist vorgesehen, dass keine personenbezogenen Daten das externe Modell erreichen. Das Sprachmodell sieht nur Platzhalter, keine echten Namen, Kontonummern oder Diagnosen. Für den Nutzer ist die Antwort trotzdem vollständig und korrekt.
Hinweis: Weil das Gateway eine Zuordnungstabelle vorhält, mit der sich Daten im Unternehmen wieder einer Person zuordnen lassen, handelt es sich nach Art. 4 Nr. 5 DSGVO um Pseudonymisierung und nicht um vollständige Anonymisierung. Die Daten, die an das Sprachmodell gehen, enthalten keine direkten Identifikatoren, die Rückverknüpfung bleibt aber intern möglich. Diese Unterscheidung ist für die rechtliche Einordnung wichtig und gehört in Ihre Datenschutzdokumentation.
Wie unterstützt AISafe™ den Datenschutz bei Sprachmodellen?
AISafe™ ist ein Privacy Gateway, das speziell für den Einsatz von Sprachmodellen in Unternehmen entwickelt wurde. Es wird per API an bestehende KI-Tools, Chat-Lösungen und Automatisierungsabläufe angebunden und lässt sich einführen, ohne den vorhandenen KI-Stack zu ersetzen.
AISafe™ kombiniert KI-gestützte Erkennung mit regelbasierter Klassifikation und findet personenbezogene und andere sensible Daten in strukturierten wie unstrukturierten Inhalten, auch in PDFs, Bildern, Excel- und Word-Dateien sowie XML.
Die gesamte Pseudonymisierung findet in der eigenen gesicherten Umgebung des Kunden statt. Vorgesehen ist, dass keine Rohdaten an externe Sprachmodelle oder Cloud-Plattformen gehen. Wie zuverlässig die Erkennung ist, hängt von der richtigen Konfiguration, den unterstützten Datenformaten und der Art der Eingaben ab. Unternehmen sollten die Abdeckung deshalb bei der Einführung prüfen. AISafe™ unterstützt den DSGVO-konformen Einsatz generativer KI, indem es hilft, die Anforderungen an Datenminimierung und Pseudonymisierung zu erfüllen, bevor ein Prompt das Unternehmen verlässt. Ob die Nutzung insgesamt DSGVO-konform ist, hängt vom gesamten Datenschutzrahmen ab, einschließlich Rechtsgrundlage, Auftragsverarbeitungsverträgen und geeigneten technischen und organisatorischen Maßnahmen.
AISafe™ lässt sich vollständig on-premise betreiben und eignet sich damit für stark regulierte Branchen wie Gesundheitswesen, Finanzdienstleistungen und öffentliche Verwaltung.
Maya Data Privacy ist nach ISO 27001:2022 und SOC 2 Type II zertifiziert. Beide Zertifizierungen werden unabhängig geprüft und belegen die Informationssicherheit im eigenen Betrieb von Maya. Für sich genommen bescheinigen sie nicht die DSGVO-Konformität einer bestimmten Kundeninstallation.
Warum Verträge mit KI-Anbietern für sensible SAP-Daten nicht ausreichen, lesen Sie in KI-Tools und SAP-Daten. Welche Folgen identifizierbare Daten haben können, zeigt unser Überblick über die höchsten DSGVO-Bußgelder 2024/25. Sie möchten AISafe™ in Ihrer Umgebung sehen? Demo buchen
Häufige Fragen zu ChatGPT und Datenschutz im Unternehmen
Wie verhindere ich, dass Beschäftigte sensible Daten in ChatGPT einfügen?
Am wirksamsten ist die Kombination aus technischer Kontrolle, klarer Richtlinie und Schulung. Ein Privacy Gateway wie AISafe™ pseudonymisiert Prompts automatisch, bevor sie das Sprachmodell erreichen. Selbst wenn jemand sensible Daten einfügt, erhält das Modell nur die bereinigte Fassung. Dazu kommen eine Richtlinie, die festlegt, was geteilt werden darf, und kurze Schulungen mit konkreten Beispielen.
Welche Tools entfernen sensible Daten aus Prompts, bevor sie ein Sprachmodell erreichen?
Am verlässlichsten sind Privacy Gateways, die eigens für LLM-Abläufe gebaut sind. AISafe™ von Maya Data Privacy erkennt und ersetzt personenbezogene Daten in Echtzeit, bevor Prompts Ihre Umgebung verlassen, auch in Dokumenten, Bildern und XML-Dateien. Die Antwort des Modells wird in der gesicherten Umgebung wieder mit den Originalwerten zusammengeführt, bevor sie den Nutzer erreicht.
Lässt sich ChatGPT DSGVO-konform nutzen?
Das ist möglich, aber nur mit geeigneten technischen und organisatorischen Maßnahmen. Die DSGVO verlangt Datenminimierung und begrenzt die Weitergabe personenbezogener Daten an Dritte ohne Rechtsgrundlage. Ein Privacy Gateway, das personenbezogene Daten vor dem Versand ersetzt, erfüllt eine Kernanforderung. Zusätzlich sollten Unternehmen die Vertragsbedingungen des LLM-Anbieters prüfen, Drittlandübermittlungen bewerten und ihr Vorgehen in der Datenschutzdokumentation festhalten.
Was ist ein Privacy Gateway für Unternehmens-KI?
Ein Privacy Gateway ist eine Softwareschicht zwischen Beschäftigten und externen KI-Modellen wie ChatGPT. Es fängt ausgehende Prompts ab, erkennt sensible Daten, ersetzt sie durch Platzhalter und leitet den bereinigten Prompt an das Modell weiter. Die Antwort wird vor der Auslieferung wieder mit den Originalwerten verknüpft. So ist vorgesehen, dass keine personenbezogenen oder vertraulichen Daten das externe Modell erreichen.
Kommentare