KI und Datenschutz in Unternehmen
Sobald Mitarbeitende Kundendaten, Vertragsentwürfe oder interne Zahlen in ChatGPT oder Claude eingeben, stellt sich eine Frage, die viele Unternehmen bislang ungeklärt lassen: Ist das eigentlich zulässig? Die kurze Antwort ist ja – aber nur, wenn ein paar Dinge geklärt sind, bevor die Daten das Haus verlassen.
Wir zeigen, welche Datenschutzfragen beim Einsatz von KI-Sprachmodellen wirklich relevant sind, und wie InnoGE/deckname dafür sorgt, dass personenbezogene Daten erst gar nicht ungeschützt in eine fremde Cloud gelangen.
Das Thema kurz und kompakt
ChatGPT und Claude nutzen ist grundsätzlich zulässig: Entscheidend ist, welche Daten Sie eingeben und ob ein Auftragsverarbeitungsvertrag mit dem Anbieter besteht.
Die sicherste Lösung ist technisch, nicht nur vertraglich: Wenn personenbezogene Daten gar nicht erst im Klartext beim Anbieter ankommen, entfällt ein Großteil der rechtlichen Unsicherheit.
InnoGE/deckname übernimmt genau das: Erkennung und Ersetzung sensibler Daten, bevor ein Text die eigene Infrastruktur verlässt.
Die rechtlichen Grundlagen
Fünf Punkte entscheiden in der Praxis darüber, ob der Einsatz eines KI-Sprachmodells datenschutzrechtlich unproblematisch ist.
Auftragsverarbeitung
Werden personenbezogene Daten an einen KI-Anbieter übermittelt, braucht es dafür in der Regel einen Auftragsverarbeitungsvertrag (AVV) nach Art. 28 DSGVO. Anbieter wie OpenAI oder Anthropic stellen solche Verträge inzwischen standardmäßig bereit – über das Business- oder Enterprise-Portal lässt sich der AVV meist direkt online abschließen. Das Problem in der Praxis: Häufig nutzt ein einzelner Mitarbeitender einen privaten ChatGPT-Zugang für dienstliche Zwecke, ganz ohne dass ein Vertrag zwischen dem Unternehmen und OpenAI existiert. Dann greift der AVV nicht, egal wie gut er formuliert ist.
Drittlandtransfer
Die meisten großen Sprachmodelle laufen auf Servern in den USA. Für die Übermittlung personenbezogener Daten dorthin braucht es eine geeignete Rechtsgrundlage – etwa Standardvertragsklauseln oder eine Zertifizierung im EU-U.S. Data Privacy Framework. Ohne das ist die Übermittlung unzulässig, unabhängig davon, wie gut das Sprachmodell selbst ist. Wichtig dabei: Das Data Privacy Framework wird politisch immer wieder infrage gestellt – wer heute darauf baut, sollte eine Alternative in der Hinterhand haben, statt sich langfristig auf ein einzelnes Rechtsinstrument zu verlassen.
Trainingsdaten
Ein oft übersehener Punkt: Bei vielen kostenlosen oder consumer-orientierten KI-Diensten fließen Eingaben standardmäßig in das Training künftiger Modellversionen ein. Für den Unternehmenseinsatz braucht es Verträge, die das ausschließen – Business- oder Enterprise-Tarife der Anbieter regeln das in der Regel entsprechend.
Betroffenenrechte
Meldet sich eine betroffene Person und verlangt Auskunft, was über sie gespeichert ist, oder die Löschung ihrer Daten, muss diese Anfrage auch für Daten beantwortet werden können, die in einem KI-System gelandet sind. Bei einem Cloud-Sprachmodell, das die Eingaben Dritter zum Training nutzt, lässt sich das kaum sauber umsetzen – ein weiterer Grund, warum Trainingsdaten-Nutzung im Unternehmenskontext vertraglich ausgeschlossen sein sollte.
Anonymisierung
Art. 25 und Art. 32 DSGVO nennen Anonymisierung und Pseudonymisierung ausdrücklich als geeignete technische Maßnahme, um personenbezogene Daten zu schützen. Anders als bei den ersten vier Punkten geht es hier nicht um Verträge oder Rechtsgrundlagen, sondern darum, das Risiko technisch von vornherein zu verringern: Was ein Sprachmodell nie im Klartext sieht, kann es auch nicht offenlegen, falsch verarbeiten oder in Trainingsdaten übernehmen. Wie das konkret aussieht, zeigen wir im nächsten Abschnitt.
Experten-Tipp: Ein Auftragsverarbeitungsvertrag regelt, was mit den Daten beim Anbieter passieren darf. Er verhindert nicht, dass ein Mitarbeitender aus Versehen zu viel eingibt. Beides zusammen macht den Unterschied.
Tim Geisendörfer
Founder & CEO
Schatten-KI: Das unterschätzte Risiko
Selbst wenn ein Unternehmen einen sauberen Vertrag mit OpenAI oder Anthropic abgeschlossen hat, heißt das nicht, dass die Mitarbeitenden diesen auch tatsächlich nutzen. In der Praxis arbeiten viele weiterhin mit ihrem privaten ChatGPT-Account, weil er schon eingerichtet ist, sich der Umstieg auf das Firmenkonto nicht herumgesprochen hat oder die Anmeldung dort umständlicher wirkt. Für IT und Datenschutz ist das unsichtbar – bis etwas schiefgeht.
Das lässt sich nicht allein durch Technik lösen. Es braucht eine klare, kommunizierte Regel: welche Tools erlaubt sind, mit welchem Zugang, und was auf gar keinen Fall eingegeben werden darf. Ohne diese Regel bleibt jeder Vertrag mit dem Anbieter Theorie – die Praxis entscheidet sich am Rechner der einzelnen Mitarbeitenden.
Die praktische Lösung: Anonymisierung vor der Cloud
Verträge und Rechtsgrundlagen sind die eine Seite. Die robustere Lösung liegt eine Ebene davor: Wenn ein KI-Sprachmodell die personenbezogenen Daten gar nicht im Klartext zu sehen bekommt, stellen sich viele der oben genannten Fragen erst gar nicht in dieser Schärfe.
Genau dafür haben wir InnoGE/deckname entwickelt: ein eigenes KI-Modell zur Textanonymisierung, das personenbezogene Daten erkennt und durch konsistente Platzhalter ersetzt – bevor ein Text ein Cloud-Sprachmodell wie ChatGPT oder Claude erreicht. Deckname läuft vollständig in Ihrer eigenen Infrastruktur, ohne GPU, in Millisekunden. Mehr zu Funktionsweise, Benchmarks und einer Live-Demo finden Sie in unserem ausführlichen Artikel zu InnoGE/deckname.
Konkret sieht das etwa so aus: Aus „Herr Weber aus der Bahnhofstraße 12 in Kassel bittet um Rückruf zu seiner Rechnung 4471" wird für das Sprachmodell „PERSON_1 aus ADRESSE_1 bittet um Rückruf zu seiner Rechnung NUMMER_1". Das Sprachmodell beantwortet die eigentliche Anfrage trotzdem korrekt, bekommt dabei aber nie zu sehen, um welche echte Person es geht. Auf dem Weg zurück setzt Deckname die Platzhalter wieder in die richtigen Werte um.
Auftragsverarbeitungsvertrag allein vs. mit Anonymisierung
Ein AVV und eine technische Anonymisierungsschicht lösen unterschiedliche Probleme – am besten wirken sie zusammen.
Schutz bei Fehleingaben
Wirkt erst, nachdem die Daten bereits beim Anbieter angekommen sind
Personenbezogene Daten werden vor der Übermittlung erkannt und ersetzt
Aufwand bei Anbieterwechsel
Für jeden neuen Anbieter erneut prüfen und abschließen
Wirkt unabhängig davon, welches Sprachmodell dahinter steht
Relevanz für den Drittlandtransfer
Regelt die Übermittlung, verringert sie aber nicht
Weniger personenbezogene Daten verlassen die EU überhaupt
Besondere Anforderungen je nach Branche
Die genannten Grundlagen gelten für jedes Unternehmen. In einigen Branchen kommen zusätzliche, strengere Anforderungen dazu. Für drei davon haben wir unsere Erfahrung in eigenen Leitfäden zusammengefasst:
KI im Gesundheitswesen – Gesundheitsdaten gelten nach Art. 9 DSGVO als besonders schützenswert
KI im Finanzwesen – Bankgeheimnis, DORA und Drittanbieter-Risiko
KI im Banking – Kundenservice und Kreditprüfung sicher automatisieren
Die interne KI-Richtlinie als Fundament
Verträge mit Anbietern und eine technische Anonymisierungsschicht lösen zusammen den größten Teil des Problems. Was oft fehlt, ist die dritte Ebene: eine kurze, verständliche Richtlinie, die allen Mitarbeitenden sagt, welche KI-Tools sie mit welchem Zugang nutzen dürfen und welche Daten dabei niemals eingegeben werden sollten.
Eine solche Richtlinie muss keine zwanzig Seiten haben. Wichtiger ist, dass sie tatsächlich gelesen und verstanden wird: welche Tools freigegeben sind, wie der Zugang über das Firmenkonto funktioniert, wer bei Unsicherheit gefragt werden kann. Ohne diesen Rahmen bleibt jede technische und vertragliche Vorkehrung von der Disziplin Einzelner abhängig.
Experten-Tipp: Bei personenbezogenen Daten hilft kein Werkzeug, das große Versprechen macht und keine Belege liefert. Verlangen Sie Benchmarks, nicht Behauptungen.
Tim Geisendörfer
Founder & CEO
KI in Ihrem Unternehmen datenschutzkonform einführen?
Lassen Sie uns in einem unverbindlichen Gespräch besprechen, wo KI in Ihrem Unternehmen sicher ansetzen kann – inklusive Anonymisierung über InnoGE/deckname.
FAQ – KI und Datenschutz
ChatGPT selbst kann datenschutzkonform genutzt werden, wenn ein Auftragsverarbeitungsvertrag mit OpenAI besteht, eine geeignete Rechtsgrundlage für den Drittlandtransfer in die USA vorliegt und Trainingsdaten-Nutzung vertraglich ausgeschlossen ist. Die Konformität hängt also von der konkreten Nutzung ab, nicht vom Werkzeug allein.
Immer dann, wenn personenbezogene Daten an den Anbieter übermittelt werden. Bei vollständig anonymisierten Eingaben entfällt diese Pflicht, da keine personenbezogenen Daten mehr verarbeitet werden.
Rechtlich ja, praktisch schützt er aber nicht davor, dass Mitarbeitende versehentlich zu sensible Daten eingeben. Eine technische Anonymisierungsschicht wie InnoGE/deckname reduziert dieses Risiko zusätzlich, unabhängig von der vertraglichen Situation.
InnoGE/deckname wurde auf deutschen Benchmarks für Textanonymisierung gemessen und liegt dort vor Microsoft Presidio und offenen Spezialmodellen. Details finden Sie in unserem Artikel zu InnoGE/deckname. Wie bei jedem Erkennungssystem empfehlen wir zusätzlich eine Prüfung auf einer Stichprobe Ihrer eigenen Dokumente.
Für Gesundheitswesen, Finanzwesen und Banking gelten zusätzliche Anforderungen – Details dazu finden Sie in unseren branchenspezifischen Leitfäden. Für die meisten anderen Branchen gelten die hier beschriebenen allgemeinen DSGVO-Grundlagen.
Schatten-KI bezeichnet die Nutzung von KI-Tools über private Accounts oder ohne Wissen der IT-Abteilung – etwa wenn Mitarbeitende ihren privaten ChatGPT-Zugang für dienstliche Zwecke nutzen. Dagegen hilft am ehesten eine Kombination aus freigegebenen, leicht zugänglichen Firmen-Accounts und einer klaren, kommunizierten Richtlinie, statt die Nutzung von KI-Tools komplett zu verbieten.
Ja. Der Auftragsverarbeitungsvertrag regelt die Beziehung zwischen Ihrem Unternehmen und dem Anbieter. Er sagt nichts darüber aus, welche Daten einzelne Mitarbeitende tatsächlich eingeben. Eine interne Richtlinie schließt genau diese Lücke.