KI im Betrieb & Datenschutz
ChatGPT im Unternehmen: Regeln und Datenschutz
Kurz gesagt: Ein Verbot hilft selten – Beschäftigte nutzen KI trotzdem, nur unkontrolliert. Besser sind ein freigegebenes Werkzeug mit passendem Vertrag, eine kurze schriftliche Regel, welche Daten hinein dürfen, und eine Schulung. Letzteres ist auch der Kern der Pflicht zur KI-Kompetenz nach Art. 4 der KI-Verordnung.
Wie verbreitet ist private KI-Nutzung im Job?
Laut einer repräsentativen Befragung von Bitkom Research im Auftrag des Bitkom (veröffentlicht am 21.10.2025; 604 Unternehmen ab 20 Beschäftigten, befragt in den Kalenderwochen 27 bis 32 des Jahres 2025) nutzen Beschäftigte private KI-Zugänge wie ChatGPT in 8 Prozent der Unternehmen weit verbreitet und in 17 Prozent in Einzelfällen. Weitere 17 Prozent wissen es nicht sicher, gehen aber davon aus.
Auf der anderen Seite: 23 Prozent der Unternehmen haben Regeln für den Einsatz von KI-Tools aufgestellt, und 26 Prozent stellen ihren Beschäftigten Zugang zu generativer KI bereit. Bei Unternehmen mit 20 bis 99 Beschäftigten sind es 23 Prozent. Der Bitkom empfiehlt Unternehmensrichtlinien, die festlegen, welche Tools zu welchem Zweck genutzt werden dürfen.
Das heißt: In vielen Betrieben nutzen Menschen KI, ohne dass es eine Regel gibt. Das nennt man Schatten-KI.
Ein typischer Fall
Ein Beispiel, kein realer Kundenfall: Eine Mitarbeiterin im Vertrieb möchte eine Absage freundlicher formulieren. Sie kopiert die Anfrage des Kunden – mit Name, Firma, Preisen und Konditionen – in ihr privates ChatGPT-Konto. Die Antwort ist gut. Was niemand geprüft hat: wo die Eingabe gespeichert wird, ob der Anbieter sie zum Training nutzt, ob dafür eine Rechtsgrundlage besteht und ob der Kunde davon wüsste.
Die Mitarbeiterin handelt nicht böswillig, sondern pragmatisch. Genau deshalb hilft ein Verbot kaum: Es verlagert die Nutzung aufs Privathandy.
Die fünf Datenschutzfragen, die Sie klären sollten
Die Datenschutzkonferenz (DSK) der unabhängigen Aufsichtsbehörden von Bund und Ländern hat am 6. Mai 2024 die Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ der DSK (Version 1.0) veröffentlicht. Sie ist kein Gesetz, aber zeigt, worauf die Aufsichtsbehörden achten. Daraus und aus der Datenschutz-Grundverordnung ergeben sich fünf Fragen:
- Rechtsgrundlage: Für jeden Verarbeitungsschritt mit personenbezogenen Daten braucht es eine Rechtsgrundlage (Art. 6 DSGVO; so auch die DSK, Abschnitt 1.5).
- Auftragsverarbeitung: Wenn der Anbieter Daten in Ihrem Auftrag verarbeitet, ist ein Vertrag nach Art. 28 DSGVO nötig.
- Drittland: Werden Daten in ein Land außerhalb der EU übermittelt, gelten die besonderen Voraussetzungen der Art. 44 ff. DSGVO.
- Training und Verlauf: Die DSK nennt es vorzugswürdig, wenn Ein- und Ausgabedaten nicht zu Trainingszwecken genutzt werden, und fordert Transparenz und Wahlmöglichkeit (Abschnitte 1.9 und 1.10).
- Richtigkeit und Betroffenenrechte: Ergebnisse mit Personenbezug müssen auf Richtigkeit geprüft werden (Abschnitt 3.3); Auskunft, Berichtigung und Löschung müssen möglich bleiben (Abschnitt 1.11).
Dazu gehört laut DSK, die Eingabe personenbezogener Daten möglichst zu vermeiden. Es reicht regelmäßig nicht, Namen und Anschriften zu entfernen, weil sich ein Personenbezug auch aus dem Zusammenhang ergeben kann (Abschnitt 3.1). Für besondere Kategorien wie Gesundheitsdaten gilt zusätzliche Vorsicht (Abschnitt 3.2).
Firmenkonto statt Privatkonto: worauf es im Vertrag ankommt
Die DSK empfiehlt, dass Arbeitgeber Geräte und Accounts bereitstellen, damit Beschäftigte nicht mit privaten Accounts arbeiten müssen (Abschnitt 2.4). Damit liegt die Auswahl bei Ihnen. Prüfen Sie in den Vertragsunterlagen des jeweiligen Anbieters, nicht in der Werbung:
- Gibt es einen Auftragsverarbeitungsvertrag, den Sie abschließen können?
- Werden Eingaben und Ergebnisse für das Training der Modelle genutzt, und können Sie das ausschließen?
- Wo werden die Daten verarbeitet, und welche Unterauftragnehmer sind beteiligt?
- Wie lange wird der Verlauf gespeichert, und können Sie ihn löschen?
- Können Sie Konten zentral verwalten und beim Ausscheiden von Beschäftigten sperren?
Eine Produktempfehlung geben wir bewusst nicht: Tarife und Vertragsbedingungen ändern sich. Wichtig ist, dass Sie die Fragen schriftlich beantwortet bekommen und die Antwort ablegen.
Die Nutzungsregel auf einer Seite
Die DSK rät, intern klar zu regeln und zu dokumentieren, ob, unter welchen Voraussetzungen und zu welchen Zwecken welche KI-Anwendungen genutzt werden dürfen – mit Beispielen für zugelassene und untersagte Einsatzszenarien (Abschnitt 2.2). Eine Regel von einer Seite reicht für den Anfang:
- Geltungsbereich: für wen die Regel gilt (auch Aushilfen, Externe).
- Freigegebene Werkzeuge: eine Liste; alles andere ist nicht erlaubt.
- Erlaubte Zwecke: zum Beispiel Textentwürfe, Zusammenfassungen, Ideen.
- Verbotene Eingaben: personenbezogene Daten von Kunden und Beschäftigten, Gesundheitsdaten, Zugangsdaten, Geschäftsgeheimnisse, Verträge.
- Prüfpflicht: Ergebnisse werden von einem Menschen geprüft, bevor sie das Haus verlassen.
- Kennzeichnung: wann KI-generierte Inhalte kenntlich gemacht werden (der Bitkom nennt Kennzeichnungs- und Offenlegungspflichten als mögliche Regelinhalte).
- Ansprechperson: wen man bei Zweifeln und bei Pannen fragt.
- Schulung und Stand: wann geschult wird und wann die Regel überprüft wird.
Binden Sie nach Abschnitt 1.12 der DSK Ihre Datenschutzbeauftragte oder Ihren Datenschutzbeauftragten und, wo vorhanden, die Beschäftigtenvertretung ein.
Vier typische Fehler beim Umgang mit Schatten-KI
- Verbot ohne Alternative. Wer KI verbietet, aber kein Werkzeug anbietet, treibt die Nutzung ins Private – dorthin, wo Sie sie nicht sehen.
- Werkzeug ohne Regel. Ein Firmenkonto allein sagt noch nicht, welche Daten hinein dürfen. Ohne Regel entscheidet jeder selbst.
- Regel ohne Beispiele. Ein langes Papier liest niemand. Drei konkrete „Ja“- und drei konkrete „Nein“-Beispiele aus dem Alltag wirken mehr als zwanzig Absätze.
- Schulung einmal und nie wieder. Werkzeuge und Regeln ändern sich. Planen Sie eine kurze Auffrischung ein, wenn sich etwas Wesentliches ändert.
Der Start in vier Wochen
Das ist unser Vorschlag, kein gesetzlicher Zeitplan. Er passt für einen Betrieb ohne eigene IT-Abteilung:
- Woche 1, Bestandsaufnahme: Fragen Sie das Team offen und ohne Schuldzuweisung, welche KI-Werkzeuge schon genutzt werden und wofür. Sie wollen Wissen, keine Sünder.
- Woche 2, Auswahl und Verträge: Zwecke festlegen, Werkzeug auswählen, Vertragsunterlagen mit den fünf Datenschutzfragen prüfen, Datenschutzbeauftragte einbinden.
- Woche 3, Regel schreiben: eine Seite mit Beispielen, Ansprechperson und Datum.
- Woche 4, Schulung: eine Stunde mit echten Beispielen aus Ihrem Betrieb; Teilnehmende und Datum festhalten.
Was Sie dokumentieren sollten
Aufsichtsbehörden und Kunden fragen selten nach Perfektion, aber nach Nachvollziehbarkeit. Legen Sie an einem Ort ab:
- die freigegebenen Werkzeuge mit Datum der Freigabe und dem geprüften Vertrag,
- die Nutzungsregel in der aktuellen Fassung mit Änderungsdatum,
- Schulungsnachweise: Datum, Inhalt, Teilnehmende,
- die Antworten auf die fünf Datenschutzfragen je Werkzeug,
- wer bei Pannen informiert wird und was dann passiert.
Das kostet einen halben Tag und erspart bei Nachfragen viel Suchen. Es ersetzt aber keine rechtliche Prüfung.
Schulung und Art. 4 der KI-Verordnung
Artikel 4 der Verordnung (EU) 2024/1689 zur KI-Kompetenz gilt seit dem 2. Februar 2025 (Art. 113 Abs. 3 Buchst. a). Betreiber ist, wer ein KI-System in eigener Verantwortung verwendet (Art. 3 Nr. 4) – ein Betrieb, der ChatGPT im Geschäft einsetzt, kann also betroffen sein.
Wichtig für die Praxis: Die ursprüngliche Fassung verlangte Maßnahmen, „um nach besten Kräften sicherzustellen“, dass das Personal über ein ausreichendes Maß an KI-Kompetenz verfügt. Mit der Verordnung (EU) 2026/1744 (Digital-Omnibus zur KI, in Kraft seit 27. Juli 2026) wurde Artikel 4 neu gefasst: Anbieter und Betreiber ergreifen Maßnahmen, um die Entwicklung der KI-Kompetenz ihres Personals zu unterstützen. Die Verpflichtung verpflichtet ausdrücklich nicht dazu, ein bestimmtes Niveau an KI-Kompetenz zuzusichern.
Praktisch heißt das: Eine Schulung zur Nutzungsregel mit Beispielen aus Ihrem Alltag, dokumentiert mit Datum und Teilnehmenden, ist ein sinnvoller Baustein. Ob das im Einzelfall genügt, beurteilen wir nicht rechtlich.
Wann eine eigene, in der EU gehostete Lösung sinnvoll ist
Manchmal passt kein fertiges Werkzeug: weil sensible Daten verarbeitet werden oder weil die KI in einen bestehenden Ablauf eingebunden werden soll (zum Beispiel Rechnungseingang). Die DSK unterscheidet geschlossene und offene Systeme (Abschnitt 1.7): Bei geschlossenen Systemen läuft die Verarbeitung in einer abgegrenzten Umgebung mit begrenztem Nutzerkreis, und die Kontrolle über Ein- und Ausgabedaten liegt bei den Anwendenden.
Als Eigenbeispiel: Sellantica, die KI-Software von hof digital (ebenfalls eine Marke von Sebastian Hof), läuft bei AWS in Frankfurt, die Daten bleiben in Deutschland. Der Hosting-Ort allein beantwortet allerdings nicht die Rechtsfragen oben; Rechtsgrundlage und Verträge bleiben zu klären. Mehr dazu auf der Seite KI und Datenschutz und unter KI-Use-Cases & KI-Agenten. Weitere Anwendungsfälle zeigt der Artikel KI-Agenten im Mittelstand.
Aus der Projektpraxis
Neue Werkzeuge scheitern selten an der Technik, sondern daran, dass niemand sie im Alltag übt. Bei der Teams- und SharePoint-Migration für IJAB e.V. haben wir die Schulung für sechs Geschäftsbereiche geplant und durchgeführt. Daraus folgt für unsere KI-Beratung: Wir planen die Schulung als festen Bestandteil jeder Einführung und prüfen mit Ihnen gemeinsam, was in der Nutzungsregel stehen muss.
Was wir ehrlich dazusagen
- Keine Rechtsberatung.Wir ordnen Quellen ein; ob Ihr Einsatz zulässig ist, klären Ihre Datenschutzbeauftragten oder eine Anwältin bzw. ein Anwalt.
- Die Bitkom-Zahlen gelten für Unternehmen ab 20 Beschäftigten.Für kleinere Betriebe sagt die Befragung nichts aus.
- Die DSK-Orientierungshilfe ist von 2024.Die Aufsichtsbehörden haben seitdem weitere Papiere zu KI veröffentlicht; prüfen Sie den aktuellen Stand auf der Seite der DSK.
- Eine Regel ersetzt keine Prüfung.Welches Werkzeug Sie freigeben, hängt von Vertrag, Daten und Zweck ab – das prüfen wir im Einzelfall.
Sie möchten KI im Betrieb zulassen, ohne die Kontrolle zu verlieren? Wir erstellen mit Ihnen die Nutzungsregel und prüfen, ob ein fertiges Werkzeug oder eine eigene Lösung passt.
Kostenloses Erstgespräch buchenKI und Datenschutz · KI-Use-Cases & KI-Agenten
Häufige Fragen
Darf ich ChatGPT im Unternehmen nutzen?
Das hängt von Zweck, Daten und Vertrag ab. Ohne personenbezogene Daten und mit freigegebenem Werkzeug ist vieles unkritisch; mit Kundendaten braucht es Rechtsgrundlage und passende Verträge. Klären Sie das vor der Nutzung, nicht danach.
Reicht ein Verbot von ChatGPT?
Selten. Nach der Bitkom-Befragung 2025 nutzen Beschäftigte private KI-Zugänge in 8 Prozent der Unternehmen weit verbreitet und in 17 Prozent in Einzelfällen. Ein freigegebenes Werkzeug mit Regel und Schulung ist meist wirksamer.
Muss ich Mitarbeitende zu KI schulen?
Artikel 4 der KI-Verordnung verpflichtet Betreiber von KI-Systemen, Maßnahmen zur Entwicklung der KI-Kompetenz ihres Personals zu ergreifen. Ein bestimmtes Niveau muss nicht zugesichert werden. Eine dokumentierte Schulung ist ein sinnvoller Baustein.
Was darf nie in ein KI-Tool?
Zugangsdaten, Geschäftsgeheimnisse und personenbezogene Daten ohne geklärte Rechtsgrundlage; für Gesundheitsdaten und andere besondere Kategorien gilt zusätzliche Vorsicht. Legen Sie das in der Nutzungsregel mit Beispielen fest.
Quellen
- Bitkom Research: Beschäftigte nutzen vermehrt Schatten-KI, Pressemitteilung vom 21.10.2025, abgerufen am 23.10.2026.
- Konferenz der unabhängigen Datenschutzaufsichtsbehörden des Bundes und der Länder (DSK): Orientierungshilfe Künstliche Intelligenz und Datenschutz, Version 1.0, 6. Mai 2024, abgerufen am 23.10.2026.
- Europäisches Parlament und Rat: Verordnung (EU) 2016/679 (Datenschutz-Grundverordnung), Art. 6, 28, 44 ff., EUR-Lex, abgerufen am 23.10.2026.
- Europäisches Parlament und Rat: Verordnung (EU) 2024/1689 (KI-Verordnung), Art. 3, 4 und 113, EUR-Lex, ABl. vom 12.7.2024, abgerufen am 23.10.2026.
- Europäisches Parlament und Rat: Verordnung (EU) 2026/1744 (Digital-Omnibus zur KI), Neufassung Art. 4, EUR-Lex, ABl. vom 24.7.2026, abgerufen am 23.10.2026.
Alle Quellen abgerufen am 23.10.2026. Marken wie DATEV, Microsoft, Power Apps, SharePoint und ChatGPT sind Marken der jeweiligen Inhaber.
Rechtshinweis: Dieser Artikel gibt einen allgemeinen Überblick nach unserem Kenntnisstand vom 23.10.2026 und ist keine Rechtsberatung. Für Ihren Einzelfall wenden Sie sich bitte an eine Rechtsanwältin, einen Rechtsanwalt oder Ihre Steuerberatung.
