KI und DSGVO im Mittelstand: Datenschutzrisiken bei ChatGPT, Claude und internen KI-Lösungen

KI ist im Mittelstand angekommen, oft schneller als die passenden Regeln. Laut Bitkom setzen inzwischen 41 Prozent der deutschen Unternehmen Künstliche Intelligenz aktiv ein, 2024 waren es erst 17 Prozent. Für Geschäftsführer, Datenschutzbeauftragte und Compliance-Manager stellt sich damit eine unbequeme Frage: Was passiert eigentlich mit den Daten, die Mitarbeitende Tag für Tag in ChatGPT, Claude und andere KI-Tools eingeben? In den meisten Fällen wandern sie auf Server in den USA. Und das ist aus Sicht der DSGVO alles andere als nebensächlich.

Quelle: Bitkom: Künstliche Intelligenz in Deutschland (Februar 2026)Stand: 2026-11-09.

Warum generative KI ein DSGVO-Thema ist

Generative KI ist immer dann ein DSGVO-Thema, sobald personenbezogene Daten verarbeitet werden. Und das geschieht schneller als gedacht: Ein Name in einer E-Mail, eine Kundenadresse in einem Angebot, ein Bewerberlebenslauf zur Zusammenfassung. Jede dieser Eingaben ist eine Verarbeitung personenbezogener Daten im Sinne der DSGVO, mit allen Pflichten, die daran hängen.

Der entscheidende Punkt: Sobald Sie Daten in ein externes KI-System tippen, geben Sie sie an einen Dritten weiter. Bei Diensten wie ChatGPT oder Claude ist dieser Dritte ein US-Unternehmen, das die Eingaben auf eigener Infrastruktur verarbeitet. Damit sind gleich drei Fragen auf einmal zu klären: Gibt es eine Rechtsgrundlage für die Verarbeitung selbst? Gibt es einen Vertrag mit dem Anbieter? Und gibt es einen zulässigen Mechanismus für den Datentransfer in die USA?

Die europäischen Datenschutzaufsichtsbehörden haben dazu bereits früh Position bezogen. Die Datenschutzkonferenz (DSK), der Zusammenschluss der deutschen Aufsichtsbehörden, hat im Mai 2024 eine Orientierungshilfe zum datenschutzkonformen Einsatz von KI veröffentlicht und seitdem mit weiteren Papieren zu technischen Maßnahmen und zu KI-Systemen mit Retrieval Augmented Generation (RAG) ergänzt. Der Tenor ist eindeutig: KI entbindet niemanden von den Grundpflichten der DSGVO.

Quelle: DSK: Orientierungshilfe Künstliche Intelligenz und Datenschutz (Mai 2024)

Das Kernproblem: Datentransfer in die USA

Der größte DSGVO-Risikofaktor bei ChatGPT und Claude ist der Ort der Verarbeitung. Beide Anbieter verarbeiten Eingaben in der Standardkonfiguration auf US-Infrastruktur. Jede solche Eingabe ist ein Datentransfer aus dem Europäischen Wirtschaftsraum in ein Drittland, und der ist nur unter den besonderen Voraussetzungen von Kapitel V der DSGVO erlaubt.

Die DSGVO verbietet Datentransfers in Drittländer nicht, sie knüpft sie aber an Bedingungen. Für die USA gibt es aktuell zwei gangbare Wege: Erstens die Zertifizierung des US-Anbieters unter dem EU-US Data Privacy Framework, das die EU-Kommission 2023 als angemessenes Schutzniveau anerkannt hat. Zweitens den Abschluss der EU-Standardvertragsklauseln (Standard Contractual Clauses, SCC) zwischen Ihnen und dem Anbieter, in der Regel ergänzt um eine Transfer-Folgenabschätzung und zusätzliche technische Schutzmaßnahmen.

Viele Unternehmen verlassen sich allein auf das Data Privacy Framework. Das ist bequem, aber nicht ohne Restrisiko. Das Gericht der Europäischen Union hat die bekannteste Klage dagegen (Rechtssache Latombe, T-553/23) zwar am 3. September 2025 abgewiesen, der Angemessenheitsbeschluss bleibt also in Kraft. Gegen dieses Urteil wurde allerdings Ende Oktober 2025 ein Rechtsmittel beim Europäischen Gerichtshof eingelegt. Das Framework ist damit eine gültige, aber noch nicht endgültig gesicherte Grundlage.

Quelle: EU-Kommission: EU-US Data Privacy FrameworkStand: 2026-11-09.

ChatGPT, Claude und Copilot im DSGVO-Vergleich

Nicht jedes KI-Tool ist gleich riskant, und nicht jede Variante desselben Tools ist gleich zu bewerten. Entscheidend sind vier Fragen: Gibt es einen Auftragsverarbeitungsvertrag? Werden Eingaben zum Training genutzt? Wo werden die Daten verarbeitet? Und lässt sich eine EU-Datenresidenz einstellen? Die Antworten unterscheiden sich erheblich zwischen den Anbietern und Produktstufen.

Bei den kostenlosen und privaten Versionen von ChatGPT ist die Lage klar: Es gibt keinen Auftragsverarbeitungsvertrag für Privatnutzer, und Eingaben können zur Verbesserung der Modelle verwendet werden. Für personenbezogene oder vertrauliche Daten sind diese Versionen tabu. Erst die kostenpflichtigen Geschäftsvarianten (ChatGPT Business, Enterprise, Edu oder die API) bieten die nötigen vertraglichen Grundlagen und schließen die Nutzung der Eingaben zum Training aus.

OpenAI bietet seit Februar 2025 eine EU-Datenresidenz für ChatGPT Enterprise, Edu und die API an und hat diese im Januar 2026 um eine In-Region-Verarbeitung auf europäischen GPU erweitert. Anthropic verarbeitet Claude dagegen standardmäßig in den USA und bietet selbst keine EU-Datenresidenz an. Wer Claude innerhalb der EU betreiben will, nutzt ihn über AWS Bedrock, Google Vertex oder Microsoft Foundry. Immerhin: Nach den Commercial Terms nutzt Anthropic Kundendaten nicht zum Training, und für qualifizierte Enterprise-Kunden gibt es eine Zero-Data-Retention-Option.

Quelle: OpenAI: Data residency in Europe

Was Sie konkret regeln müssen

Für eine DSGVO-konforme KI-Nutzung reichen einzelne Maßnahmen nicht. Sie brauchen ein zusammenhängendes Paket aus Rechtsgrundlage, Vertrag, Transfermechanismus und organisatorischen Regeln. Erst wenn alle vier Bausteine sitzen, ist die Nutzung sauber. Die folgende Reihenfolge hat sich in der Praxis bewährt und lässt sich für fast jedes KI-Tool anwenden.

1. 1
   Tool und Datenkategorien festlegen
   Bestimmen Sie, welches KI-Tool in welcher Produktvariante eingesetzt wird und welche Datenkategorien überhaupt verarbeitet werden sollen. Faustregel: Je sensibler die Daten, desto höher die Anforderungen an Vertrag und Verarbeitungsort.
2. 2
   Rechtsgrundlage nach Art. 6 DSGVO klären
   Für die Verarbeitung selbst brauchen Sie eine Rechtsgrundlage, meist berechtigtes Interesse oder Vertragserfüllung. Der Europäische Datenschutzausschuss verlangt dafür einen Drei-Stufen-Test und akzeptiert berechtigtes Interesse nicht als pauschale Standardbegründung.
3. 3
   Auftragsverarbeitungsvertrag abschließen
   Schließen Sie mit dem Anbieter einen Auftragsverarbeitungsvertrag (AVV) nach Art. 28 DSGVO ab. Ohne diesen Vertrag ist die Weitergabe personenbezogener Daten an den Anbieter unzulässig.
4. 4
   US-Transfer absichern
   Prüfen Sie, ob der Anbieter unter dem Data Privacy Framework zertifiziert ist, und schließen Sie zusätzlich die EU-Standardvertragsklauseln ab. Aktivieren Sie, wo möglich, die EU-Datenresidenz.
5. 5
   In Verzeichnis und Richtlinie aufnehmen
   Dokumentieren Sie die Verarbeitung im Verzeichnis von Verarbeitungstätigkeiten und regeln Sie die Nutzung in einer KI-Nutzungsrichtlinie. Bei hohem Risiko kann eine Datenschutz-Folgenabschätzung nötig sein.

Zwei dieser Schritte werden besonders oft übersehen. Erstens der Auftragsverarbeitungsvertrag: Viele Unternehmen aktivieren eine KI-Funktion, ohne den passenden Vertrag abzuschließen, und übersehen, dass damit jede Eingabe personenbezogener Daten eine unzulässige Übermittlung an einen Dritten ist. Mehr dazu steht im Beitrag AV-Vertrag für KMU. Zweitens die Rechtsgrundlage: Der Europäische Datenschutzausschuss hat in seiner Stellungnahme 28/2024 klargestellt, dass berechtigtes Interesse nicht automatisch trägt und KI-Modelle, die mit personenbezogenen Daten trainiert wurden, nicht in jedem Fall als anonym gelten.

Quelle: EDPB: Opinion 28/2024 zu KI-Modellen und Datenschutz

Welche Daten nie ungeschützt in ein KI-Tool gehören

Auch mit Vertrag und Transfermechanismus gibt es Daten, die ohne zusätzliche Prüfung in kein externes KI-System gehören. Die DSGVO unterscheidet besonders schützenswerte Kategorien, und das Geschäftsgeheimnisrecht schützt Betriebsinterna nur, wenn Sie angemessene Schutzmaßnahmen nachweisen können. Eine klare Negativliste ist deshalb der wirksamste Einzelbaustein jeder KI-Richtlinie.

Die kritischen Kategorien, die ohne geprüfte vertragliche Grundlage und ohne ausdrückliche Freigabe nie in externe KI-Systeme eingegeben werden dürfen:

• Besondere Kategorien personenbezogener Daten nach Art. 9 DSGVO: Gesundheitsdaten, Gewerkschaftszugehörigkeit, religiöse oder politische Überzeugungen, biometrische Daten. Hier gelten die höchsten Anforderungen.
• Personaldaten von Mitarbeitenden und Bewerbern: Gehälter, Beurteilungen, Lebensläufe, Krankheitszeiten.
• Kundendaten und Vertragsdetails: Kontaktdaten, laufende Verhandlungen, Preiskonditionen, Projektbeschreibungen.
• Geschäftsgeheimnisse: Kalkulationen, Strategiepapiere, Produktentwicklungen. Das Gesetz zum Schutz von Geschäftsgeheimnissen schützt diese nur bei angemessenen Schutzmaßnahmen.
• Sicherheitsrelevante IT-Informationen: Netzwerkarchitekturen, Zugangsdaten, Systembeschreibungen.

Quelle: Gesetz zum Schutz von Geschäftsgeheimnissen (GeschGehG)

Schatten-KI: das unsichtbare Risiko

Das größte praktische Risiko sind nicht die offiziell eingeführten KI-Tools, sondern die inoffiziellen. Laut Bitkom berichten 8 Prozent der Unternehmen von verbreiteter Nutzung privater KI-Tools ohne Freigabe, weitere 17 Prozent von Einzelfällen und noch einmal 17 Prozent vermuten sie, ohne es sicher zu wissen. Zusammengenommen ist Schatten-KI damit in rund 42 Prozent der Betriebe bestätigt oder vermutet.

Das Problem an dieser Schatten-KI: Sie entzieht sich jeder Kontrolle. Ein Mitarbeiter, der ein Kundengespräch schnell von einem privaten ChatGPT-Account zusammenfassen lässt, erzeugt eine Datenpanne, von der die Geschäftsführung nichts erfährt, bis es zu spät ist. Verträge, Transfermechanismen und Richtlinien laufen ins Leere, wenn parallel ungeprüfte Tools im Einsatz sind.

Gegen Schatten-KI hilft keine Technik allein, sondern die Kombination aus einem attraktiven, freigegebenen Angebot und klaren Regeln. Wer seinen Mitarbeitenden ein gutes, erlaubtes KI-Tool gibt, nimmt den privaten Umwegen den Reiz. Die Hintergründe und eine Vorlage für die Regelung stehen im Beitrag KI und Schatten-IT im Unternehmen.

Quelle: Bitkom: Beschäftigte nutzen vermehrt Schatten-KI (Oktober 2025)

Die kontrollierte Alternative: KI im eigenen Netz

Die sicherste Variante ist, die KI dorthin zu holen, wo die Daten ohnehin liegen. Für die meisten Mittelständler heißt das Microsoft 365 Copilot, der im eigenen M365-Tenant arbeitet und Unternehmensdaten nicht zum Training nutzt. Für Betriebe mit hohem Datenvolumen oder besonderen Anforderungen kann eine lokal oder in einer europäischen Cloud betriebene KI-Lösung sinnvoll sein.

Microsoft 365 Copilot ist für Unternehmen, die bereits M365 nutzen, der naheliegendste Weg. Er greift nur auf Daten zu, auf die der jeweilige Nutzer ohnehin Zugriff hat, und bleibt im Kontext des eigenen Tenants. Der Auftragsverarbeitungsvertrag ist Teil des bestehenden Microsoft-Vertrags, und die Verarbeitung lässt sich auf EU-Rechenzentren begrenzen. Was das kostet und wann sich das Copilot-Upgrade lohnt, steht im Beitrag Microsoft Copilot Upgrade.

Eine vollständig interne KI-Lösung, etwa ein im eigenen Rechenzentrum betriebenes Sprachmodell, vermeidet den US-Transfer komplett. Sie lohnt sich allerdings erst ab einem gewissen Datenvolumen, erfordert eigene Hardware und laufende Pflege. Für die meisten KMU ist die kontrollierte Cloud-Variante der bessere Kompromiss. Die grundsätzliche Abwägung zwischen eigener und fremder Infrastruktur beschreibt der Beitrag Cloud oder eigener Server.

Was bei Verstößen droht

Bei Verstößen haftet immer das Unternehmen als Verantwortlicher, nicht der einzelne Mitarbeiter. Die DSGVO sieht in Art. 83 Bußgelder von bis zu 20 Millionen Euro oder 4 Prozent des weltweiten Jahresumsatzes vor, je nachdem, welcher Betrag höher ist. In der Praxis fallen die Bußgelder für KMU meist niedriger aus, aber sie kommen selten allein: Auffällig wird die Lücke oft erst nach einer Datenpanne oder Beschwerde, und dann prüft die Behörde gleich alles mit.

Dass die Aufsichtsbehörden KI ernst nehmen, zeigt der Fall OpenAI: Die italienische Datenschutzbehörde verhängte im Dezember 2024 ein Bußgeld von 15 Millionen Euro, unter anderem wegen fehlender Rechtsgrundlage für das Training und Transparenzmängeln. Dass ein Gericht in Rom diese Entscheidung 2026 aus Zuständigkeitsgründen aufhob, ändert nichts am Grundsatz: KI-Verarbeitung ohne saubere datenschutzrechtliche Grundlage ist angreifbar.

Für viele mittelständische Unternehmen kommt eine zweite Ebene hinzu: Wer unter die NIS2-Richtlinie fällt, muss KI-Tools auch unter dem Gesichtspunkt der Informationssicherheit bewerten und in das Risikomanagement einbeziehen. Datenschutz und Informationssicherheit greifen hier ineinander. Was NIS2 für KMU bedeutet, steht im Beitrag NIS2-Pflichten für KMU.

Quelle: Verordnung (EU) 2016/679 (DSGVO)

Fazit: KI nutzen, ohne die Kontrolle zu verlieren

Generative KI ist für den Mittelstand kein Zukunftsthema mehr, sondern Alltag. Die DSGVO verbietet sie nicht, sie verlangt aber einen bewussten Umgang mit den Daten, die hineinwandern. Wer die vier Bausteine Rechtsgrundlage, Auftragsverarbeitungsvertrag, abgesicherter US-Transfer und klare Nutzungsregeln sauber aufsetzt, kann KI produktiv und rechtssicher einsetzen. Wer nichts regelt, haftet trotzdem, nur eben im Schadensfall.

Der pragmatische Einstieg ist eine ehrliche Bestandsaufnahme: Welche KI-Tools sind im Betrieb tatsächlich im Einsatz, welche Daten gehen hinein, und welche Variante lässt sich DSGVO-konform absichern? Aus diesen Antworten ergibt sich der konkrete Handlungsbedarf fast von selbst.

So unterstützt ITCC

Als externe IT-Abteilung für kleine und mittlere Unternehmen begleiten wir Sie bei der sicheren KI-Nutzung: von der Bestandsaufnahme über die Auswahl des passenden Tools und den Abschluss der nötigen Verträge bis zur technischen Absicherung und einer praxistauglichen KI-Nutzungsrichtlinie. Besonders bei der Einführung von Microsoft 365 Copilot als kontrollierte Alternative sind wir für Betriebe in der Pfalz, im Rhein-Neckar-Raum und im Rhein-Main-Gebiet der passende Partner.