DSGVO-konforme KI im Mittelstand: So trennen Sie vertrauenswürdige Tools von potenziellen Datenkraken

Eine neue Plattform verschafft Entscheiderinnen und Entscheidern Klarheit im KI-Markt und zeigt gleichzeitig, worauf es bei Datenschutz und Auftragsverarbeitung wirklich ankommt.

Warum Datenschutz bei KI-Tools Chefsache ist  
Generative KI hat sich in erstaunlicher Geschwindigkeit vom Experimentierfeld zum Produktivitätstreiber entwickelt. Ob Marketingtexte, Code-Snippets oder Vertriebsprognosen: Überall, wo Informationen verarbeitet werden, versprechen Chatbots, Bildgeneratoren oder Automatisierungsagenten spürbare Effizienzgewinne. Doch jeder Prompt, jedes hochgeladene Dokument und jede Systemschnittstelle kann auch Einfallstor für den Verlust sensibler Daten sein. Für Unternehmen im Geltungsbereich der Datenschutz­grundverordnung (DSGVO) bedeutet das: Sie haften, wenn personenbezogene Informationen über ungeeignete Dienste nach außen gelangen oder ohne Rechtsgrundlage in Trainingsdatensätze wandern.  

Gleichzeitig rückt mit dem EU-AI-Act ein zweiter Rechtsrahmen näher, der Hochrisiko-Anwendungen streng reguliert. Wer heute in KI investiert, muss also nicht nur auf Performance, sondern auch auf Compliance achten, und das idealerweise, bevor der erste Datensatz hochgeladen wird.

Vier Prüfkriterien, die über DSGVO-Konformität entscheiden  
Eine kurze Marketingseite sagt selten etwas darüber aus, wie ein Anbieter mit übergebenen Inhalten verfährt. Dennoch lassen sich die größten Risiken auf vier wiederkehrende Fragen verdichten:

1. Serverstandort: Liegen die Rechenzentren im europäischen Wirtschaftsraum, greifen unmittelbar die Garantien der DSGVO. Befinden sie sich in den USA oder Asien, ist zusätzlich ein Transfer-Impact-Assessment und der Abschluss von EU-Standardvertragsklauseln nötig.  
2. Datenweitergabe: Nutzen Anbieter übermittelte Inhalte, um ihre Modelle weiter­zu­entwickeln? Werden Dialogprotokolle an Dritte verkauft? Transparenzberichte und Terms of Service geben oft Aufschluss, allerdings nicht immer in verständlicher Sprache.  
3. Löschkonzept: Können Unternehmen ihre Daten nachträglich entfernen oder korrigieren lassen? Fehlt eine Rückruf­option, konterkariert das die Betroffenenrechte aus Art. 17 DSGVO.  
4. Auftragsverarbeitung (AV-Vertrag): Nur wenn ein unterschriftsreifer Vertrag nach Art. 28 DSGVO vorliegt, ist sauber geregelt, wer wofür verantwortlich ist – inklusive technischer und organisatorischer Maßnahmen, Subunternehmern und Audit-Rechten.  

Je lückenloser ein Anbieter hier dokumentiert, desto geringer das Restrisiko.

Der „KI-Katalog“: Orientierungshilfe für 105 Tools  
Damit auch Nicht-Juristen schneller beurteilen können, welchen Diensten sie vertrauen dürfen, haben Datenschutzexpertinnen eine frei zugängliche Datenbank online gestellt (https://ki-katalog.de). Unter dem Namen „KI-Katalog“ finden sich derzeit 105 populäre Systeme aus den Bereichen Text-, Code-, Bild-, Video- und Audiogenerierung. Jedes Tool erhält eine Ampelbewertung entlang der vier oben genannten Kriterien.  

Beispiele:  
• Claude (Anthropic) schneidet überwiegend positiv ab. Kritikpunkt bleibt der Serverstandort in den USA, der zusätzliche Garantien erfordert.  
• ChatGPT erhält Punktabzug, weil Dialogdaten, wenn auch anonymisiert, zum weiteren Training genutzt werden, sofern Nutzer das Opt-out nicht aktiv wählen.  
• Vier Lösungen – Repli Agent, Openclaw, ElevenLabs und Runway – stuft die Plattform derzeit als besonders kritisch ein. Bei Openclaw etwa führt der weitgehende Systemzugriff dazu, dass im Test sämtliche E-Mails einer Nutzerin gelöscht wurden.  

Über die reine Datenschutzsicht hinaus liefert der Katalog praktische Zusatzinfos: Preisübersicht, Vor- und Nachteile im Produktiveinsatz und einen Rechner, der monatliche Nutzungsszenarien mit Kosten verknüpft. Für Beschaffungsprozesse im Mittelstand ist das ein willkommenes Schnell-Audit, ersetzt allerdings keine tiefere Due-Diligence.

Typische Stolpersteine aus der Praxis  
Selbst wenn ein Tool grüne Häkchen in allen vier Kategorien erhält, können im Projekt Alltagsschwierigkeiten auftreten:

• Schatten-IT: Fachabteilungen testen öffentliche Demos ohne Freigabe der IT. Sensible Kundendaten landen dabei schnell auf fremden Servern.  
• Versionierung: Ein Anbieter wechselt kurzfristig das Hosting oder ändert seine AGB. Frühere Compliance-Bewertungen verlieren damit ihre Gültigkeit.  
• Mixed Content: Ein einziges fehlerhaftes Plug-in in einer ansonsten sauberen Toolchain reicht, um den gesamten Datenfluss unzulässig zu machen.  
• Datenminimierung: Häufig wird mehr Material in Prompts eingefüttert, als für das Ergebnis nötig wäre – ein Verstoß gegen das Prinzip „Privacy by Design“.

Fünf Schritte zu einer sicheren KI-Einführung  
Unternehmen, die den Sprung in die produktive Nutzung wagen möchten, profitieren von einem klaren Fahrplan:

1. Datenklassifizierung: Ordnen Sie alle Informationen nach Kritikalität. Personaldaten oder Geschäftsgeheimnisse sollten grundsätzlich nicht in öffentliche Clouds gelangen.  
2. Datenschutz-Folgenabschätzung (DPIA): Prüfen Sie, ob die geplante Anwendung ein hohes Risiko für Betroffene birgt. Falls ja, definieren Sie zusätzliche Schutzmaßnahmen oder suchen Sie Alternativen.  
3. Anbieter-Screening: Nutzen Sie Ressourcen wie den KI-Katalog, SOC-2-Berichte oder Penetrationstests. Lassen Sie sich vertraglich zusichern, dass Input nicht für Trainings­zwecke verwendet wird.  
4. Technische Umsetzung: Integrieren Sie APIs so, dass nur anonymisierte oder pseudonymisierte Daten übertragen werden. Logging und Zugriffskontrolle sichern den Betrieb ab.  
5. Kontinuierliches Monitoring: Legen Sie Indikatoren fest, um Serverstandorte, Sub­prozessoren und AGB-Änderungen frühzeitig zu erkennen. Automatisierte Alert-Systeme helfen, bei einem Regelverstoß sofort einzugreifen.

Blick nach vorn: Lokale Modelle und Private Clouds  
Ein Trend, der gerade im mittelständischen Umfeld Fahrt aufnimmt, sind lokal ausgeführte Large Language Models (LLMs). Technologien wie Llama-3, Mistral oder GPT-basierten Varianten lassen sich mittlerweile auf eigener Hardware oder in isolierten Private-Cloud-Umgebungen betreiben. Vorteile:

• Volle Daten-Hoheit: Keinerlei Übermittlung an Dritte.  
• Anpassbarkeit: Modelle können mit firmeneigenen Dokumenten feingetuned werden, ohne dass diese das Haus verlassen.  
• Niedrigere Reaktionszeiten: Gerade bei zeitkritischen Produktions- oder Service­prozessen reduzieren On-Prem-Installationen Latenzen.  

Gegenüber Public-Cloud-Angeboten steigt zwar der initiale Implementierungsaufwand, langfristig jedoch sinken Compliance-Kosten, und strategische Abhängigkeiten von einzelnen Hyperscalern verringern sich deutlich.

‍

‍