KI und DSGVO: So entwickeln Sie datenschutzkonforme KI-Systeme für Ihr Unternehmen

KI-Tools sind in deutschen Unternehmen angekommen - aber die Datenschutzfragen sind es oft noch nicht. Mitarbeitende geben täglich Kundendaten in ChatGPT ein, ohne zu wissen, dass das ein DSGVO-Problem sein kann. Und IT-Teams integrieren KI-APIs, ohne Datenverarbeitungsverträge abgeschlossen zu haben.

Dieser Leitfaden erklärt, was Sie konkret tun müssen, um KI datenschutzkonform einzusetzen - ohne auf KI verzichten zu müssen.

Das Kernproblem: Personenbezogene Daten in KI-Pipelines

Die DSGVO schützt "personenbezogene Daten" - alle Informationen, die eine natürliche Person identifizierbar machen. Das umfasst offensichtliche Daten wie Namen und E-Mails, aber auch IP-Adressen, Kundennummern und auch indirekte Identifizierungsmerkmale.

In KI-Kontexten entstehen DSGVO-relevante Situationen, wenn:

• Mitarbeitende Kundendaten in öffentliche KI-Tools eingeben
• KI-APIs mit Kundendaten-Datenbanken verbunden werden
• KI-Chatbots mit Kundenkonversationen trainiert werden
• KI-gestützte Personalentscheidungen getroffen werden

Sehen Sie, wie ebiCore die Entwicklung beschleunigt.

Schritt 1: Datenverarbeitungsvertrag (DPA) mit KI-Anbietern

Wenn Sie personenbezogene Daten an externe KI-APIs senden (OpenAI, Anthropic, Google), sind Sie nach DSGVO Art. 28 verpflichtet, einen Datenverarbeitungsvertrag (DPA) mit dem Anbieter abzuschließen.

So schließen Sie einen DPA ab:

• OpenAI: Enterprise-Account → Settings → Data Processing Agreement. Kostenlos, schriftlich zu bestellen.
• Anthropic: Claude for Enterprise → Datenverarbeitungsvertrag automatisch enthalten
• Google Cloud (Vertex AI): Im Google Cloud-Vertrag bereits enthalten

Wichtig: Standard-API-Accounts (nicht Enterprise) haben oft kein automatisches DPA - und nutzen Eingaben möglicherweise für Modell-Training. Prüfen Sie die aktuellen Datenschutzbestimmungen des jeweiligen Anbieters.

Schritt 2: Training-Opt-out konfigurieren

Standard-API-Accounts bei einigen Anbietern erlauben das Verwenden von API-Daten für Modell-Training. Das ist für Unternehmens- und Kundendaten nicht akzeptabel.

Opt-out-Schritte je Anbieter:

• OpenAI: In der API-Nutzung ist Training standardmäßig deaktiviert (seit März 2023). Für ChatGPT Web: Einstellungen → Datenkontrolle → Modell-Verbesserung deaktivieren
• Anthropic: API-Nutzung wird nicht für Training verwendet (laut Anthropic Privacy Policy, 2024)
• Google (Gemini API): In Google AI Studio: Feedback-Daten deaktivieren

Schritt 3: Datenkategorien klassifizieren

Nicht alle Daten sind gleich sensibel. Erstellen Sie eine Klassifizierung:

Datenkategorie	Beispiele	KI-Policy
Öffentliche Daten	Produktbeschreibungen, öffentliche FAQs	Unbeschränkt nutzbar
Interne Daten	Interne Prozesse, nicht-personenbezogene Dokumente	Mit DPA nutzbar
Personenbezogene Daten	Kundennamen, E-Mails, Kundennummern	Anonymisieren oder Enterprise-Kontrakt erforderlich
Besondere Kategorien	Gesundheitsdaten, Finanzdaten, biometrische Daten	Lokale Verarbeitung oder vollständige Anonymisierung

Schritt 4: Technische Maßnahmen implementieren

Anonymisierung vor API-Aufrufen

Personenbezogene Daten vor dem Senden an KI-APIs durch Pseudonyme ersetzen:

• Name "Max Mustermann" → "Kunde #47823"
• E-Mail "max@mustermann.de" → "[E-MAIL ENTFERNT]"
• IBAN → "[IBAN ENTFERNT]"

Tools wie Microsoft Presidio (Open Source) oder AWS Comprehend können diese Erkennung und Ersetzung automatisieren.

Lokale KI-Modelle für hochsensible Daten

Für besonders sensible Daten (Gesundheit, Finanzen, HR) bieten lokale Open-Source-Modelle die höchste DSGVO-Sicherheit - keine Daten verlassen die eigene Infrastruktur:

• Llama 3.1 (Meta, Open Source) - leistungsfähig, lokal betreibbar
• Mistral 7B - effizient, gut für Dokument-Tasks
• Deployment via Ollama (Entwicklung) oder vLLM (Produktion)

Schritt 5: KI-Nutzungsrichtlinie für Mitarbeitende

Eine interne KI-Richtlinie ist keine Bürokratie - sie verhindert DSGVO-Verstöße durch unwissende Mitarbeitende. Mindestinhalt:

1. Welche KI-Tools sind erlaubt? (genehmigte Liste)
2. Welche Daten dürfen in KI-Tools eingegeben werden?
3. Was ist verboten? (Kundendaten, Passwörter, Geschäftsgeheimnisse)
4. Was tun bei versehentlicher Datenweitergabe?

EU AI Act: Was Unternehmen wissen müssen

Der EU AI Act (Verordnung 2024/1689) trat 2024 in Kraft und wird schrittweise bis 2026 vollständig anwendbar. Die wichtigsten Punkte:

Risikokategorien

• Verboten: Soziales Scoring, biometrische Überwachung im öffentlichen Raum
• Hochrisiko: KI in Personalentscheidungen, Kreditvergabe, Bildung, Strafverfolgung - strenge Anforderungen
• Begrenztes Risiko: Chatbots, KI-generierte Inhalte - Transparenzpflicht
• Minimales Risiko: Spam-Filter, KI-Spielzeug - keine Zusatzpflichten

Was Hochrisiko-Systeme leisten müssen

• Konformitätsbewertung vor Inbetriebnahme
• Technische Dokumentation und Protokollierung
• Menschliche Aufsicht gewährleisten
• Transparenz gegenüber betroffenen Personen

Fazit

KI und DSGVO schließen sich nicht aus - aber sie erfordern Sorgfalt. Die wichtigsten Maßnahmen sind überschaubar: DPA mit KI-Anbietern, Training-Opt-out, Datenkategorie-Policy, Anonymisierung sensitiver Daten und eine interne Nutzungsrichtlinie.

Unternehmen, die diese Grundlagen jetzt legen, können KI produktiv und rechtssicher einsetzen. Wer wartet, riskiert sowohl DSGVO-Bußgelder als auch einen Wettbewerbsrückstand gegenüber KI-Adoptern.

Referenzen

1. Europäisches Parlament: EU AI Act - Verordnung 2024/1689
2. Bundesbeauftragter für den Datenschutz: KI und DSGVO - Orientierungshilfe, 2024
3. OpenAI: Privacy Policy and Data Processing Documentation, 2024
4. Anthropic: Privacy Policy, 2024