KI und Datenschutz: Was Unternehmen beachten müssen

Warum Datenschutz bei KI besonders wichtig ist

Künstliche Intelligenz und Datenschutz stehen in einem natürlichen Spannungsfeld. KI-Systeme benötigen große Mengen an Daten, um zu lernen und gute Ergebnisse zu liefern. Gleichzeitig fordert der Datenschutz, dass personenbezogene Daten sparsam und zweckgebunden verarbeitet werden.

Dieses Spannungsfeld ist kein unüberwindbares Hindernis. Es erfordert aber ein bewusstes, strukturiertes Vorgehen. Unternehmen, die Datenschutz von Anfang an in ihre KI-Strategie integrieren, vermeiden nicht nur rechtliche Risiken, sondern schaffen auch Vertrauen bei Kunden und Mitarbeitern.

Die rechtlichen Anforderungen kommen aus zwei Richtungen: der seit 2018 geltenden Datenschutz-Grundverordnung (DSGVO) und dem 2024 verabschiedeten EU AI Act, der schrittweise in Kraft tritt. Beide Regelwerke ergänzen sich und setzen Rahmenbedingungen, die Unternehmen bei der Einführung von KI kennen und beachten müssen.

DSGVO-Anforderungen an KI-Systeme

Die DSGVO wurde nicht speziell für KI geschrieben, enthält aber grundlegende Prinzipien, die direkt auf KI-Systeme anwendbar sind. Die wichtigsten Anforderungen im KI-Kontext:

Zweckbindung (Art. 5 Abs. 1 lit. b DSGVO)

Personenbezogene Daten dürfen nur für festgelegte, eindeutige und legitime Zwecke erhoben werden. Für KI bedeutet das: Sie können nicht einfach alle verfügbaren Kundendaten in ein Modell laden und schauen, was passiert. Der Zweck der Datenverarbeitung muss vorab definiert und dokumentiert werden.

Datenminimierung (Art. 5 Abs. 1 lit. c DSGVO)

Nur diejenigen personenbezogenen Daten dürfen verarbeitet werden, die für den definierten Zweck tatsächlich erforderlich sind. Das steht im Widerspruch zum KI-Grundsatz, dass mehr Daten zu besseren Ergebnissen führen. Hier brauchen Sie eine bewusste Abwägung.

Recht auf Erklärung (Art. 22 DSGVO)

Betroffene Personen haben das Recht, nicht einer ausschließlich auf automatisierter Verarbeitung beruhenden Entscheidung unterworfen zu werden, die ihnen gegenüber rechtliche Wirkung entfaltet. In der Praxis bedeutet das: Wenn KI-Systeme Entscheidungen über Menschen treffen – etwa bei Kreditvergabe, Bewerbungsverfahren oder Preisgestaltung – muss es eine menschliche Überprüfungsmöglichkeit geben.

Der EU AI Act: Was kommt auf Unternehmen zu

Der EU AI Act ist das weltweit erste umfassende Regulierungswerk für Künstliche Intelligenz. Er verfolgt einen risikobasierten Ansatz und unterscheidet vier Kategorien:

Unannehmbares Risiko (verboten)

KI-Systeme, die als unannehmbar riskant eingestuft werden, sind grundsätzlich verboten. Dazu gehören beispielsweise Social-Scoring-Systeme, die Manipulation von Verhalten durch unterschwellige Techniken und bestimmte Formen der biometrischen Fernidentifizierung.

Hohes Risiko (streng reguliert)

Hochrisiko-Anwendungen sind erlaubt, unterliegen aber umfangreichen Anforderungen. Dazu zählen KI-Systeme in den Bereichen Personalmanagement (z.B. automatisierte Bewerberselektion), Kreditwürdigkeit, kritische Infrastruktur und Strafverfolgung. Unternehmen müssen hier unter anderem Risikomanagementsysteme einrichten, Qualitätsanforderungen an Trainingsdaten erfüllen und eine technische Dokumentation führen.

Begrenztes Risiko (Transparenzpflichten)

Für viele typische Unternehmensanwendungen gelten Transparenzpflichten. Nutzer müssen wissen, dass sie mit einem KI-System interagieren. Das betrifft insbesondere Chatbots und KI-generierte Inhalte. Für die meisten mittelständischen Anwendungen wie KI im Vertrieb und Marketing ist dies die relevante Kategorie.

Minimales Risiko (keine zusätzlichen Pflichten)

KI-Anwendungen mit minimalem Risiko – etwa Spam-Filter oder KI-gestützte Suchfunktionen – unterliegen keinen besonderen Anforderungen über die bestehende Gesetzgebung hinaus.

Rechtsgrundlagen für die Datenverarbeitung

Jede Verarbeitung personenbezogener Daten durch KI-Systeme braucht eine Rechtsgrundlage nach Art. 6 DSGVO. In der Praxis kommen vor allem drei Grundlagen in Betracht:

• Einwilligung (Art. 6 Abs. 1 lit. a): Die betroffene Person hat der Verarbeitung zugestimmt. Die Einwilligung muss freiwillig, spezifisch, informiert und unmissverständlich sein.
• Vertragserfüllung (Art. 6 Abs. 1 lit. b): Die Verarbeitung ist zur Erfüllung eines Vertrags erforderlich. Beispiel: Personalisierte Produktempfehlungen auf Basis der Kaufhistorie eines Kunden.
• Berechtigtes Interesse (Art. 6 Abs. 1 lit. f): Die Verarbeitung ist zur Wahrung berechtigter Interessen erforderlich. Hier muss eine Abwägung mit den Interessen der betroffenen Person erfolgen.

Anonymisierung und Pseudonymisierung

Anonymisierung und Pseudonymisierung sind zwei zentrale Werkzeuge, um KI datenschutzkonform zu betreiben.

Anonymisierung bedeutet, dass ein Rückschluss auf einzelne Personen dauerhaft unmöglich ist. Anonymisierte Daten fallen nicht mehr unter die DSGVO – das ist der Goldstandard für KI-Training. Allerdings ist echte Anonymisierung technisch anspruchsvoll: Selbst vermeintlich anonyme Datensätze lassen sich oft durch Kombination verschiedener Merkmale re-identifizieren.

Pseudonymisierung ersetzt identifizierende Merkmale durch Kennzeichen, ohne dass ein Personenbezug vollständig ausgeschlossen ist. Pseudonymisierte Daten unterliegen weiterhin der DSGVO, werden aber als risikomindernde Maßnahme anerkannt.

Einwilligung und Transparenz

Wenn Ihr KI-System personenbezogene Daten auf Basis einer Einwilligung verarbeitet, müssen Sie sicherstellen, dass die Einwilligung den strengen DSGVO-Anforderungen genügt:

• Informiert: Die betroffene Person muss verstehen, wofür ihre Daten genutzt werden. Bei KI-Systemen bedeutet das: Erklären Sie in verständlicher Sprache, welche Daten die KI verarbeitet und zu welchem Zweck.
• Spezifisch: Eine pauschale Einwilligung reicht nicht. Jeder Verarbeitungszweck braucht eine separate Zustimmung.
• Widerrufbar: Die Einwilligung muss jederzeit widerrufbar sein – und zwar so einfach wie sie erteilt wurde.

Datenminimierung in der Praxis

Datenminimierung klingt im KI-Kontext zunächst wie ein Widerspruch. Tatsächlich ist sie aber eine Chance, fokussiertere und bessere Modelle zu entwickeln. Praktische Ansätze:

• Feature Selection: Prüfen Sie systematisch, welche Datenfelder tatsächlich zur Modellqualität beitragen. Oft lässt sich die Performance mit deutlich weniger Merkmalen aufrechterhalten.
• Synthetische Daten: Generieren Sie künstliche Trainingsdaten, die die statistischen Eigenschaften Ihrer Echtdaten nachbilden, ohne personenbezogene Informationen zu enthalten.
• Federated Learning: Trainieren Sie Modelle dezentral auf den Daten einzelner Standorte oder Geräte, ohne die Rohdaten zentral zusammenzuführen.
• Differential Privacy: Fügen Sie kontrolliertes Rauschen zu den Trainingsdaten hinzu, um die Identifizierung einzelner Datenpunkte zu verhindern.

KI-Anbieter datenschutzkonform evaluieren

Bei der Auswahl von KI-Anbietern sollten Sie neben funktionalen Anforderungen auch den Datenschutz systematisch prüfen. Achten Sie auf folgende Punkte:

• Datenverarbeitungsstandort: Wo werden Ihre Daten verarbeitet und gespeichert? Bei US-Anbietern ist besondere Vorsicht geboten – prüfen Sie, ob ein angemessenes Schutzniveau gewährleistet ist.
• Auftragsverarbeitungsvertrag (AVV): Ein AVV nach Art. 28 DSGVO ist Pflicht, wenn ein externer Anbieter personenbezogene Daten in Ihrem Auftrag verarbeitet.
• Datennutzung durch den Anbieter: Werden Ihre Daten für das Training der Modelle anderer Kunden verwendet? Dies ist bei vielen Cloud-KI-Diensten Standard und muss vertraglich ausgeschlossen werden.
• Technische und organisatorische Maßnahmen (TOMs): Welche Sicherheitsmaßnahmen implementiert der Anbieter? Verschlüsselung, Zugriffskontrolle und Audit-Trails sind Mindestanforderungen.

Praktische Compliance-Schritte

Datenschutz-Compliance ist kein einmaliges Projekt, sondern ein fortlaufender Prozess. Folgende Schritte helfen Ihnen, den Überblick zu behalten:

1. Verarbeitungsverzeichnis erweitern: Nehmen Sie alle KI-Verarbeitungstätigkeiten in Ihr bestehendes Verarbeitungsverzeichnis auf. Dokumentieren Sie Zweck, Rechtsgrundlage, beteiligte Daten und Empfänger.
2. Datenschutz-Folgenabschätzung (DSFA): Prüfen Sie für jedes KI-Projekt, ob eine DSFA erforderlich ist. Bei Verarbeitungen mit hohem Risiko für die Rechte der Betroffenen ist sie Pflicht.
3. Datenschutzbeauftragten einbinden: Beziehen Sie Ihren Datenschutzbeauftragten von Anfang an in KI-Projekte ein – nicht erst, wenn das System bereits im Einsatz ist.
4. Betroffenenrechte sicherstellen: Implementieren Sie Prozesse für Auskunftsrechte, Löschrechte und das Recht auf Widerspruch. KI-Systeme müssen diese Rechte technisch unterstützen.
5. Regelmäßige Audits: Überprüfen Sie Ihre KI-Systeme mindestens jährlich auf Datenschutzkonformität. Dokumentieren Sie die Ergebnisse und leiten Sie Maßnahmen ab.

Dokumentationsanforderungen

Sowohl DSGVO als auch AI Act stellen hohe Anforderungen an die Dokumentation. Für KI-Systeme sollten Sie mindestens folgende Dokumente erstellen und pflegen:

• Technische Dokumentation: Beschreibung des KI-Systems, verwendete Algorithmen, Trainingsdaten, Leistungsmetriken und bekannte Limitierungen.
• Datenschutz-Dokumentation: Verarbeitungsverzeichnis, DSFA-Ergebnisse, AVV mit Anbietern, Einwilligungstexte und Informationspflichten.
• Governance-Dokumentation: Rollen und Verantwortlichkeiten, Entscheidungsprozesse, Eskalationswege und Audit-Ergebnisse.
• Monitoring-Dokumentation: Laufende Aufzeichnungen über die Leistung des KI-Systems, erkannte Probleme und ergriffene Maßnahmen.

Die Dokumentation mag aufwendig erscheinen, ist aber in mehrfacher Hinsicht wertvoll: Sie schafft Transparenz, erleichtert Audits und hilft bei der kontinuierlichen Verbesserung Ihrer KI-Systeme. Und sie ist im Streitfall Ihre wichtigste Verteidigungslinie.