Executive Summary – GU Kurzinformationen für Unternehmen 11.2025
KI wird zunehmend zum Rückgrat industrieller Produktionsprozesse, chemischer Anlagensteuerungen und medizinischer Diagnostik. Gleichzeitig wächst die Angriffsfläche für neue, hochentwickelte Cyberbedrohungen. Data Poisoning – die gezielte Manipulation von Trainings- oder Betriebsdaten – gilt heute als einer der kritischsten Angriffsvektoren auf KI-Systeme.
Die Folgen reichen von Produktionsausfällen und Qualitätsmängeln über Fehldiagnosen bis zu Umwelt- und Patientengefährdungen. Regulatorisch verschärfen DSGVO, NIS2, das IT-Sicherheitsgesetz 2.0 und der EU-AI-Act die Anforderungen und Haftungsrisiken erheblich. Unternehmen müssen Data-Poisoning-Schutz als integralen Bestandteil ihrer KI-Strategie verankern.
1. Einführung
Der Einsatz von KI wächst in allen kritischen Sektoren:
- Industrie/Industrie 4.0: Prozessautomatisierung, Robotik, Predictive Maintenance
- Chemische Industrie: Prozessüberwachung, Reaktionsoptimierung, Emissionskontrolle
- Gesundheitswesen: Diagnostik, Bildanalyse, klinische Entscheidungsunterstützung
Während klassische Cyberangriffe auf Systeme oder Netzwerke abzielen, greifen Data-Poisoning-Attacken direkt die Datenintegrität an – den Kern jedes KI-Modells. Moderne Malware nutzt KI selbst, um Manipulationen automatisiert, skalierbar und unauffällig zu platzieren.
Data Poisoning ist deshalb heute ein strategisches Risiko und nicht nur ein technisches Problem.
2. Funktionsweise und Typen von Data Poisoning
2.1 Definition
Data Poisoning bezeichnet die absichtliche Veränderung von Daten, um das Verhalten eines Algorithmus oder KI-Modells zu korrumpieren. Das Ziel kann Sabotage, Desinformation, Manipulation oder verdeckte Kontrolle sein.
2.2 Typische Angriffsarten
Label Poisoning
Falsche Zuordnung von Trainingslabels (z. B. defekte Produkte werden als „in Ordnung“ markiert).
Feature Poisoning
Unmerkliche Änderungen einzelner Merkmale, die langfristig das Modellverhalten verändern.
Backdoor Attack / Trojanisierung
Ein „Trigger“ im Datenstrom löst gezielte Fehlentscheidungen aus – besonders gefährlich in Robotik oder Diagnostik.
Online Poisoning
Manipulation von Echtzeitdaten wie Sensordaten, Messwerten oder Monitoringströmen.
3. Relevanz für Industrie, Chemie und Gesundheitswesen
3.1 Industriebereich
Industrie 4.0 setzt auf vernetzte Sensorik, autonome Systeme und lernende Modelle. Data Poisoning kann:
- Produktqualität verfälschen
- Roboterfehlverhalten auslösen
- Wartungssysteme manipulieren
- Anlagenstillstände verursachen
- Lieferketten destabilisieren
Besonders gefährdet sind Edge-KI, IoT-Geräte und Modelle mit kontinuierlichem Lernen.
3.2 Chemische Industrie
Hier ist Data Poisoning besonders kritisch, weil bereits geringe Datenfehler zu:
- Über-/Unterdrucksituationen
- thermischen Runaways
- toxischen Zwischenprodukten
- fehlerhaften Emissionsmessungen
- Fehlalarmierungen oder Nicht-Erkennung von Gefahren
führen können. Backdoor-basierte Sabotagen sind hier besonders gefährlich, da sie unbemerkt zu Prozessabweichungen führen.
3.3 Gesundheitswesen
KI-Modelle werden eingesetzt für:
- medizinische Bildanalyse
- Krebsdiagnostik
- Medikamentenentwicklung
- klinische Entscheidungsunterstützung
- Patientenmonitoring
Manipulierte Daten können zu:
- Fehldiagnosen
- falschen Therapieempfehlungen
- klinischen Risiken
- finanziellen Haftungsfällen
führen. Zudem enthalten medizinische Daten hochsensible personenbezogene Informationen – ein Doppelrisiko aus Daten- und Gesundheitsschutz.
4. KI-gestützte Malware als Angriffsvektor
Moderne Bedrohungen nutzen KI zur Automatisierung:
- Identifikation geeigneter Datenquellen zur Manipulation
- iterative Anpassung der Angriffe anhand der Modellreaktion
- Tarnung durch statistische Normalisierung
- Deepfake-Datengenerierung
- adaptive Backdoor-Verankerung
Dadurch werden Data-Poisoning-Angriffe präziser, unauffälliger und massentauglich.
5. Regulatorische und rechtliche Konsequenzen
5.1 Datenschutzrecht (DSGVO)
Data Poisoning ist eine Datenpanne, sobald personenbezogene Daten betroffen sind. Konsequenzen:
- Bußgelder bis zu 20 Mio. € oder 4 % des globalen Umsatzes
- Meldepflicht an Behörden innerhalb von 72 Stunden
- Schadenersatzansprüche von Betroffenen
- Nachweis „angemessener technischer und organisatorischer Maßnahmen“
Besonders relevant im Gesundheitswesen, aber auch in produktionsnahen HR-Prozessen mit KI.
5.2 EU-AI-Act
Viele KI-Systeme in Industrie, Chemie und Gesundheit gelten als Hochrisiko-KI. Unternehmen müssen:
- Datenqualität und Datenherkunft vollständig dokumentieren
- Risiken analysieren und mitigieren
- Manipulationsschutz implementieren
- Logs und Modellversionen nachhalten
- kontinuierliche Überwachung sicherstellen
Bei Verstößen drohen Haftungsrisiken und Produktverbote.
5.3 NIS2 / IT-Sicherheitsgesetz 2.0
Unternehmen in kritischer Infrastruktur müssen:
- KI-Systeme als sicherheitsrelevante Assets behandeln
- Incident-Response-Pläne für KI-Bedrohungen bereitstellen
- jährliche Audits durchlaufen
- IT-Sicherheitsvorfälle melden
Data Poisoning kann als Verstoß gegen Cybersicherheitsvorgaben gewertet werden.
5.4 Strafrecht
Im schlimmsten Fall kann Data Poisoning zu:
- Gesundheitsgefährdungen (z. B. fehlerhafte Diagnosen)
- Umweltgefährdungen (chemische Reaktionen)
- Betriebsunfällen
führen. Führungskräfte können gemäß §130 OWiG zur Verantwortung gezogen werden, wenn organisatorische oder technische Sorgfaltspflichten verletzt wurden.
6. Strategische Auswirkungen auf das Unternehmen
Operativ
- Produktionsausfälle
- Qualitätsprobleme
- Robotik-/Automatisierungsfehler
- falsche Wartungsentscheidungen
Finanziell
- direkte Schadensbehebungskosten
- Vertragsstrafen
- Haftungs- und Regressforderungen
- Investitionsrisiken
Reputation
- Vertrauensverlust bei Kunden, Patienten, Partnern
- negative Medienberichterstattung
- regulatorische Beobachtung
7. Prävention und Schutzmaßnahmen
7.1 Technische Maßnahmen
- Signierung und Hashing aller Datenquellen
- Zero-Trust-Architektur für Datenpipelines
- adversarial robustness testing
- Modellmonitoring und Anomaliedetektion
- Backdoor-Erkennung (Neuron Activation Clustering, Spectral Signatures)
7.2 Organisatorische Maßnahmen
- KI-Governance-Framework
- Rollen und Verantwortlichkeiten definieren (Data Owner, Model Owner)
- Schulung für Mitarbeitende im Umgang mit KI-Risiken
- Versions- und Dokumentationspflichten
7.3 Regulatorische Maßnahmen
- Vorbereitung auf EU-AI-Act-Compliance
- Einbeziehung von Rechtsabteilungen und Data-Protection-Officern
- regelmäßige Compliance-Audits
8. Handlungsempfehlungen für das Top-Management
- Strategische Priorisierung der KI-Sicherheit KI-Sicherheit muss Teil der Unternehmensstrategie sein, nicht nur der IT-Abteilung.
- Einrichtung eines KI-Sicherheits- und Datenintegritätsprogramms Basierend auf Best Practices von BSI/ENISA.
- Verankerung von KI-Risiken im Enterprise Risk Management (ERM) Data Poisoning als explizites Risiko führen.
- Investition in Cybersecurity-Technologien für KI Spezielle Tools für Datenvalidierung, Modellrobustheit, Monitoring.
- Vorbereitung auf zukünftige regulatorische Audits Insbesondere im Rahmen von EU-AI-Act und NIS2.
9. Fazit
Data Poisoning durch KI-Malware ist eine der bedeutendsten Bedrohungen für Unternehmen in Industrie, Chemie und Gesundheitssektor. Die Kombination aus steigender Systemkomplexität, hohen Regulierungsanforderungen und möglichen Personen- und Umweltschäden macht das Thema sicherheitskritisch.
Unternehmen müssen daher proaktiv investieren in:
- robuste technische KI-Sicherheitsmaßnahmen
- organisatorische Governance
- regulatorische Compliance
- kontinuierliche Überwachung der Datenintegrität
Nur so kann gewährleistet werden, dass KI-Systeme verlässlich, sicher und rechtssicher betrieben werden.
Bei Fragen der Planung und Umsetzung der notwendigen Compliance (Technik und Recht) in Ihrem Unternehmen sprechen Sie uns für eine erste Einschätzung an.
Alexander Goldberg
Rechtsanwalt
Fachanwalt für gewerblichen Rechtsschutz
Fachanwalt für Informationstechnologierecht (IT-Recht)
Lehrbeauftragter der Bergischen Universität Wuppertal
für gewerblichen Rechtsschutz und Wettbewerbsrecht
an der Schumpeter School of Business and Economics
