Physical AI Fünf Sicherheitsrisiken und wie Unternehmen sich schützen können

Anbieter zum Thema

NTT DATA

RITTAL GmbH & Co. KG

Novotechnik Messwertaufnehmer OHG

microsonic GmbH

Physical AI verbindet KI mit der physischen Welt, sei es durch Erfassen von Daten über Sensorik oder durch Eingreifen via Robotik und Anlagensteuerung. Hier verursachen Fehler oder Manipulationen auch Schäden in der realen Welt. Dringend notwendig sind daher neue Strategien und Maßnahmen. 

Mit Physical AI müssen Unternehmen Sicherheit, Robustheit und Design ihrer Systeme neu denken. Während klassische Steuerungen wie speicherprogrammierte Steuerung (SPS) auf klaren, deterministischen Logiken basieren, operieren diese Anwendungen in offenen Problemräumen. Dabei interpretieren sie etwa unstrukturierte Sensordaten, leiten daraus kontextabhängige Entscheidungen ab und handeln in der physischen Welt. Gerade diese enge Verzahnung von Wahrnehmung, Entscheidungslogik und Aktion schafft neue Angriffspunkte und erfordert erweiterte Sicherheitskonzepte. NTT Data, Anbieter von KI-, digitalen Business- und Technologie-Services, hat fünf besonders relevante Risiken und geeignete Gegenmaßnahmen identifiziert:

1. Vulnerable Sensorik

Das Problem: Sensoren bilden die Grundlage für die meisten Physical-AI-Anwendungen, für die Kameras, Kraft- oder Positionssensoren die notwendigen Daten liefern. Werden diese manipuliert oder durch äußere Einflüsse verändert, kann das System falsche Entscheidungen treffen. In industriellen Umgebungen haben dabei bereits scheinbar banale Faktoren wie ungewöhnliche Lichtverhältnisse, Staub oder elektromagnetische Störungen direkte Auswirkungen auf die Sensorik. Ferner besteht auch das Risiko gezielter Manipulationen durch kriminelle Akteure.

Gegenmaßnahmen: Um Risiken zu minimieren, können Unternehmen auf den Ansatz der Sensorfusion zurückgreifen, bei dem Daten mehrerer Sensoren miteinander abgeglichen werden. Auch der Einsatz von Tests, die inkonsistente oder auffällige Messwerte automatisch erkennen, ist sinnvoll. Ergänzend kann die Redundanz kritischer Sensoren, eine regelmäßige Kalibrierung und die Überwachung von Anomalien in Echtzeit die Robustheit der Physical-AI-Systeme deutlich erhöhen.

Physical AI wird in den kommenden Jahren in immer mehr Bereichen Einzug halten, von autonomen Maschinen über Robotik bis hin zu intelligenten Infrastrukturen. Damit wächst auch die Verantwortung, diese Systeme von Anfang an robust und sicher zu gestalten. Sicherheit kann bei Physical AI daher auch nicht erst nachträglich ergänzt werden, sondern muss integraler Bestandteil von Architektur, Training und Betrieb sein.

Oliver Köth, Managing Director Technology & Innovation DACH bei NTT Data

2. Angriffe auf KI-Modelle

Das Problem: Neben der Sensorik können auch die zugrunde liegenden KI-Modelle Angriffspunkte etwa durch Prompt Injections darstellen. Manipulierte Trainingsdaten oder fehlerhafte Modellaktualisierungen können dazu führen, dass das System systematisch falsche Entscheidungen trifft. Solche Manipulationen oder Fehler sind oft schwer zu erkennen, weil die Ergebnisse weiterhin plausibel erscheinen.

Gegenmaßnahmen: Kontrollierte Trainingspipelines, sorgfältige Validierung der Trainingsdaten und kontinuierliches Monitoring der Modellentscheidungen helfen, Anomalien frühzeitig zu erkennen. Ergänzend können Versionierung der Modelle und Audits der Trainingsprozesse die Integrität der KI-Modelle sichern.

Cyber Resilience Act

Mehr Sicherheit in der industriellen Automation

3. Neue Angriffsflächen durch Vernetzung

Das Problem: Viele Physical-AI-Systeme sind in hochvernetzte Architekturen eingebunden. Sie kommunizieren mit Cloud-Plattformen, Edge-Systemen und Remote-Wartungsschnittstellen. Diese Vernetzung erhöht die Flexibilität, erweitert aber gleichzeitig die Angriffsfläche. Kompromittierte Zugänge oder unsichere Schnittstellen können genutzt werden, um Systeme gezielt zu manipulieren oder Kontrolle über physische Prozesse zu erlangen.

Gegenmaßnahmen: Klassische Security-Mechanismen bleiben hier zentral: Zero-Trust-Architekturen, konsequente Netzwerksegmentierung und abgesicherte Update-Prozesse reduzieren Risiken. Ergänzend sind kontinuierliches Monitoring der Kommunikationswege sowie ein umfassendes Logging von Zugriffen notwendig, um unautorisierte Aktivitäten frühzeitig zu erkennen und einzugrenzen.

4. Trennung von Safety und Security

Das Problem: In der industriellen Automatisierung wurden Safety (Schutz vor Fehlern und Unfällen) und Security (Schutz vor Angriffen) lange getrennt betrachtet. Physical AI bricht diese Trennung allerdings zunehmend auf. Systeme agieren in offenen, schwer vollständig modellierbaren Umgebungen und arbeiten oft direkt mit Menschen zusammen, beispielsweise bei kollaborativen Anwendungen oder Cobots. Fehlerhafte oder manipulierte Entscheidungen können dadurch unmittelbare physische Auswirkungen haben. Ein System kann formal „sicher“ ausgelegt sein und dennoch durch unerwartetes oder durch beeinflusstes Verhalten gefährlich werden.

Gegenmaßnahmen: Zentral ist eine integrierte Betrachtung von Safety und Security bereits in der Systementwicklung. Dazu gehören kombinierte Risiko- und Bedrohungsanalysen, robuste Fallback-Strategien und klar definierte sichere Zustände. Plausibilitätsprüfungen und Redundanzen bei Sensordaten können helfen, Fehlinterpretationen zu begrenzen. Gleichzeitig müssen Systeme so ausgelegt sein, dass sie auch bei unsicheren oder fehlerhaften KI-Entscheidungen kontrollierbar bleiben, etwa durch sichere Betriebsmodi oder physische Notfallmechanismen.

Maschinensicherheit

Von der Maschinenrichtlinie zur neuen Maschinenverordnung

5. Unerwartete Situationen in realen Umgebungen

Das Problem: Physical-AI-Systeme müssen mit unvorhersehbaren Situationen umgehen: ungewöhnliche Objekte, beschädigte Sensoren oder veränderte Umweltbedingungen. Diese Szenarien lassen sich im Training nur teilweise abbilden, können aber entscheidend für die Systemstabilität sein.

Gegenmaßnahmen: Umfangreiche Simulationen und Stresstests, in denen Systeme bewusst mit außergewöhnlichen Situationen konfrontiert werden. Anomalieerkennung, adaptive Algorithmen und kontinuierliches Lernen unterstützen ebenfalls dabei, dass Physical-AI-Anwendungen auch in unvorhergesehenen Umgebungen zuverlässig reagieren. Zusätzlich ermöglichen Data Flywheels, also ein selbstverstärkender Kreislauf aus Daten, Produktverbesserung und Nutzung, ein kontinuierliches Lernen.