Studie KI-Entscheidungen nachvollziehbar machen

Anbieter zum Thema

KIT Karlsruher Institut für Technologie

Karlsruher Institut für Technologie KIT

Karlsruher Institut für Technologie (KIT)

MDESIGN group

KISSsoft AG

mehr weniger

HEICO Befestigungstechnik GmbH

weniger

Künstliche Intelligenz (KI) hilft zunehmend dabei, Stromnetze zu betreiben, Strompreise vorherzusagen und Energie effizienter zu nutzen. Doch in kritischen Infrastrukturen darf KI keine Blackbox sein. Deshalb haben Forschende am KIT eine Methode entwickelt, mit der KI-gestützte Vorhersagen für Energiesysteme nachvollziehbarer werden.

Das Management unserer Energieversorgung gestaltet sich zunehmend komplexer. Wind- und Solarstrom schwanken wetterabhängig, zugleich verändern Elektroautos, Batteriespeicher und Wärmepumpen die Verbrauchsmuster. „Netzbetreiber und Energieversorger setzen zunehmend Künstliche Intelligenz ein, um ihre Systeme effizient und stabil zu betreiben“, sagt Tenure-Track-Professor Benjamin Schäfer vom Institut für Automation und Angewandte Informatik (IAI) am KIT (Karlsruher Institut für Technologie). 

Um Stromerzeugung und Verbrauch aufeinander abzustimmen, gilt es, zahlreiche Faktoren gleichzeitig zu berücksichtigen – etwa Wetterprognosen, Lastvorhersagen, Netz- und Verteilerkapazitäten sowie das Verhalten von Verbraucherinnen und Verbrauchern. „KI hilft dabei, darf aber keine Blackbox bleiben. Menschen müssen nachvollziehen können, wie Vorhersagen und Entscheidungen zustande kommen. Gerade im sensiblen Energiebereich, in dem Fehler schwerwiegende Folgen haben können, sind Transparenz und menschliche Aufsicht entscheidend – und mit dem AI Act der Europäischen Union auch eine regulatorische Vorgabe“, erläutert Schäfer, der die Helmholtz Young Investigator Group DRACOS (steht für: Data-Driven Analysis of Complex Systems) am KIT leitet. 

Mehrere Methoden kombiniert

In ihrer aktuellen Studie, welche die Helmholtz-Gemeinschaft innerhalb von Helmholtz AI gefördert hat, stellt Schäfers Arbeitsgruppe die neue Methode „Shapformer“ vor. Die Wissenschaftlerinnen und Wissenschaftler haben sie für Zeitreihenvorhersagen entwickelt – also für Prognosen auf Basis zeitlich aufeinanderfolgender Daten, beispielsweise von Stromverbrauch oder Strompreisen. Ziel ist es, KI-gestützte Vorhersagen möglichst präzise und nachvollziehbar zu machen.

Studie

Neue E-CAD-Studie zeigt, wo KI sofort wirkt

Die Methode kombiniert Transformer-Modelle – bekannt aus modernen Sprachmodellen – mit Verfahren der erklärbaren künstlichen Intelligenz („Explainable AI“). Der Name „Shapformer“ verweist dabei auf die Verbindung von Transformer-Modellen mit SHAP-Methoden. Diese basieren auf Konzepten der Spieltheorie und machen sichtbar, welchen Einfluss einzelne Faktoren auf eine Vorhersage haben. Dazu zählen etwa Temperaturen, Feiertage, Windprognosen oder frühere Verbrauchsdaten.

Einfluss einzelner Faktoren wird sichtbar

„Beim Training unseres Modells haben wir gezielt einzelne Informationen ausgeblendet“, erklärt Matthias Hertel, wissenschaftlicher Mitarbeiter am IAI des KIT und Erstautor der Studie. „So konnten wir nachvollziehen, welchen Einfluss bestimmte Eingaben auf die Vorhersagen des Modells haben.“ Das Team trainierte den Ansatz unter anderem mit realen Daten des Übertragungsnetzbetreibers TransnetBW. Ziel war es, Stromverbrauch und Strompreise über Zeiträume von bis zu einer Woche vorherzusagen – und gleichzeitig sichtbar zu machen, welche Faktoren die Prognosen beeinflussen. So lässt sich der Beitrag einzelner Einflussgrößen zu einer Vorhersage analysieren.

Erklärbarkeit direkt in das Training integriert

Viele bisherige Verfahren bieten erst nachträglich Erklärungen und benötigen dafür große zusätzliche Rechenleistung. „Eine Besonderheit unseres Ansatzes ist es, dass wir die Erklärbarkeit direkt in den Trainingsprozess integrieren“, sagt Hertel. Die Genauigkeit der Vorhersagen bleibt so erhalten, während die Effizienz der Analyse steigt.

Fachmesse

Sensor+Test 2026: Sensorik, Messtechnik und Industrial AI verschmelzen

„Mit unserer Arbeit schaffen wir methodische Grundlagen dafür, solche Ansätze künftig in die Praxis zu übertragen“, sagt Schäfer. Dabei spielen nicht nur technische Präzision und Vertrauenswürdigkeit eine Rolle, sondern auch die Akzeptanz bei Anwenderinnen und Anwendern. Schäfer nennt als Beispiel intelligente Systeme für das Laden und Entladen von Elektroautos oder Heimspeicher, die automatisch auf Strompreise reagieren. „Nutzerinnen und Nutzer haben wahrscheinlich eine größere Akzeptanz gegenüber einem intelligenten Ladesystem, wenn klar nachvollziehbar ist, warum sich ein Elektroauto nachts später geladen hat als gewöhnlich – zum Beispiel, weil die Strompreise zwischenzeitlich besonders hoch waren und so Kosten eingespart werden konnten.”