Der Verkehrssektor ist einer der wesentlichen Verursacher von CO2-Emissionen. Neben der Erhöhung des Anteils von E-Fahrzeugen soll auch der Schienenverkehr dabei helfen, die europäischen Klimaschutzziele (Reduktion der CO2-Emissionen) im Verkehrssektor zu erreichen. Dabei ist die konsequente Digitalisierung und Automatisierung des Zugbetriebs ein wichtiger Bestandteil für einen klimaneutralen und attraktiven Verkehrsmix. Hier spielt vor allem der Einsatz von fahrerlosen Zügen eine wichtige Rolle, um durch ein breites und flexibles Angebot die Attraktivität des Schienenverkehrs zu erhöhen.
Über das Projekt
Wie stellen wir uns die Zukunft der Mobilität vor?
Projektkonsortium
Unsere Vision in wenigen Worten erklärt.
In einem sicherheitskritischen Umfeld wie dem fahrerlosen Schienenverkehr werden KI-Methoden benötigt, die nachweisbar robust und sicher sind, um z. B. Hindernisse auf der Strecke mit der notwendigen Verlässlichkeit erkennen zu können. Das Vorhaben safe.trAIn zielt darauf ab, die Grundlagen für den sicheren Einsatz von KI für fahrerlose Schienenfahrzeuge zu schaffen und damit die technologisch größte Herausforderung zur Einführung des fahrerlosen Regionalverkehr zu adressieren.
Die Vorteile von KI gesteuerten Regionalzügen
Automatisiertes Fahren im Regionalverkehr
In einem Konsortium aus Technologiezulieferern, Forschungseinrichtungen sowie Normungs- und Prüforganisationen beschäftigen sich unsere Experten damit, die Möglichkeiten von Künstlicher Intelligenz mit den Sicherheitsbetrachtungen des Schienenverkehrs zu verbinden. Basierend auf den Anforderungen an die Sicherheitsnachweisführung werden Prüfmethoden und Werkzeuge für KI-basierte Methoden für den Einsatz in einem fahrerlosen Regionalzug entwickelt und anschließend in einem virtuellen Testfeld validiert und verifiziert. Der Fokus hierbei liegt auf KI-basierten Funktionen für die Objekterkennung.
Die Grafik zeigt die aktuelle Situation der verschiedenen Automatisierungsstufen GoA 1-4 und deren Anwendung unter verschiedenen Einsatzbedingungen (eng bis weit) des öffentlichen Personen Nahverkehrs (ÖPNV).
Projektorganisation
Das Projekt wurde in sechs Arbeitspaketen strukturiert. Diese sind untereinander vernetzt und bedingen sich gegenseitig. Die Festlegung von Anforderungen an die Sicherheitsnachweisführung bildet die Grundlage des Projektes. Dafür werden geeignete Methoden und Werkzeuge sowie eine Sicherheitsarchitektur identifiziert.
Für die Sicherheitsbewertung ist ein virtuelles Testfeld notwendig. Die Ergebnisse werden während der Projektlaufzeit in Standardisierungsaktivitäten überführt und können zur weiteren Verwertung kommuniziert werden.
AP3: Sicherheitsarchitektur für KI-basierte Funktionen im GoA4-Betrieb
In diesem Arbeitspaket wird eine integrierte Anforderungs- und Architektur-Grundlage sowie die Gesamtsystem-Implementierung (System under Test) und der Sicherheitsnachweis für eine KI-gestützte Objekterkennung eines fahrerlosen Regionalzuges entwickelt.
Das Arbeitspaket gliedert sich in 4 Themen-Bereiche:
Anforderungen
Ausgehend von Ergebnissen aus AP1 und Erkenntnissen aus Forschungsprojekten auf nationaler (z. B. ATO-Risk, ATO-Sense) und auf europäischer Ebene (s. B. X2Rail, TAURO) werden die Anforderungen an einen Fahrerlosen Regionalzug mit KI-basiertem Objekterkennungssytem gesammelt, priorisiert und in eine Gesamtstruktur integriert. Ergänzt wird dies durch die Definition der Operational Design Domain, in der die Umgebungsbedingungen (betriebliche, klimatische und witterungsbedingte Rahmenbedingungen) inklusive der mit dem System interagierenden Personen, Hindernisse und Systeme festgehalten werden.
Architektur
Basierend auf den definierten Anforderungen wird eine Architektur für einen „Fahrerlosen Regionalzug“, für das Objekterkennungssystem, die Sensorfusion und das Sensorsystem erarbeitet, wobei die Schnittstellen zwischen den Funktionen auf allen 4 Architektur-Ebenen definiert und die RAMS-Anforderungen (Reliability, Availability, Maintainability, Safety) sowie NFR (Non-functional Requirements = Nicht Funktionale Eigenschaften) berücksichtigt werden.
Implementierung
Im dritten Teilbereich des Arbeitspaket 3 wird das Gesamtsystem als SW-Lösung implementiert und integriert. Dabei werden die in der Architektur vorgesehenen ML-Funktionen/Modelle implementiert. Diese sind Basis für die in AP2 entwickelten Methoden und Metriken für die Untersuchung von Vertrauenswürdigkeit und Absicherung. Weiterhin wird ein Hardware-Demonstrator für das Sensorsystem entwickelt und erprobt.
Sicherheitsnachweisführung
Im letzten Teilbereich wird ein Konzept für einen Sicherheitsnachweis für einen fahrerlosen Regionalzug mit KI-gestütztem Objekterkennungssystem entwickelt, in welchem die Ergebnisse der vorgelagerten Arbeiten im Bereich Anforderungen, Architektur und Metriken zusammenlaufen. Die Struktur des Sicherheitsnachweis dient als Grundlage für die Evaluierung im virtuellen Testfeld (AP4) und die spätere Begutachtung.
AP4: Virtuelles Testfeld, Sicherheitsbewertung
Zur Evaluierung der Projektziele in safe.trAIn wird in AP4 ein virtuelles Testfeld entwickelt, in dem am Beispiel der Hinderniserkennung für eine fahrerlose Regionalbahn die Absicherung einer KI-Funktion im Eisenbahnbereich durchgeführt werden kann.
Das Arbeitspaket gliedert sich in folgende Themen-Bereiche:
SafeMLOps
Basierend auf den Ergebnissen der Arbeitspakete AP 1-3 wird eine durchgängige Entwicklungsinfrastruktur für KI-Methoden im Bereich von Schienenfahrzeugen konzeptioniert und prototypisch realisiert, in der die untersuchten Methoden integriert werden. Hierzu werden die notwendigen Prüfmethoden zur Erzeugung von Evidenzen (definiert in AP 2) für die Sicherheitsnachweisführung in einen sog. SafeMLOps-Prozess integriert und automatisiert.
Virtuelles Testfeld
Um diesen SafeMLOps-Ansatz prototypisch zu realisieren, wird in AP 4 ein sog. virtuelles Testfeld für fahrerlose Schienenfahrzeuge zur Validierung der Prüfkriterien für KI-Funktionen entwickelt. Dieses virtuelle Testfeld dient als Absicherungsplattform und integriert die unterschiedlichen, in AP 2 entwickelten und in AP 3 implementieren Prüfmethoden, um die Vertrauenswürdigkeit einer KI-Funktion zu verifizieren und Evidenzen für die Sicherheitsnachweisführung zu generieren. Dabei wird die KI-Funktion mittels Software-in-the-Loop-Verfahren abgesichert mit dem Ziel, umfangreiche empirische Tests (Simulationen, etc.) mit den KI-Funktionen durchzuführen und Metriken für die Sicherheitsnachweisführung zu erhalten. Diese Simulationen werden sowohl mit realen als auch synthetischen Daten durchgeführt.
Evaluierung
Die Ergebnisse aus dem virtuellen Testfeld werden anschließend mit den definierten Prüfkriterien des Zulassungsprozesses verglichen und in einen Sicherheitsnachweis für fahrerlose Schienenfahrzeuge eingebettet. Dies ermöglicht eine realitätsnahe Erprobung eines ersten Regelwerkes zur Begutachtung bis hin zur Konformitätserklärung für den vorliegenden Anwendungsfall und erlaubt einen Rückschluss auf die Anwendbarkeit von Prüfkriterien und Prüfmethoden im Zulassungsprozess. Die dabei gewonnen Ergebnisse werden kontinuierlich an AP 1, AP 2 und AP 3 weitergegeben.
AP5: Standardisierung und Verbreitung
Das Arbeitspaket 5 befasst sich mit der Standardisierung und Verbreitung relevanter Ergebnisse aus dem safe.trAIn Projekt. Damit wird auch nach der Laufzeit des Projektes eine breite Anwendung der Ergebnisse erreicht.
Das Arbeitspaket gliedert sich in folgende Themenschwerpunkte:
Standardisierungsaktivitäten
Damit der Transfer von Ergebnissen in Normung- und Standardisierungsaktivitäten erfolgreich ist, werden in den entsprechenden Unterarbeitspaketen verschiedene Aufgaben adressiert: Grundlage ist die Durchführung einer Analyse, der als projektrelevant, identifizierten Normen und Standards im Arbeitspaket 1 und Identifikation von möglichen Standardisierungsbedarfen, z. B. standardisierte Schnittstellen, Prozesse, Prüfverfahren etc.. Diese werden in Standardisierungs- und Normungsaktivitäten im engen Austausch mit allen Projektpartnern und relevanten Normenausschüssen überführt. Ziel ist die Überführung von relevanten Projektergebnisse in die Standardisierung unter Einbezug weiterer interessierter Kreise. Außerdem steht die strategisch bestmögliche Verbreitung relevanter Projektergebnisse auf nationaler, europäischer und internationaler Ebenen der Normung und Standardisierung im Fokus.
Bildung von Anwenderkreisen
Weiterhin gilt es eine Netzwerk- und Diskussionsplattform aufzubauen. Dies soll in Form von Anwenderkreisen geschehen, mit dem Ziel Projektergebnisse mit weiteren interessierten Experten*innen zu validieren, Use Cases zu betrachten und u. a. gemeinsame Standardisierungspotentiale zu identifizieren
Berücksichtigung und Analyse des rechtlich normativen KI-Ökosystems
Mit Blick auf eine sich ändernde Rechtslandschaft von normativen Anforderungen in der Welt der Künstlichen Intelligenz, wird die Übertragung von Projektergebnissen (z. B. Absicherungsargumentation) auf etablierte Dimensionen für Vertrauenswürdige KI (z. B. Datenschutz, Fairness, Transparenz, Autonomie und Kontrolle, Technische Dokumentation, Robustheit, Verlässlichkeit, Sicherheit, etc.) untersucht. Außerdem wird eine Methodik erabeitet zur Erfüllung aller regulatorischen Anforderungen, wie sie z. B. von dem aktuellen Entwurf zur europäischen KI-Regulierung gefordert werden. Ergänzend dazu erfolgt eine Analyse der projektspezifischen Auswirkungen weiterer regulativer Entwicklungen (z. B. Cyber Resilience Act).
Ergebnisverbreitung
Die Projektergebnisse sollen auch außerhalb des safe.trAIn Projektes bekannt werden, hierfür gilt es die Projektaktivitäten kommunikativ auszugestalten und zu begleiten.
AP1: Anforderungen an die Sicherheitsnachweisführung
Das Arbeitspaket dient der Recherche und Bestandsaufnahme der bereits bestehenden Normen hinsichtlich Anwendbarkeit auf KI- und ML- basierte Sicherheitsfunktionen, ableitbaren Anforderungen an und Eigenschaften von solchen Sicherheitsfunktionen sowie den einzusetzenden Methoden, Werkzeugen und Metriken.
Als Ergebnis liefert dieses Arbeitspaket Anforderungen und Richtlinien für den zulassungsrelevanten Nachweis der Produktsicherheit eines schienengebundenen GoA4-Fahrzeugs mit KI-basierten sicherheitsrelevanten Funktionalitäten.
Das Arbeitspaket unterteilt sich dazu in die folgenden Themenbereiche:
Anwendbarkeitsanalyse bestehender Standards
Es werden sämtliche bestehenden Standards und Normen aus den Bereichen Bahn, Industrie, Automotive, Security, Functional Safety sowie KI im Allgemeinen erfasst und hinsichtlich ihrer Anwendbarkeit auch für neue sicherheitskritische KI-Systeme untersucht.
Der Fokus liegt hierbei auf der Recherche relevanter Aktivitäten und bestehender Normen, Standards, harmonisierter Normen unter dem NLF und CSA-Schemata, sowie von Best Practices und Erfahrungen bei relevanten KI-Anwendungen. Abschließend werden die Anwendbarkeit und die Grenzen bestehender Normen und Standards, beispielsweise aus o.g. Bereichen abgeleitet.
Ableitung von nachzuweisenden Eigenschaften und Akzeptanzkriterien für die Sicherheitsfunktionen
Die grundlegenden Eigenschaften von und Anforderungen an KI-basierte Systeme zur automatischen Zugsteuerung müssen geeignet sein, eine dem klassischen Ansatz zur Bewertung systematischer Fehler (z.B. Safety Integrity Levels gemäß IEC 61508/EN 50129) äquivalente Sicherheit gewährleisten zu können.
Die abgeleiteten nachzuweisenden Eigenschaften und Akzeptanzkriterien bilden die Grundlage für die spätere Verifikation und Validierung der Sicherheit der KI-basierten Anwendung für eine automatischen Zugsteuerung.
Anforderungen an Methoden, Werkzeuge, Entwicklungsprozesse, Betrieb
Zum einen werden Anforderungen an Methoden und Werkzeugen für Verifikation, Validierung, Test und Prüfung von KI-Systemen erarbeitet. Im konkreten Anwendungsfall liegt der Fokus dabei auf perzeptiven KI-Verfahren basierend auf neuronalen Netzen. Zum anderen werden Anforderungen an Prozesse zur Entwicklung und zum Betrieb von KI-Systemen ermittelt.
Quantifizierbare Metriken zur Bewertung der Vertrauenswürdigkeit, Erklärbarkeit, Safety-Performance von KI
Basierend auf den zuvor festgelegten nachzuweisenden Eigenschaften und Akzeptanzkriterien sowie den Ergebnissen der Anwendbarkeitsanalysen bestehender Normen und Standards wird eine Recherche und Analyse von State-of-the-art Metriken zur quantitativen Bewertung von systemseitigen Sicherheitszielen sowie KI-spezifische Eigenschaften durchgeführt.
Hierbei liegt der Fokus auf der Definition von Anforderungen und Metriken um die Erfüllung der Akzeptanzkriterien für die Zulassung einer KI Funktion im vorgeschlagenen Anwendungsfall objektiv prüfen zu können.
AP2: Methoden und Werkzeuge zur Herstellung und zum Nachweis der Vertrauenswürdigkeit von KI-Funktionen
Das Ziel dieses Arbeitspakets umfasst zwei zentrale Themenbereiche. Der erste betrifft die systematische Erstellung von Sicherheitsanforderungen, für die im Rahmen des Projekts verwendeten KI-basierten Systeme. Der zweite Bereich konzentriert sich auf die Erstellung von Methoden und Beweisen, die zur Validierung der in dem ersten Bereich definierten KI-Anforderungen verwendet werden können.
Detaillierter betrachtet umfassen die beiden Bereiche des Arbeitspakets folgende Punkte:
Nachweis für die Vertrauenswürdigkeit der KI-Systeme
Ausgehend von den in AP1 festgelegten nachzuweisenden Eigenschaften und Akzeptanzkriterien werden eine Nachweismethodik als auch alle sicherheitsrelevanten Anforderungen für die KI-Systeme erarbeitet. Das Ziel ist, diese Anforderungen mit ausreichender Konfidenz nachzuweisen, so dass das Restrisiko bezogen auf ein Fehlverhalten des KI-basierten Systems als tolerierbar akzeptiert wird. Zusätzlich wird die Wirksamkeit der vorgeschlagenen Evidenzen zur Validierung der Nachweisstrategie untersucht. Am Ende des Projekts wird zudem ein Review des gesamtheitlichen Sicherheitsnachweises durchgeführt.
Methoden und Werkzeuge zur Bewertung der Vertrauenswürdigkeit der KI-Systeme
Basierend auf den definierten sicherheitsrelevanten Anforderungen an die KI-Systeme werden Metriken, Methoden und Werkzeuge als Evidenzen für die Unterstützung des vorgeschlagenen Nachweises entwickelt. Diese Evidenzen umfassen folgende Aspekte des Sicherheitsnachweises eines KI-Systems:
- Die Beschreibung der Betriebsumgebung und die Sicherstellung der Datenqualität
- Methoden und Architekturen zur Integration von KI-Verfahren mit klassischen Ansätzen
- Methoden zur Überprüfung der Robustheit der KI-Systeme, um die modellinhärenten Unsicherheiten zu minimieren
- Methoden zur Überprüfung der Zuverlässigkeit und des transparenten Verhaltens der KI-Systeme
- Methoden zur Verifikation des intendierten Verhaltens der KI-Funktionen
- Methoden zur Überwachung und Erhöhung der Verlässlichkeit bzw. zum Ausschluss von Fehlern während der Laufzeit
Das Projekt wird von Bundesministerium für Wirtschaft und Klimaschutz im Rahmen des Fachprogramms „Neue Fahrzeug- und Systemtechnologien“ gefördert.
Du willst mehr über safe.trAIn erfahren? Get in touch!
© Siemens 1996 – 2023
