SIMAS - Absicherung von autonomen maritimen Systemen

Wie in anderen Bereichen nimmt die Automatisierung auch im maritimen Sektor zu, um beispielsweise Aufgaben zu übernehmen, die für Menschen zu gefährlich sind oder die automatisiert werden müssen. So können z.B. bei Offshore-Windkraftanlagen autonome Unterwasserfahrzeuge (AUVs) zur Inspektion eingesetzt werden.

Durch den Einsatz von künstlicher Intelligenz und der Interaktion mit der Umwelt liegt eine enorme Komplexität vor, was zu einem erhöhten Aufwand bei der Sicherheitsanalyse führt. Für die Absicherung von Künstlicher Intelligenz in maritimen Systemen stoßen bestehende praxisnahe Standards an ihre Grenzen, da sie die Komplexität und den erhöhten Absicherungsaufwand nicht bewältigen können. Passende Standards sind entweder nicht verfügbar oder befinden sich noch in der Entwicklung.

Wir entwickeln in SIMAS eine Methodik, die eine praxisfähige Risikoanalyse von KI-Systemen ermöglicht und dabei die spezifischen Anforderungen sowohl der maritimen Industrie als auch die Anforderungen an KI berücksichtigt.

Sensorik und künstliche Intelligenz von AUVs

Die Automatisierung hält auch im maritimen Sektor Einzug wie es auch z. B. bei hochautomatisierten Landfahrzeugen der Fall ist. Der Trend zu mehr Automatisierung und damit auch der Markt von AUVs wächst kontinuierlich. Solche automatisierten Unterwasser-Fahrzeuge (AUVs) können Aufgaben übernehmen, die für Menschen zu gefährlich sind oder automatisiert ablaufen sollen, wie z. B. der Überwachung von Bohrinseln, Pipelines oder Offshore-Windanlagen.

AUVs verfügen über Sensorik und künstliche Intelligenz zum Ausführen der festgelegten Aufgaben die z.B. zur Objekterkennung und Wegfindung dient. Für Entwicklung und Zertifizierung von (Unter-)Wasserfahrzeugen im Hinblick auf die Produktsicherheit wird sich nach existierenden Normen gerichtet wie z. B. der DIN EN ISO 12100, der IEC 61508 und dem MIL-STD-882E. Das Arbeiten der AUVs mit künstlicher Intelligenz kann unvorhersehbare Entscheidungen und kritische Ausfälle zur Folge haben. Analog zu AUVs kann es im Straßenverkehr bei hochautomatisierten Fahrzeugen vorkommen, dass die Objekterkennung des Systems nicht funktioniert und das Fahrzeug bestimmte Objekte wie Fußgänger oder kleine Hindernisse nicht korrekt erkennt und es zu unerwünschten Konsequenzen kommt. Eine vollständige Übertragung der Ansätze aus dem Straßenverkehr ist jedoch nicht möglich, da die Bedingungen im Wasser und auf der Straße unterschiedlich sind, wie z.B. eingeschränkte Sicht unter Wasser oder dreidimensionale Bewegungen.

Absicherung und Zertifizierung von unbemannten Fahrzeugen

Durch den Einsatz von künstlicher Intelligenz und der Interaktion mit der Umgebung erhöht sich die Komplexität von Systemen enorm, was auch zu einem gestiegenen Aufwand bei der Sicherheitsanalyse führt. Die Absicherung und Zertifizierung von unbemannten Fahrzeugen nach gängigen Normen wie z. B. der MIL-STD-882E oder IEC 61508 stößt an ihre Grenzen. Es wird erwartet, dass Neuauflagen dieser Normen das Thema KI generisch behandeln werden. Zur Absicherung werden übliche Verfahren zur Fehlervermeidung und -analyse verwendet wie Fehlermöglichkeits- und Einflussanalysen (FMEA) und Fehlerbaumanalysen (FTA). Neue Normen zur praxistauglichen Gefährdungsanalyse und Handhabe von KI sind bisher noch nicht verfügbar bzw. befinden sich noch in Entwicklung. Daher werden Methoden weiterentwickelt, damit KI-Systeme mit vertretbarem Aufwand analysiert und abgesichert werden können.

Diese Fragestellung ist auch für den maritimen Sektor von hohem Interesse, da zum einen der Einsatz von KI- und Sensorlösungen einen bedeutenden Markt erschließt, andererseits die Absicherung dieser Systeme einen immensen Kosten- und Zeitaufwand erfordert bzw. aktuell auch nur unzureichend möglich ist. 

Effizienten und holistischen Absicherung von automatisierten Unterwasser-Fahrzeugen

Das Projekt zur »Entwicklung einer Methodik zur Analyse und Bewertung der Sicherheit maritimer autonomer Systeme« SIMAS zielt darauf ab, die skizzierte Lücke im Stand der Technik zu schließen. Dazu soll eine neue Methode zur effizienten und dennoch holistischen Absicherung von AUVs entwickelt und an einem Demonstrator, der in einem definierten, repräsentativen Use Case betrieben wird, validiert werden.

Zur Lösung dieser Aufgabe sollen bestehende Werkzeuge der Absicherung der funktionalen Sicherheit und verwandter Disziplinen im maritimen Umfeld auf einen maritimen Use Case angewendet und auf die Anforderungen von AUVs erweitert werden. Mit dem neuartigen Tool der probabilistischen FMEA »probFMEA« steht zudem ein neues Werkzeug zur Verfügung, das bisher unter anderem im Umfeld der Absicherung autonomer Fahrzeuge erfolgreich erprobt wurde.

Weiterentwicklung der probabilistische FMEA für maritime AUVs

Die am Fraunhofer LBF entwickelte probabilistische FMEA ist eine Methodik, die für maritime AUVs im Kontext der KI unter Berücksichtigung der spezifischen Rahmenbedingungen weiterentwickelt werden soll. Während die FMEA einen ganzheitlichen Überblick über mögliche einzelne Fehlermodi bietet, kann die FTA eine quantitative Bewertung für einen Effekt auf Systemebene in jedem Baummodell liefern. Aus diesem Grund kann die Ausarbeitung beider Modelle von Vorteil sein, um so viele potenzielle Mängel im Systemdesign wie möglich aufzudecken, obwohl sie sich auf dieselbe Basis von Systemeigenschaften beziehen. Dennoch bleiben blinde Flecken, wie z.B. das Fehlen eines ganzheitlichen Kausalmodells, das eine quantitative Gesamtbewertung der Wahrscheinlichkeit ermöglicht. Um einen solchen ganzheitlichen quantitativen methodischen Ansatz zu schaffen, wurde ein Modellierungskonzept skizziert, welches den FMEA-Ansatz um Wahrscheinlichkeiten ergänzt (probFMEA) und in Bayesschen Netzen implementiert ist.

Die Methode der probFMEA und andere neuartigen Ansätze sollen auf einen Anwendungsfall in einem Teilbereich des Systems eingesetzt werden. Dazu stellt die Firma ATLAS ELEKTRONIK einen Demonstrator inklusive einer künstlichen Intelligenz zur Verfügung, der im Rahmen des Projekts auf ein sicheres Betriebsverhalten hin untersucht werden soll.

Die Methodik probFMEA macht das Verwenden mehrerer Werkzeuge zur Abdeckung qualitativer und quantitativer Analyse sowie grafischer Repräsentierung des Systems überflüssig, was die Effizienz erheblich steigert. Zudem gewährleistet sie eine hohe Genauigkeit bei der Identifizierung von Zuverlässigkeits- und Sicherheitsproblemen, insbesondere im Vergleich zur FTA. Durch die Verwendung von Daten und statistischen Methoden unterstützt die Software die Benutzer dabei, fundierte Entscheidungen zu treffen, um die Sicherheit, Zuverlässigkeit und Leistung ihrer Produkte zu optimieren.

Im Projekt SIMAS wird die probFMEA so weiterentwickelt, dass auch Unsicherheiten und die Modellierung von Schadensminderungsmaßnahmen berücksichtigt werden können.

Die Praxistauglichkeit der Methodik wird durch die Einbindung der Systementwickler und -bewerter von ATLAS ELEKTRONIK, die Expertise von FEV Etamax im Bereich der funktionalen Sicherheit und das Know-how von DNV SE im Bereich der Klassifikation gewährleistet.

Fördergeber und Partner

Das Projekt wird vom Bundesministerium für Wirtschaft und Klimaschutz (BMWK) gefördert.

Projektpartner:  

• ATLAS ELEKTRONIK GmbH
• FEV etamax GmbH
• DNV GL SE