“Safety, Security, and Certifiability of Future Man-Machine Systems” - SafeTRANS veröffentlicht Roadmap und Positionspapier

Ob Mobilität, Energie, Gesundheit, Produktion: Die technischen Antworten auf Herausforderungen der Zukunft basieren auf komplexen, vernetzten, digitalen Systemen, welche Entscheidungs- und Führungsprozesse für und in Kooperation mit Menschen treffen. Dieses geschieht oft auf der Basis von lernenden und adaptiven Entscheidungsverfahren und immer öfter auch anwendungsdomänenübergreifend. Um die Chancen solcher großen, vernetzten, sich selbst ändernder Systeme vollständig nutzen und gleichzeitig die entstehenden Risiken beherrschen zu können, hat SafeTRANS erstmalig eine systematische Aufstellung der Komplexität dieser Systeme entwickelt. Anhand von fünf Komplexitätsdimensionen leitet sich eine Roadmap mit zeitlicher Abschätzung der benötigten technologischen Verfügbarkeiten ab. Ziel ist es, höchste Sicherheitsanforderungen für digitale Lösungen sicherheitskritischer Anwendungen mit dem Merkmal „Quality Made in Germany“ etablieren zu können.

Das Positionspapier und die Roadmap über „Safety, Security, and Certifiability of Future Man-Machine Systems“ stellen einen hochaktuellen, domänenunabhängigen Ansatz zur qualitativen Analyse der Komplexität zukünftiger mit Menschen interagierender Cyber-Pysical Systems vor und betrachten die mit jedem Komplexitätszuwachs resultierenden Herausforderungen zur Sicherung der Qualität (funktionale Sicherheit und Sicherheit der intendierten Funktion sowie Cyber-­Sicherheit). Die ins Detail gehende Roadmap widmet sich den Herausforderungen hinsichtlich Umsetzung und legt eine zeitliche Abschätzung der Beherrschung der benötigten Technologien vor. Es werden Fragestellungen verschiedener Anwendungen aufgegriffen, wie sie z. B. in Verbundprojekten der Automobilindustrie zur Qualitätssicherung und Zulassung autonomer Fahrzeuge oder in der Risikobewertung des Einsatzes von KI-Methoden in medizinischen Anwendungen, in der Wirkungsforschung im Energiesektor oder unter ethischen Aspekten in den Sozial- und Geisteswissenschaften behandelt werden. Die in Roadmap und Positionspapier dargestellte ganzheitliche Metrik basiert auf fünf Komplexitätsdimensionen und bildet die Grundlage zur Erfassung der Qualitätsanforderungen unabhängig von Branchengrenzen. Mithilfe dieser Metrik kann die Qualität resilienter, evolutionärer, lernender Systeme gesichert werden und Investitionen in Forschung und Entwicklung können zum richtigen Zeitpunkt erfolgen. 

Disruptive Veränderungen

Die bisher als Draft erschienen Versionen von Roadma und Positionspapier waren im Dezember 2019 die Grundlage des Symposiums „Safety, Security, and Certifiability of Future Man-Machine Systems“, das im Rahmen der ACPS Days veranstaltet wurde (siehe in diesen SafeTRANS News). Während des Symposiums wurden die Dokumente einschlägigen Verbänden vorgestellt und mit hochrangigen Vertretern u. a. der Siemens AG, Robert Bosch GmbH, Fraunhofer Gesellschaft, dem DFKI und DLR besprochen, um die Abstimmung mit anderen Domänen, Verbänden und der Politik weiter voranzutreiben.
Dr. Johannes Helbig (Business Transformation Institute) machte in seiner Keynote anhand von konkreten Beispielen deutlich, dass die Beherrschbarkeit großer, vernetzter, digitaler Systeme der Schlüssel für die Wettbewerbsfähigkeit in der zukünftigen digitalen Ökonomie sein wird und hierbei insbesondere die Qualitätssicherung eine entscheidende Rolle für die Erschaffung von vertrauenswürdigen und damit marktfähigen und erfolgreichen Systemen spielt
Die durch die zukünftigen Mensch-Maschine Systeme ausgelösten Veränderungen sind unaufhaltsam und maßgeblich für unsere Gesellschaft, Umwelt und Ökonomie, sodass die Beherrschbarkeit der neuen Systeme eine konzertierte gemeinsame Anstrengung von Politik, Wirtschaft und Wissenschaft erfordert. Einen strategischen Ansatz für ein abgestimmtes Vorgehen in Forschung und Entwicklung bilden das Positionspapier und die Roadmap zu Safety, Security, and Certifiability. Aktuell wird der Draft dieser Papiere mit Vertretern der einschlägigen Industrieverbände sowie der Politik diskutiert und ggfs. erweitert. Ebenso erfolgt eine Erweiterung um konkrete weitere Anwendungsbeispiele und um sogenannte Querschnittsthemen (wie Umgang mit Daten, Ethik, usw.) sowie die Konkretisierung der Handlungsempfehlungen, die in einem weiteren Symposium in Q4 2020 vorgestellt werden.
SafeTRANS als Herausgeber konnte bei der Erstellung der Dokumente auf vielfältige Erfahrungen im Bereich Strategieentwicklung und Themenevaluierung für zukünftige Forschungsvorhaben zurückgreifen (u. a. auf das domänenübergreifende Papier „Nationale Roadmap Embedded Systems“ aus dem Jahr 2009, weitere branchenspezifische Forschungsstrategie-Dokumente sowie die kontinuierliche Mitarbeit an der europäischen Strategic Research and Innovation Agenda des EU-Förderinstruments ECSEL, mehr zur ECS SRIA 2021 in diesen SafeTRANS News).

Im Folgenden wird auf die wichtigsten Inhalte der Dokumente zu „Safety, Security, and Certifiability of ­Future Man-Machine Systems“ eingegangen.

Inhalte I: Komplexitätsdimensionen

Ausgangsfragen für die Roadmap waren: Wie können wir die Komplexität digitaler Mensch-Maschine-Systeme bewerten? Wie einen Zugang zu notwendigen Maßnahmen zur Qualitätssicherung gewinnen?
Das Positionspapier und die Roadmap stellen die Ergebnisse einer Analyse zahlreicher realer, komplexer Systeme vor, auf deren Basis fünf Dimensionen - teilweise mit Untergruppen - mit jeweils dimensionsspezifischen Skalen zur Bewertung der Komplexität identifiziert wurden (siehe Abbildung 2). Die Komplexität einer Applikation wird dabei aus Sicht des Systems gemessen, das die Applikation realisiert. Diese relative Bewertung trägt dem Rechnung, dass ein und dieselbe Aufgabe für ein System leicht, für ein anderes schwer zu lösen ist, je nach Stärke des Systems. Der Begriff System bezeichnet dabei je nach Aggregationsstufe ein einzelnes technisches System, eine Gruppe, ein homogenes oder heterogenes Kollektiv von Menschen und technischen Systemen (siehe Abb. 1 in diesen SafeTRANS News). Gemeinsam ist allen diesen Systemausprägungen:

• die Abgrenzung zwischen dem Egosystem und einem umgebenden Kontext, der unterschiedlich komplex gestaltet sein kann und
• der Fähigkeit, diesen Kontext über eine Systemschnittstelle „wahrzunehmen“, also eine digitale oder mentale Repräsentation des aktuellen Kontextes zu erstellen.

Die fünf identifizierten Komplexitätskategorien

• Context
• Strength
• Responsibility and reflection
• Integrity and certification
• Cooperation

sind unterteilt in Abstufungen bis hin zu Fähigkeiten und Fertigkeiten vollumfänglicher resilienter, lernender und evolutionärer Mensch-Maschine-Systeme. Beispielhaft soll hier die Komplexitätsdimension Stärke vorgestellt werden: (System-)Stärke bezeichnet die Fähigkeiten des Egosystems seine (selbstgesteckten) Ziele erreichen zu können. Dies wird umso eher gelingen, umso höher oder größer die Intelligenz des Systems ist, umso besser es sich an sich verändernde Umfeldbedingungen anpassen kann, also welche Evolutionsfähigkeiten es besitzt, und mit welchem Grad an Autonomie es ausgerüstet ist (siehe Skalen „Strength“ in Abb. 2).

Inhalte II: Roadmap-Diagramm mit zeitlicher Abschätzung

Basierend auf den benötigten Fähigkeiten (siehe Skalenwerte) erfolgt eine zeitliche Einschätzung des Erreichens der einzelnen Ausbaustufen in jeder der untersuchten Komplexitätsdimensionen (siehe Abbildung 3). Die zeitliche Einordnung wird in der Roadmap detailliert anhand der Analyse konkreter technologischer Fähigkeiten vorgenommen.

Inhalte III: Handlungsempfehlungen 

Um diese Entwicklungen tatsächlich realisieren zu können, ist es notwendig, dass Forschung, Industrie und Politik zielgerichtet zusammen wirken. Dafür wurden zehn Handlungsempfehlungen zur Absicherungs des Qualitätsmerkmals „Made in Germany“ formuliert, die sich an Management und Politik gleichermaßen richten.