Fraunhofer-Allianz VerkehrInstitutsleiter: Prof. Dr.-Ing. habil. Mario Trapp
Ansprechpartner: Dr. Reinhard Stolle
Fraunhofer-Institut für Kognitive Systeme IKS
München
- Zum Internetauftritt des Fraunhofer IKS (iks.fraunhofer.de)
Transformation der Mobilität durch sichere KI-Systeme:
Die Zukunft der Mobilität, im Gesundheitssektor sowie in der Industrie wird maßgeblich durch vernetzte kognitive Systeme gestaltet. Am Fraunhofer IKS vereinen wir Forschung im Bereich der Künstlichen Intelligenz mit Software-Engineering. Unser Bestreben ist es, das volle Potenzial neuer Technologien wie Quantencomputing und KI nutzbar zu machen – ohne dabei Kompromisse bei der Sicherheit oder Zuverlässigkeit einzugehen.
Continuous Safety Assurance: Sicherer Betrieb für KI-basierte Fahrfunktionen
Unser Ansatz der „Continuous Safety Assurance“ ermöglicht es, KI-gestützte Fahrfunktionen effizient und sicher in die operative Phase zu überführen. Wir begleiten Sie von der Definition der Sicherheitsziele, des akzeptablen Restrisikos und einer präzisen Spezifikation der Operational Design Domain (ODD) bis zum Erstellen der Architektur, Definition von geeigneten Metriken und Optimierung von Verifikationsprozessen – unterstützt durch den Einsatz sicherer LLMs und Agenten.
Basis für eine erfolgreiche Zulassung bilden unsere strukturierten, evidenzbasierten Safety Cases, die Konfidenzbewertungen sowie eine normgerechte Argumentation (gemäß u.a. ISO PAS 8800, SOTIF und EU AI Act) integrieren. Für den laufenden Betrieb unterstützen wir Sie bei der Integration von Monitoring-Lösungen, der Definition von Safety Performance Indicators (SPI) sowie bei Governance-Strukturen, Triggern für sichere Updates und Rückführung von Laufzeitdaten direkt in die Sicherheitsargumentation. Durch den Einsatz von Rapid Prototyping beschleunigen wir zudem die Integrations- und Validierungsschritte innerhalb standardisierter Umgebungen.
So entsteht ein geschlossener Regelkreis aus Betrieb, Entwicklung und kontinuierlichem Lernen: Compliance bleibt nachweisbar, Risiken sind jederzeit kontrollierbar und Ihre Anwendung erzielt durch iterative Verbesserung eine messbare Sicherheitsqualität.
Unser Leistungsspektrum deckt dabei alle Bereiche ab – von Embedded AI auf Mikrocontroller-Ebene (z. B. als virtueller Sensor in der Motorsteuerung) bis hin zu hochkomplexen KI-Funktionen für Perzeption, Trajektorienplanung oder durchgängige Ende-zu-Ende KI-Architekturen im Fahrzeug und in der Infrastruktur.
Unsere Leistungen im Überblick:
| Engineering sicherheitskritischer Systeme | Definition von Sicherheitszielen, ODD, Risikomanagement sowie Design sicherer ML-Architekturen und effizienter V&V-Prozesse mit LLM/Agenten-Unterstützung. |
| Durchgängige Absicherung & Monitoring | Überwachung von Annahmen und SPIs, Ursachenanalyse bei Vorfällen sowie sichere Durchführung von OTA-Updates. |
| Kontinuierliche Safety Argumentation | Erstellung strukturierter, dynamischer Safety Cases inklusive Konfidenzbewertung, Re-Argumentation und durchgängiger Compliance-Dokumentation. |
| Rapid Prototyping | Schnelle Entwicklung und Validierung Ihrer KI-Funktionalitäten unter Verwendung unseres APIKS-Frameworks. |