Automatisierter C/C++-Testfahrplan für KI-Sicherheit & ISO/PAS 8800

Das Wettrennen um den Einsatz KI und Sicherheit im Straßenverkehr Die Entwicklung schreitet rasant voran, doch der Weg zu einer sicheren Umsetzung ist mit komplexen Herausforderungen auf Systemebene verbunden. Die Norm ISO/PAS 8800:2024 bietet hierfür wichtige Leitlinien und definiert strenge Anforderungen an KI-Systeme in sicherheitsrelevanten E/E-Architekturen. Für Automobilentwickler bedeutet dies erhöhte Anforderungen an Verifizierung, Validierung und Sicherheitsgewährleistung, insbesondere bei der Softwareimplementierung und der Interaktion mit KI-Komponenten.

In diesem Webinar wird detailliert erläutert, wie ISO/PAS 8800 die Sicherheit von KI als kontinuierliche Ingenieursdisziplin neu definiert und damit die Lücken schließt, die durch Normen wie ISO 26262 und SOTIF entstanden sind.

Erhalten Sie in einer einzigen Sitzung einen praxisorientierten Fahrplan für Compliance und KI-Tests der nächsten Generation. Was Sie lernen werden:

• Von der Theorie zum Arbeitsablauf. Die ISO/PAS 8800-Klauseln in einen klaren, umsetzbaren KI-Sicherheitsprozess umwandeln.
• Integrieren Sie Ihre Sicherheitsstrategie. Die Normen ISO 26262 und SOTIF sollen mit der Norm 8800 verknüpft werden, um KI-spezifische Sicherheitslücken zu schließen.
• Meistern Sie den Sicherheitslebenszyklus von KI. Den Standard von der Datenaufbereitung bis zur Systemvalidierung und dem operativen Monitoring anwenden.
• Automatisierte Compliance und Nachweisführung. Nutzen Sie Shift-Left-Testing, CI/CD und Rückverfolgbarkeit, um Ihren Sicherheitsnachweis schneller zu erstellen.

ISO/PAS 8800 verstehen: Die Grundlagen

ISO/PAS 8800 dient der Gewährleistung der Sicherheit von KI-Systemen in Fahrzeugen. Dies umfasst sowohl KI im Fahrzeuginneren als auch externe KI, die das Fahrverhalten beeinflusst, wie beispielsweise intelligente Ampeln. Der Standard ist transparent: Er verspricht keine absolute Sicherheit. Vielmehr zielt er darauf ab, KI-bedingte Risiken im Rahmen des Gesamtsicherheitskonzepts des Fahrzeugs auf ein akzeptables Niveau zu senken. Wichtig ist, dass ISO/PAS 8800 ältere Standards wie beispielsweise nicht ersetzt. ISO 26262 (für funktionale Sicherheit) oder SOTIF (für die Sicherheit der beabsichtigten Funktionalität). Es arbeitet parallel zu ihnen und füllt die Lücken, die KI einbringt.

Was ist neu bei der KI-Sicherheit?

Ein Großteil der Verwirrung um die Sicherheit von KI ist auf die Sprache zurückzuführen. ISO/PAS 8800 schafft hier Klarheit, indem es zwischen einem System unterscheidet. andernfalls und sein unzureichendEin KI-System kann zwar exakt wie programmiert funktionieren, aber dennoch unsicher sein, weil ihm ausreichend Wissen, Daten oder die Fähigkeit fehlen, mit neuen Situationen umzugehen. Hierbei handelt es sich nicht um typische Softwarefehler, sondern um Wissenslücken. Daher erfordert die Sicherheit von KI neue Denkweisen, neue Erkenntnisse und neue Ansätze zum Umgang mit diesen Risiken.

Aufbauend auf bestehenden Standards

ISO/PAS 8800 ist so konzipiert, dass es auf dem vorhandenen Wissen von Teams aufbaut. Es basiert explizit auf ISO 26262, ISO 21448 (SOTIF) und ISO/IEC 22989 (KI-Terminologie). Das bedeutet, dass Sie Ihre bestehenden Sicherheitspraktiken nicht aufgeben müssen. Stattdessen erweitern Sie diese um den Bereich KI. Betrachten Sie KI-Sicherheit als Weiterentwicklung der Systemsicherheit, nicht als ein völlig neues Feld.

Der KI-Sicherheitslebenszyklus und die Gewährleistung

KI-Sicherheit darf nicht erst im Nachhinein berücksichtigt werden; sie muss während des gesamten Lebenszyklus des KI-Systems geplant und verwaltet werden. ISO/PAS 8800 beschreibt einen Referenz-Lebenszyklus für KI-Sicherheit, der alle Aspekte von der Anforderungsdefinition und dem Design über Tests und Implementierung bis hin zum laufenden Betrieb umfasst. Für Systeme des maschinellen Lernens ist dies ein iterativer Prozess – die Systeme werden so lange verfeinert und verbessert, bis die Sicherheitsziele erreicht sind.

Das Zusicherungsargument: Der Beweis der Sicherheit

Der vielleicht wichtigste Aspekt von ISO/PAS 8800 ist der Nachweis der KI-Sicherheit. Technisch gesehen ist das nicht möglich. belastbare Daten KI ist absolut sicher. Stattdessen entwickeln Sie eine strukturierte Sicherheitsargumentation. Dazu gehört, Ihre Sicherheitsaussagen klar zu formulieren und sie anschließend mit soliden Beweisen zu untermauern. Diese Beweise gehen über reine Genauigkeitszahlen hinaus. Sie umfassen:

• Datenabdeckung. Wie gut die Trainingsdaten die realen Bedingungen widerspiegeln.
• Robustheit. Wie die KI unter verschiedenen Belastungen oder unerwarteten Eingaben funktioniert.
• Testen. Ergebnisse aus verschiedenen Testmethoden.
• Architektonische Schutzmaßnahmen. Sicherheitsmerkmale sind in das Systemdesign integriert.
• Überwachungsstrategien. Wie die Systemleistung überwacht wird.
• Betriebliche Steuerung. Regeln und Verfahren für die Verwendung der KI.

Die Sicherheit von KI ist letztlich ein begründetes, durch Beweise gestütztes Argument dafür, dass das System als Ganzes hinreichend sicher ist.

Daten: Ein kritischer Sicherheitsfaktor

Viele KI-Fehler lassen sich auf Datenprobleme zurückführen. ISO/PAS 8800 behandelt Daten als sicherheitskritisches Gut. Das bedeutet, dass Datensätze einen eigenen Lebenszyklus benötigen, der Definition, Verifizierung, Validierung und kontinuierliche Verbesserung umfasst. Fehlende Szenarien, verzerrte Daten oder Kennzeichnungsfehler können direkt zu unsicherem KI-Verhalten führen. Beispielsweise muss ein Fußgängererkennungssystem unter allen zu erwartenden Bedingungen – Tag und Nacht, Regen, Schnee oder auf stark befahrenen Straßen – zuverlässig funktionieren. Fehlen kritische Szenarien, wie etwa ein teilweise verdeckter Fußgänger, in den Trainingsdaten, kann das System bei der Erkennung solcher Fälle versagen, was ein ernsthaftes Sicherheitsrisiko darstellt.

Testen und Verifizieren von KI-Systemen

Die Überprüfung, ob KI die Sicherheitsanforderungen erfüllt und im realen Einsatz sicher funktioniert, ist anspruchsvoll. KI-Systeme verarbeiten hochdimensionale Eingaben, und die Anforderungen können ungenau sein. ISO/PAS 8800 fordert mehrstufige Tests, von einzelnen KI-Komponenten über das integrierte System bis hin zum kompletten Fahrzeug. Dies umfasst eine Kombination aus:

• Statistische Tests
• Szenario-Wiedergabe
• Robustheitsprüfung
• Simulation, zum Beispiel mithilfe von Tools wie Carla, Nvidia Drive Sim
• Hardware-in-the-Loop-Test

Diese Methoden helfen, seltene oder extreme Szenarien zu untersuchen und Daten zu validieren, wenn physische Tests nicht praktikabel sind. Entscheidend ist, dass KI-Tests systematisch, wiederholbar und direkt mit Sicherheitszielen verknüpft sind.

Über die traditionelle Fehleranalyse hinaus

KI-Fehler können systembedingt sein und nicht nur auf Bugs zurückzuführen sein. Sie können durch Datenlücken, fehlerhafte Verallgemeinerungen (bei denen die KI gelernte Muster falsch anwendet) oder unsichere Interaktionen mit anderen Systemen entstehen. Während traditionelle Fehleranalysemethoden eingesetzt werden können, eignen sich systemtheoretische Ansätze wie STPA oft besser für komplexes KI-Verhalten. Proaktive Qualitätssicherung reduziert Risiken und liefert die notwendigen Nachweise für Ihre Qualitätssicherungsargumentation.

Sicherheit der KI nach dem Einsatz

Sicherheit hört nicht auf, sobald das Auto auf der Straße ist. KI-Systeme agieren in einer dynamischen Welt. ISO/PAS 8800 betont:

• Betriebsüberwachung um Anomalien oder unerwartete Eingaben zu erkennen.
• Felddatenerfassung um mehr über neue Bedingungen zu erfahren, denen die KI begegnet.
• Regelmäßige Neubewertungen des Zusicherungsarguments.
• Kontrollierte Aktualisierungen wie drahtlose Software-Updates.

Die Inbetriebnahme ist erst der Anfang der operativen Verantwortung. Kontinuierliche Überwachung gewährleistet die Sicherheit der KI während der gesamten Lebensdauer des Fahrzeugs.

Praktische Schritte: Testen und Automatisierung

Wie setzen Teams ISO/PAS 8800 also konkret in die Praxis um? Der Standard betont die frühzeitige Erkennung von KI-Risiken. Dies erfordert einen Shift-Left-Testansatz.

• Statische Codeanalyse und Codierungsstandards. Durch das frühzeitige Erkennen herkömmlicher Softwarefehler im Code rund um die KI lassen sich Probleme vermeiden, bevor sie überhaupt zu Auslösebedingungen für die KI werden.
• Automatisierte Unit-Tests. Die Verwendung von Frameworks wie GoogleTest stellt sicher, dass die Steuerungslogik, die Schutzmechanismen und die Sicherheitsmechanismen wie vorgesehen funktionieren, insbesondere wenn KI-Ausgaben in sicherheitskritische Software einfließen.
• Kontinuierliche Integration/kontinuierliche Bereitstellung (CI/CD). Durch die Integration von Sicherheitsanalysen, Unit-Tests und Codeabdeckung in CI/CD-Pipelines können Teams kontinuierlich überprüfen, ob Änderungen neue Risiken mit sich bringen. Dies unterstützt den iterativen Charakter der KI-Sicherheit.
• Automatisierte Rückverfolgbarkeit und Compliance-Verwaltung. Verknüpfung von Anforderungen mit Testergebnissen hilft dabei, Konformitätsnachweise in Echtzeit zu generieren, wodurch es einfacher wird, nachzuweisen, wie die Sicherheitsanforderungen erfüllt werden.

KI-gestütztes Testen für mehr Effizienz

KI bringt Komplexität mit sich, die mit herkömmlichen Testverfahren allein nicht vollständig bewältigt werden kann. KI-gestütztes autonomes Testen kann hier Abhilfe schaffen, indem es Verstöße automatisch behebt, Tests generiert, die Testabdeckung verbessert, Risiken priorisiert und die Einhaltung von Vorschriften beschleunigt. Dies reduziert den manuellen Aufwand, beschleunigt die Markteinführung von Produkten und hilft Teams, die anspruchsvollen, iterativen Sicherheitsanforderungen von Normen wie ISO/PAS 8800 zu erfüllen, ohne dabei zu überlasten.

Im Wesentlichen definiert ISO/PAS 8800, was KI-Sicherheit erfordert, und Tools und Praktiken wie die von Parasoft helfen Teams dabei, dies konsistent, effizient und in großem Umfang zu erreichen, wobei sowohl KI- als auch traditionelle Softwarekomponenten abgedeckt werden.