Sehen Sie sich „Gewährleistung der KI/ML-Sicherheit in eingebetteten Systemen“ an.

KI in eingebetteten Systemen: Sicher, intelligent und bereit für die reale Welt

KI und ML revolutionieren sicherheitskritische Branchen wie die Automobilindustrie, das Gesundheitswesen und die Luft- und Raumfahrt. Diese Technologien bieten bemerkenswerte Autonomie und Effizienz, ihre Integration in ressourcenbeschränkte eingebettete Systeme, in denen Vorhersehbarkeit, Präzision und Sicherheit entscheidend sind, kann jedoch eine erhebliche Herausforderung darstellen.

Um diese Herausforderungen zu bewältigen, ist es wichtig, Strategien wie Modellbeschneidung, Modelleinfrieren, zahlreiche Tests und die strikte Einhaltung funktionaler Sicherheitsstandards wie ISO 26262, IEC 62304 und anderer unterstützender Sicherheitsstandards zu implementieren.

Key Take Away

• Die Einführung von KI in eingebetteten Systemen findet jetzt statt, nicht irgendwann in ferner Zukunft.
• Sicherheit, Vorhersehbarkeit und Konformität sind die großen Hürden, vor denen Entwickler stehen.
• Spezialisierte Hardware wie NPUs und Edge-TPUs verändern die Möglichkeiten eingebetteter Systeme.
• Techniken wie Modellbeschneidung, Quantisierung und Einfrieren ermöglichen die Integration von KI in eingebettete Systeme.
• Um die Sicherheit beim Einsatz von KI zu gewährleisten, sind Leitplanken, Rückverfolgbarkeit und zahlreiche Tests erforderlich.

Warum KI eingebettete Systeme verändert

KI macht alles intelligenter. Vor zehn Jahren zählte Ihre Uhr noch Ihre Schritte. Heute misst sie Ihre Herzfrequenz, erkennt Herzrhythmusstörungen und erkennt, ob Sie laufen, schwimmen oder schlafen. Unternehmen integrieren KI in medizinische Geräte, Autos, Energiesysteme – und vieles mehr. In manchen Städten tauchen sogar intelligentere selbstfahrende Taxis auf.

Die KI in Fitness-Trackern ist jedoch nicht mit den Monstermodellen vergleichbar, die Tools wie ChatGPT antreiben. Eingebettete KI bedeutet, Intelligenz in Geräte mit strengen Beschränkungen hinsichtlich Platz, Leistung und Rechenleistung zu packen. Dies ist kein bloßer Trend – bis 2030 werden voraussichtlich 70 % der eingebetteten Systeme KI-fähig sein. Die Herausforderung besteht darin, alle Vorteile von KI zu nutzen, ohne das Budget zu sprengen (oder etwas zu zerstören).

Große Probleme: Sicherheit, Schutz, Dimensionierung und Hardware

Sicherheit und Compliance: Die Must-Haves

In sicherheitskritischen Situationen kann eine kleine Verzögerung oder Unvorhersehbarkeit katastrophale Folgen haben. Der KI-gesteuerte Bremsassistent eines Autos kann keine Kaffeepause einlegen, und jede verlorene Millisekunde kann Leben kosten. Leider sind KI-Modelle nicht deterministisch – sie liefern häufig unterschiedliche Antworten auf dieselbe Eingabe, was in regulierten Branchen wie der Automobil- oder Luftfahrtindustrie nicht zulässig ist.

Ein weiteres Problem ist die Sicherheit. Eingabemanipulationen, die eine KI verwirren – etwa das Anbringen eines Aufklebers auf einem Stoppschild – können ein Modell täuschen und ihm reale Gefahren aufzeigen.

Hardware-Angelegenheiten

Manche Chips eignen sich besser als andere für die Ausführung von KI am Netzwerkrand. On-Device-NPUs und Edge-TPUs sind wegweisend für eingebettete KI – schneller, günstiger und stromsparender.

Modelle passend machen: Beschneiden und Quantisieren

Große neuronale Netzwerke sind schön und gut, aber versuchen Sie mal, eines in ein winziges Gerät zu integrieren, ohne dass der Speicher voll ist oder der Akku leer wird. Zwei Möglichkeiten, die Dinge kompakt zu halten:

1. Beschneidung: Entfernen Sie nach dem Training Neuronen und Verbindungen, die kaum etwas bewirken. Beschnittene Modelle sind kleiner, schneller und verbrauchen weniger Energie. Beispiel: Der Mars Rover der NASA nutzte ein beschnittenes Modell, um seine begrenzte Hardware um 30 % schneller laufen zu lassen.
2. Quantisierung: Konvertieren Sie das Modell von 32-Bit-Gleitkommazahlen in 16-Bit, 8-Bit oder sogar 4-Bit, um die Größe zu verringern und die Rechenlast, den Speicherverbrauch und den Stromverbrauch zu reduzieren.

Modell-Freezing und Vorhersagbarkeit

Sobald ein KI-Modell trainiert und getestet wurde und alle Prüfungen bestanden hat, wird es „eingefroren“.

• Keine Last-Minute-Änderungen mehr.
• Jedes Auto, Flugzeug oder medizinische Gerät verhält sich in der gleichen Situation gleich.
• Den Regulierungsbehörden gefällt das, weil sie wissen, was als Nächstes passieren wird.

Große Unternehmen wie Tesla sperren ihre Modelle, damit die Autos nicht spontan neue Manöver entwickeln und in Schwierigkeiten geraten.

Risiken, Standards und Leitplanken

Bei der Sicherheit eines KI-Systems geht es nicht darum, alle Risiken zu beseitigen, sondern sie zu managen. Denken Sie:

• Formale Überprüfung: Beweisen Sie, dass Ihre KI nicht außer Kontrolle gerät.
• Simulationen: Führen Sie Millionen von Szenarien durch, bevor etwas auf die Straße geht (idealerweise, im wahrsten Sinne des Wortes).
• Redundanz: Sorgen Sie dafür, dass Klone oder Backup-KIs einander den Rücken freihalten.
• Leitplanken: Fest codierte Regeln, die die KI innerhalb festgelegter Grenzen halten (z. B. ein Auto nicht die Geschwindigkeitsbegrenzung überschreiten lassen, egal wie sicher das Modell ist, dass alles in Ordnung ist).

Sie müssen Ihren Sicherheitsnachweis anhand von Dokumenten erbringen – mit Standards wie ISO 26262 für die Automobilindustrie, IEC 62304 für die Medizin oder neuen Richtlinien wie ISO 8800 (für KI in der Automobilindustrie).

Testen, Rückverfolgbarkeit und Erklärbarkeit

Sie müssen das System noch gründlich testen:

• Statische und dynamische Analyse Erkennen Sie Funktionsfehler im gesamten SDLC.
• Codeabdeckung: Stellen Sie sicher, dass in Ihren Testfällen jede Codezeile getestet wurde.
• Rückverfolgbarkeit: Verknüpfen Sie jede Anforderung, dokumentieren Sie jede Änderung, erfassen Sie jedes Testergebnis, damit Sie den Aufsichtsbehörden einen Prüfpfad vorlegen können.
• Erklärbare KI (XAI): Tools wie SHAP oder LIME helfen beim Debuggen und erklären, warum die KI einen Anruf getätigt hat, und decken so ihre Blackbox-Natur auf.

Was kommt als Nächstes für eingebettete KI?

Die Zukunft der KI in eingebetteten Systemen entwickelt sich schnell:

• Lernen auf dem Gerät: Keine Cloud, keine Verzögerungen – intelligenter, lokal und privat.
• Die Hardware wird immer kleiner: Chips im Nanometerbereich bedeuten mehr Gehirne auf weniger Raum.
• Bessere Privatsphäre und Sicherheit: Mit Techniken wie föderiertem Lernen und KI-Tools können Sie Cyber-Tricks der nächsten Generation entgegenwirken.
• KI hilft Ingenieuren, bessere KI zu entwickeln: Sie müssen nicht mehr stundenlang auf Codefehler starren – KI kann Korrekturen vorschlagen.

Wrap-Up

KI verändert die Möglichkeiten eingebetteter Systeme, wirft aber auch zahlreiche Sicherheits- und Compliance-Fragen auf. Glücklicherweise ermöglichen Pruning, Quantisierung, spezialisierte Hardware, erklärbare KI und strenge Test- und Regulierungsstandards sichere, zertifizierbare Systeme, die den Einsatz von KI in der eingebetteten Welt ermöglichen. Die Zukunft sieht dynamisch und intelligent aus.