KI in sicherheitskritischen Umgebungen Zurück zur Übersicht KI

KI in sicherheitskritischen Umgebungen

KI Verfahren absichern – aber wie ?

So funktioniert‘s:
Szenarienerkennung

  • Abschätzung der Gesamtheit aller möglichen auftretenden Situationen

Das bringt's:

  • Einsatz von KI in sicherheitskritischen Systemen so erst möglich
  • Wichtiger Beitrag zum Beispiel beim Autonomen Fahren
  • Auch für die Abänderung von Vorschriften ist eine belastbare Aussage zur Güte der KI-Verfahren obligatorisch

 

Anwendungsbeispiel bei unserem Kunden MAN
Auch Künstliche Intelligenz muss lernen
Wie kann ein intelligentes System darauf trainiert werden, gefährliche und unplanmäßige Ereignisse und Zustände zu erkennen und richtig zu handeln? Und wie viele Tests muss dieses System durchlaufen, damit der Mensch ihm vertraut?
KI-Algorithmen, die in sicherheitskritische Systeme eingebracht werden beim Autonomen Fahren, müssen nachweislich besondere Anforderungen an Vertrauenswürdigkeit und Absicherung erfüllen. Allerdings sind KI-Algorithmen schwerer zu testen und abzusichern als herkömmliche Algorithmen. Hier ist die Kombination von automatisierten und statistischen Tests sowie manueller Expertenanalyse ausschlaggebend. Das BTC Data Science Team verfügt hier über exzellente Expertise. 
Björn Friedrich
Team Data Science und Künstliche Intelligenz