eXplainable Artificial Intelligence (XAI)-Toolbox

Die vom Fraunhofer-Institut für Optronik, Systemtechnik und Bildauswertung IOSB, Karlsruhe, vorgestellte XAI-Toolbox ist ein Werkzeug, das dazu dient, Künstliche Intelligenz (KI) verständlich und nachvollziehbar zu machen. Sie kann sich auf einfache Weise an verschiedene KI-Systeme anpassen und unterstützt, derzeit, sowohl Zeitreihen- als auch Bild-Klassifikatoren und kann somit für eine Vielzahl von Anwendungen eingesetzt werden.

XAI-Toolbox KI
© Fraunhofer IOSB
Die XAI-Toolbox liefert dem Benutzer eine Vielfalt von Plots, z. B. Feature Importance und Heat Plots.

Die XAI-Toolbox ermöglicht es, XAI-Methoden schnell auf Black-Box-Modelle anzuwenden. Das schafft Vertrauen in die Entscheidungen, die von KI-Systemen getroffen werden. Komplexe KI-Prozesse werden damit transparent und verständlich, sei es bei der Datenanalyse, der Fehlerbehebung oder der Erklärung von Vorhersagen. Geliefert werden zwei Arten von Erklärungen: lokale Erklärungen für einzelne Instanzen und globale Erklärungen für das gesamte Modell.

Toolbox für ein Schüttgutsortierverfahren
© Fraunhofer IOSB
Hier wurden für ein Schüttgutsortierverfahren die Düsen, die zu einer schlechteren Sor-tierqualität führten (rot markiert), durch die XAI-Toolbox herausgearbeitet. Somit kann der Anwender die Düsen nachjustieren, um die Sortierqualität wieder zu verbessern.
Klassifizierung eines Autobildes
© Fraunhofer IOSB
Hier wird ein Bild als Auto klassifiziert und anhand von Merkmalen näher erklärt, warum dieses als Auto klassifiziert wurde.

Die Anwendungsgebiete sind vielfältig:

  • Produktion: Nachvollziehbarkeit, warum bestimmte Ausfälle bei Maschinen entstanden sind
  • Automobil: Vertrauen in die Entscheidungen autonomer Fahrzeuge durch transparente Erklärungen
  • Medizin: Verbesserte Verständlichkeit von Diagnose- und Entscheidungssystemen
  • Überwachung: Unterstützung bei der Interpretation komplexer Daten für präzise Entscheidungen in der Überwachung von z.B. Schiffsrouten

Zum Pressematerial im Downloadbereich

Kontakt

Contact Press / Media

Dr.-Ing. Nadia Burkart

Fraunhofer-Institut für Optronik, Systemtechnik und Bildauswertung
Fraunhoferstraße 1
76131 Karlsruhe, Deutschland

Telefon +49 721 6091-619