eXplainable Artificial Intelligence (XAI)-Toolbox

Die vom Fraunhofer-Institut für Optronik, Systemtechnik und Bildauswertung IOSB, Karlsruhe, vorgestellte XAI-Toolbox ist ein Werkzeug, das dazu dient, Künstliche Intelligenz (KI) verständlich und nachvollziehbar zu machen. Sie kann sich auf einfache Weise an verschiedene KI-Systeme anpassen und unterstützt, derzeit, sowohl Zeitreihen- als auch Bild-Klassifikatoren und kann somit für eine Vielzahl von Anwendungen eingesetzt werden.

Die XAI-Toolbox ermöglicht es, XAI-Methoden schnell auf Black-Box-Modelle anzuwenden. Das schafft Vertrauen in die Entscheidungen, die von KI-Systemen getroffen werden. Komplexe KI-Prozesse werden damit transparent und verständlich, sei es bei der Datenanalyse, der Fehlerbehebung oder der Erklärung von Vorhersagen. Geliefert werden zwei Arten von Erklärungen: lokale Erklärungen für einzelne Instanzen und globale Erklärungen für das gesamte Modell.

Die Anwendungsgebiete sind vielfältig:

• Produktion: Nachvollziehbarkeit, warum bestimmte Ausfälle bei Maschinen entstanden sind
• Automobil: Vertrauen in die Entscheidungen autonomer Fahrzeuge durch transparente Erklärungen
• Medizin: Verbesserte Verständlichkeit von Diagnose- und Entscheidungssystemen
• Überwachung: Unterstützung bei der Interpretation komplexer Daten für präzise Entscheidungen in der Überwachung von z.B. Schiffsrouten