Um Transparenz innerhalb eines KI-Systems zu erzeugen – und damit Vertrauen des Nutzers für die KI –, hat das Fraunhofer IOSB die Explainable Artificial Intelligence (XAI) Toolbox entwickelt. Diese bietet umfassende Werkzeuge, um die Entscheidungsprozesse von KI-Systemen transparent und nachvollziehbar zu machen. Dieser Artikel erläutert die Funktionen und Vorteile der XAI Toolbox und diskutiert spezifische Anwendungs­beispiele im Bereich des Spritzgießens und der Schüttgutsortierung.

Die Explainable Artificial Intelligence Toolbox (XAI Toolbox) ist ein Software-Paket, das das Fraunhofer-Institut für Optronik, Systemtechnik und Bildauswertung IOSB entwickelt hat, um die Transparenz und Nachvollziehbarkeit von KI-Algorithmen zu erhöhen. Sie umfasst Werkzeuge und Methoden, die es ermöglichen, die Entscheidungsprozesse von KI-Modellen zu analysieren und zu visualisieren. Dies ist besonders wichtig in industriellen Anwendungen, in denen die Nachvollziehbarkeit von Entscheidungen nicht nur für die Qualitätssicherung, sondern auch für die Einhaltung regulatorischer Anforderungen entscheidend ist.

Hauptfunktionen der XAI Toolbox

• Visualisierung von Entscheidungs­prozessen: Die Toolbox bietet umfangreiche Visualisierungsmöglichkeiten, um die internen Abläufe von KI-Modellen verständlich darzustellen. Dies umfasst zum Beispiel Heatmaps, die zeigen, welche Teile eines Eingabebildes für die Entscheidung des Modells ausschlaggebend waren.
   
• Modellinterpretation: Durch Techniken, wie die Darstellung der Merkmalswichtigkeit, ermöglicht die Toolbox eine detaillierte Analyse der Beitragswerte einzelner Merkmale zur Entscheidungsfindung.
   
• Anomalieerkennung: Die Toolbox bietet Mechanismen zum Erkennen und Interpretieren von Anomalien, was besonders in der Qualitätssicherung wichtig ist.
   
• Vertrauenswürdigkeit und Robustheit: Durch die Analyse der Sensitivität von Modellen gegenüber Änderungen in den Eingabedaten lässt sich die Robustheit der Modelle bewerten und verbessern.

Beispiel-Anwendungsbereiche

Die XAI Toolbox eignet sich für viele industrielle Anwendungen. Zwei davon sind das Spritzgießen und die Schüttgutsortierung. Beide Prozesse hängen stark von der Qualitätssicherung ab, und die Toolbox bietet hierbei eine wertvolle Unterstützung.

Anwendung im Spritzgießverfahren: Das Spritzgießen ist ein weit verbreitetes Verfahren in der Kunststoffverarbeitung, bei dem eine geschmolzene Kunststoffmasse in eine Form eingespritzt wird, um daraus Bauteile herzustellen. Die Qualität der hergestellten Teile hängt von vielen Faktoren ab, wie der Temperatur, dem Druck und der Einspritzgeschwindigkeit. Hier kann die XAI Toolbox signifikante Vorteile bieten: Durch die Anwendung der XAI Toolbox lassen sich die Einflussfaktoren auf die Qualität der Spritzgussteile detailliert analysieren. Zum Beispiel kann ein KI-Modell trainiert werden, um die Qualität der Teile auf Basis der Prozessparameter vorherzusagen. Mithilfe der XAI-Techniken können die relevanten Parameter identifiziert und deren Einfluss auf das Endergebnis visualisiert werden. Dies ermöglicht eine gezielte Optimierung der Prozessparameter, um die Qualität der Teile zu verbessern.

Ein konkretes Beispiel könnte ein Unternehmen sein, das Kunststoffteile für die Automobilindustrie herstellt. Durch den Einsatz der XAI Toolbox kann das Unternehmen die genauen Parameter, wie Einspritzdruck und -geschwindigkeit, Temperatur und Abkühlzeit, die die Qualität der Teile beeinflussen, identifizieren und optimieren. Die Visualisierung der Ergebnisse zeigt dann deutlich, welche Parameter angepasst werden müssen, um Defekte wie Verzug oder Lunker zu verringern. 

Anwendung der Toolbox in der Schüttgutsortierung: Die Schüttgutsortierung ist ein Prozess, bei dem Materialien, wie zum Beispiel Erze, Lebensmittel oder Recyclingstoffe, basierend auf bestimmten Kriterien sortiert werden. Die Qualität der Sortierung ist entscheidend für den weiteren Verarbeitungsprozess und die Produktqualität. Hier spielt die XAI Toolbox ebenfalls eine wichtige Rolle.

Durch den Einsatz von KI-Modellen kann die Sortiergenauigkeit erheblich verbessert werden. Die Toolbox ermöglicht es, die ­Entscheidungsgrundlagen der KI-Modelle zu verstehen und zu optimieren. Sie hilft dabei zu verstehen, welche Merkmale für die Entscheidung des Modells am wichtigsten sind, und ermöglicht eine Feinabstimmung, um die Sortiergenauigkeit zu erhöhen.

Neben den genannten Anwendungen im Spritzgießen und in der Schüttgutsortierung bietet die XAI Toolbox viele weitere Einsatzmöglichkeiten in verschiedenen Industrien. Zum Beispiel eignet sich die Toolbox in der Fertigungstechnik zum Überwachen von Produktionslinien: Durch die Analyse der Produktionsdaten lassen sich Anomalien frühzeitig erkennen und beheben, was die Produktivität und die Qualität erhöht.

Fazit

Die XAI Toolbox des Fraunhofer IOSB ist ein bedeutender Fortschritt im Bereich der erklärbaren KI für die Qualitätssicherung und bietet umfangreiche Möglichkeiten, um die Qualitätssicherung in industriellen Prozessen zu verbessern. Durch die Anwendung der Toolbox im Spritzgießverfahren und der Schüttgutsortierung können Unternehmen die Qualität ihrer Produkte und die Effizienz ihrer Prozesse erhöhen. Die Möglichkeit, die Entscheidungsprozesse von KI-Modellen transparent und nachvollziehbar zu machen, ist ein entscheidender Schritt hin zu einer vertrauenswürdigen und robusten Anwendung von künstlicher Intelligenz in der Industrie.