Explainable AI – Grundlegende Konzepte und interaktives Hands-On mit LIME und SHAP

Steadforce hält Vortrag beim VDI-Bezirksverein Bayern Nordost e.V.

Am 15.12.2020 hielt unser Data Scientist Thomas einen Vortrag beim VDI-Bezirksverein Bayern Nordost e.V. zum Thema "Explainable AI – Grundlegende Konzepte und interaktives Hands-On mit LIME und SHAP".

In diesem Vortrag sprach Thomas über dynamische Modelle, deren Anwendungen im alltäglichen Leben rasant steigen. Die Ausgabe dieser Modelle steht nicht von vornherein fest, sondern hängt sehr stark von den verwendeten Trainingsdaten ab. Daher ist es bei der Entwicklung entscheidend, solche Modelle nicht nur anhand von Metriken (wie der erzielten Genauigkeit auf Testdaten) zu evaluieren, sondern auch die Interpretierbarkeit dieser mit einzubeziehen. Interpretierbarkeit bedeutet in diesem Zusammenhang, zu verstehen, warum bestimmte Vorhersagen von einem Modell getroffen werden. Diese Gründe zu kennen, erhöht die Akzeptanz und das Vertrauen in Machine Learning-basierte Anwendungen.


Da viele der Teilnehmenden bereits konkrete Ideen oder Projekte zu XAI mit Text-, Tabellen- und Bilddaten hatten, allerdings erst wenige mit XAI Tools gearbeitet hatten, erklärte Thomas zunächst die grundlegenden Konzepte des Explainable AI (XAI) Tools LIME. Anschließend konnten die Zuhörenden konkrete Beispiele und einen vollständigen Anwendungsfall zu Exaplainable AI und Natural Language Processing mit Regressions- (SHAP) und Klassifizierungsverfahren (LIME) in interaktiven Notebooks (Jupyter) in der Programmiersprache Python verfolgen. Durch die Nutzung der Google Cloud Plattform konnten alle Teilnehmenden live und ohne Installation von Software eigene Tests am bereitgestellten Code durchführen und so erfolgreich praxisnahe Erfahrungen im Umgang mit XAI Tools sammeln.

Insgesamt konnte der Vortrag den Teilnehmenden konkrete Herausforderungen bei der Anwendung von Machine Learning-Modellen aufzeigen sowie den Nutzen, den XAI bringen kann, um Modelle robuster zu gestalten und das Vertrauen der Nutzenden in Machine Learning-Anwendungen zu stärken.

Wir freuen uns, dass Thomas' Vortrag bei den Teilnehmenden so gut ankam und bedanken uns beim VDI-Bezirksverein Bayern Nordost e.V. für die Einladung. Für Interessierte stehen noch weitere Informationen zum Thema Explainable AI und AI-Vorträgen auf unserem Blog zur Verfügung:

You want to see more?
show more
No spam , we promise
Get great insights from our expert team.