Interaktives & Erklärbares Maschinelles Lernen

Gestaltung der Darstellung lokaler Erklärungen von modellagnostischen XAI-Methoden zur Verbesserung der Transparenz der zugrundeliegenden KI Systeme

In dieser Abbildung sind vier erklärbare Methoden der künstlichen Intelligenz im Kontext von Kreditanträgen dargestellt. Die erste Methode, Anker (oben links), zeigt Regeln, die die Empfehlung des KI-Systems zur Bewilligung oder Ablehnung eines Kreditantrags bestimmen. Wenn alle Bedingungen dieser Regeln erfüllt sind, das heißt dass bestimmte Ausprägungen von Attributen erfüllt sind, dann kann die Änderung der Ausprägungen anderer Attribute, die nicht Teil der Regeln sind, die Empfehlung des KI-Systems nicht verändern. Die zweite Methode, DICE (oben rechts), stellt drei Spalten dar. Jede Spalte zeigt, wie sich bestimmte Ausprägungen der Attribute des Kreditantrags ändern müssten, um die Empfehlung des KI-Systems in ihr Gegenteil umzukehren, das heißt von „Abgelehnt“ in „Genehmigt“ oder umgekehrt. Die dritte Methode, LIME (unten links), zeigt ein Balkendiagramm mit den sechs Attributen, die den größten Einfluss auf die Empfehlung des KI-Systems haben. Die restlichen Attribute haben einen geringeren Einfluss auf die Empfehlung und werden nicht dargestellt. Hierbei zeigen blaue Balken einen Einfluss auf die Empfehlung „Genehmigt“ an, während rote Balken einen Einfluss auf die Empfehlung „Abgelehnt“ anzeigen. Die Werte und die Länge der Balken geben das Ausmaß des Einflusses an. Die letzte Methode, SHAP (unten rechts), zeigt, wie die Attribute des Kreditantrags die Wahrscheinlichkeit der Ablehnung des Antrags durch das KI-System beeinflussen. Die Ablehnungswahrscheinlichkeit wird berechnet, indem der Einfluss aller Attribute zur Basiswahrscheinlichkeit addiert wird. Die Basiswahrscheinlichkeit stellt den Anteil der Kreditanträge dar, die in der Vergangenheit abgelehnt wurden. Attribute, die die Ablehnungswahrscheinlichkeit erhöhen, werden durch rote Pfeile dargestellt, während Attribute, die die Ablehnungswahrscheinlichkeit verringern, durch blaue Pfeile dargestellt werden. Die Länge der Pfeile und die Werte geben das Ausmaß des Einflusses an. Dabei ist zu beachten, dass das KI-System bei der Berechnung der Empfehlung alle Attribute berücksichtigt. Es sind jedoch nur die Details der sechs einflussreichsten Attribute und deren Werte dargestellt.

In der Forschung zu erklärbarer künstlicher Intelligenz (Explainable Artificial Intelligence, XAI) wurden verschiedene lokale modellagnostische Methoden vorgeschlagen, um den Nutzern individuelle Vorhersagen zu erklären. Allerdings wurde der Nutzerperspektive wenig Beachtung zuteil, was zu einem mangelnden Verständnis darüber geführt hat, wie Nutzerinnen und Nutzer lokale modellagnostische Erklärungen bewerten. Um diese Forschungslücke zu schließen, haben wir in diesem Projekt die Darstellung lokaler Erklärungen von vier etablierten modellagnostischen XAI-Methoden durch einen iterativen Designprozess überarbeitet. Anschließend haben wir diese mit Hilfe von Eye-Tracking-Technologie, Umfragen und Interviews mit Nutzern evaluiert. Mit diesem Projekt leisten wir einen Beitrag zur laufenden Forschung über die Verbesserung der Transparenz der zugrundeliegenden KI-Systeme.

Entwicklung eines interaktiven maschinellen Lernsystems für die Analyse von Printanzeigen

In der Mitte der Abbildung ist eine farbkodierte Clusterverteilung mit der ausgewählten Teilmenge von Merkmalen und den Clustering-Parametern unter Verwendung des Sternkoordinatensystems dargestellt. Diese Technik basiert auf der kreisförmigen Anordnung der Achsen des Koordinatensystems um den Ursprung. Jede Achse wird durch einen Winkel und eine Länge beschrieben, so dass die/der Nutzerin/Nutzer sowohl den Winkel als auch die Länge durch Verschieben und Skalieren anpassen kann. Die/Der Nutzerin/Nutzer kann die Auswirkungen dieser Änderungen auf die Anordnung von Zehntausenden von Datenobjekten gleichzeitig in Echtzeit beobachten. Ein solcher Ansatz erscheint hilfreich, um die zugrunde liegende Datenstruktur und die Auswirkungen bestimmter Merkmale auf die Datenverteilung zu verstehen. Schattierungen werden zur Unterscheidung einzelner Datenobjekte verwendet. Der Bereich rund um den Mauszeiger ist zusätzlich hervorgehoben, um den Blick auf interessante Teilbereiche zu unterstützen. Die Balkendiagramme auf der linken Seite der Abbildung zeigen die Ergebnisse der Auswertung verschiedener Clusteranzahlen, um die am besten passende Lösung zu finden. Das dritte Diagramm auf der rechten Seite der Abbildung ermöglicht es der/dem Nutzerin/Nutzer, anomale Cluster zu identifizieren, indem die Clustergröße gegenüber der Clusterkardinalität dargestellt wird. Schließlich wird die Verteilung des gesamten Datensatzes in Form von Balkendiagrammen am unteren Rand der Abbildung dargestellt, und zwar als Liste, die nach dem Abstand zwischen jedem Datenobjektpaar für jedes verfügbare Merkmal in absteigender Reihenfolge sortiert ist.

Werbung ist allgegenwärtig und hat einen großen Einfluss auf das Verbraucherverhalten. Angesichts der Tatsache, dass Werbung darauf abzielt, einprägsam zu sein und Aufmerksamkeit zu erregen, scheint es auffällig, dass die bisherige Forschung in den Bereichen Wirtschaft und Management den Inhalt und den Stil tatsächlicher Printanzeigen und ihre Entwicklung über die Zeit hinweg weitgehend vernachlässigt hat. Vor diesem Hintergrund haben wir mehr als eine Millionen Printanzeigen des englischsprachigen Nachrichtenmagazins „The Economist“ von 1843 bis 2014 gesammelt. Es fehlt jedoch an interaktiven intelligenten Systemen, die in der Lage sind, eine so große Menge an Bilddaten zu verarbeiten und es den Nutzerinnen und Nutzern zu ermöglichen, Metadaten hinzuzufügen, Bilder zu erforschen, Thesen abzuleiten und Techniken des maschinellen Lernens zu nutzen, zu denen sie zuvor keinen Zugang hatten. Inspiriert durch das Forschungsgebiet des interaktiven maschinellen Lernens schlagen wir ein solches System vor, das es Marketingfachleuten ermöglicht, diese große Sammlung von Printanzeigen zu verarbeiten und zu analysieren.

Mit dem Auto

Mit Bus, U-Bahn und S-Bahn

Die H-Bahn

Mit dem Flugzeug

Auf dem Campus

Navigation und Karten