Erlebbarkeit
Eine informierte Diskussion über KI erfordert ein Verständnis der eingesetzten Technologien.
Künstliche Intelligenz (KI) ist ein Thema, das aktuell viele Hoffnungen, aber auch Ängste weckt. Die abstrakten Methoden, mit denen eine KI ihre Entscheidungen trifft, können sich sehr vom normalen menschlichen Denken unterscheiden und sind für viele nur schwer greifbar. Tatsächlich stellen viele KI-Modelle selbst für deren Entwickler eine „Black-Box“ dar, und die Entscheidungen, wenngleich augenscheinlich zutreffend, können nur schwer nachvollzogen und überprüft werden.
Inklusive Vermittlungsansätze gewährleisten die Teilhabe, das Verständnis und den Nutzen von KI für alle.
Durch Erlebbarkeit soll ein intuitives Verständnis von KI geschaffen und durch interaktive KI-Prototypen und Demonstratoren deren Möglichkeiten und Grenzen erfahrbar gemacht werden. Hierbei helfen aussagekräftige Visualisierungen dabei, einen Blick „in die KI-Modelle hinein“ zu erlangen. Zugleich sollen durch Sensibilisierungs-, Analyse- und Lösungsprozesse auch die Entwickler:innen von KI-Lösungen dabei unterstützt werden, Erlebbarkeit und Erklärbarkeit in ihre Modelle zu integrieren und diese somit transparenter, robuster und fairer zu machen.
Interaktion
Es sollen verschiedene Prototypen für „KI zum
Anfassen“ entwickelt werden.
Diese werden sowohl in den Räumlichkeiten des ZEKI (Zentrum für erlebbare Künstliche Intelligenz und Digitalisierung) als auch Online zur Verfügung gestellt. Sie vermitteln die Möglichkeiten, aber auch die Risiken des Einsatzes von KI, und dienen somit dem Abbau von Berührungsängsten und stellen die Grundlage für eine informierte, bewusste Nutzung von KI im Alltag.
Durch die Demonstratoren sollen sowohl die User als auch die Entwickler:innen von KI dazu angehalten werden, die Entscheidungen der KI zu hinterfragen:
Wieso wurde die Entscheidung getroffen, und wieso nicht eine andere?
Wann ist die Entscheidung richtig und wann falsch?
Kann ich der Entscheidung vertrauen?
Ist die Entscheidung fair?
Erklärbarkeit
Das Ziel von Erklärbarkeit ist die kontrollierte
und regulierbare Gestaltung von KI.
Hierzu wird im Rahmen des Projekts an verschiedenen Methoden und Lösungen für Erklärbare KI (engl. Explainable Artificial Intelligence, XAI) geforscht, mit denen die Entscheidungen der KI besser nachvollzogen werden können, und die sich auf ein breites Spektrum an KI-Methoden anwenden lassen. Die gewonnenen Erkenntnisse sollen unter anderem in Workshops und Kursen gezeigt und in entsprechenden Begleitmaterialien aufbereitet werden.
Beispiele
Begleitmaterialien:
Ergebnisse
Das Thema XAI kann für Menschen, die kein tiefes Verständnis von KI haben, überwältigend sein. Unser XAI-Tutorial bietet eine einfache und umfassende Einführung in das Thema XAI. Die Möglichkeiten, aber auch die Grenzen von XAI werden praxisnah dargestellt.
Eine XAI-Methode zu finden und eine Erklärung für ein KI-System zu erstellen, kann schwierig sein. Der XAI MethodFinder hilft bei der Suche nach einer XAI Methode für bestimmte Anwendungsfälle. Basierend auf der Zielgruppe werden dem Nutzer technische Details des KI-Systems und Präferenzen für die Erklärung geeigneter XAI-Methoden empfohlen. Darüber hinaus erhält der Nutzer auch Hilfestellungen und Tipps, wie die Methode möglichst verständlich für die Zielgruppe angewendet werden sollte.
Wenn Sie mehr über die verschiedenen XAI-Methoden erfahren und eine geeignete XAI-Methode für Ihr AI-System finden möchten, empfehlen wir Ihnen unsere XAI-Factsheets. Dort werden XAI-Methoden in einfacher Sprache vorgestellt und ihre Einsatzmöglichkeiten aufgelistet.
Label-free Activation Maps (LaFAM) ist eine im Rahmen des Go-KI-Projekts entwickelte Methode für Modelle, die in selbstüberwachten Umgebungen trainiert werden. Das heißt, solche Modelle haben keine Labels, so dass traditionelle Methoden nicht anwendbar sind.
Ressourcen
- XAI Methoden Steckbriefe (Deutsch): PDF
- XAI Methoden Steckbriefe (Englisch): PDF
- XAI Demonstrations: https://gt-arc.github.io/go-ki-demo/
