Forschungsprojekt: Transparenz von KI-Entscheidungen

Wie treffen KI-Modelle ihre Entscheidungen – und wie lassen sich die dahinterliegenden Mechanismen für Fachanwenderinnen und Fachanwender verständlich machen? Mit dieser Frage befasst sich das Forschungsprojekt „eDIF – NoCode-Plattform Concepts & Features“, an dem die Forschungsstelle für KI- und Robotrecht mitwirkt.

Im Rahmen des Masterstudiengangs „Angewandte Künstliche Intelligenz & Digitale Transformation“ an der Hochschule Ansbach wird untersucht, wie sich interne Konzepte von KI-Modellen sichtbar und für Nicht-Technikerinnen und Nicht-Techniker nachvollziehbar aufbereiten lassen. Im Mittelpunkt steht dabei der Ansatz der mechanistischen Interpretierbarkeit: Er soll helfen zu verstehen, welche erlernten Merkmale und Konzepte ein Modell bei einer Entscheidung verwendet.

Ziel des Projekts ist die Entwicklung eines No-Code-Prototyps, der komplexe Verfahren der KI-Interpretierbarkeit ohne vertiefte technische Vorkenntnisse zugänglich macht. Fachanwenderinnen und Fachanwender sollen dadurch nicht nur das Ergebnis eines KI-Systems sehen, sondern auch nachvollziehen können, auf welchen Konzepten und Entscheidungsstrukturen dieses Ergebnis beruht.

Im Rahmen einer empirischen Studie wird die Plattform getestet und bewertet. Gesucht werden insbesondere Studierende und weitere Interessierte, die bereit sind, den Prototypen aus fachlicher Perspektive zu erproben. Technische Kenntnisse sind hierfür nicht erforderlich. Die Rückmeldungen der Teilnehmenden sollen dazu beitragen, relevante Anwendungsfälle zu identifizieren und die Verständlichkeit der dargestellten Informationen weiterzuentwickeln.

Das Projekt entsteht in Zusammenarbeit mit eDIF und soll in einen funktionsfähigen Prototypen sowie eine wissenschaftliche Publikation münden. Weitere Informationen zu eDIF finden sich unter: https://www.edif.ai/