Nicht OK Computer – Lagebericht Explainable AI

Referent:

Julia Schmidt

Termin: Samstag, 12:00 , Raum V1

Dank frei verfügbarer Bibliotheken sind Machine-Learning-Projekte heutzutage schnell zusammengeklöppelt und erste Erfolge lassen nicht lang auf sich warten. Was aber, wenn man begründen muss, warum der allmächtige Algorithmus gerade diese Wahl getroffen hat?
Technische Ansätze wie der neuronaler Netze machen es schwer, die zugrundeliegenden Entscheidungsprozesse zu durchschauen. Das kann aber durchaus wichtig sein, etwa wenn das autonome Gefährt nicht einsehen will, dass auch Fußgänger Verkehrsteilnehmer sind, deren Unversehrtheit mindestens wünschenswert wäre. Unter anderem aus diesem Grund hat das Thema Explainable AI, das Ansätzen der künstlichen Intelligenz behandelt, die unter anderem erklärbare Modelle produzieren, im letzten Jahr mehr Aufmerksamkeit erhalten.

Dieser Vortrag soll einen Überblick darüber verschaffen, welche Maßnahmen bekannte Open-Source-Bibliotheken zum Deep Learning im Bereich Explainable AI ergreifen und welche darauf spezialisierten Projekte in letzter Zeit aufgetaucht sind. Damit das „einfach machen“ mit gutem Gewissen vonstatten gehen kann.