Otto-von-Guericke-Universität Magdeburg Fakultät für Informatik IKS

Künstliche neuronale Netze haben sich als beliebte Wahl zur Implementierung intelligenter Systeme etabliert. Aus Sicherheitsgründen und zum Aufbau von Vertrauen ist es von entscheidender Bedeutung, zu verstehen, wie diese komplexen Black-Box-Modelle auf bestimmte Eingaben reagieren, Informationen verarbeiten und Entscheidungen treffen – insbesondere in kritischen Anwendungen wie dem autonomen Fahren oder in der Medizin. Wir entwickeln auf diesen Zweck zugeschnittene Diagnosewerkzeuge die teilweise von
Forschungsmethoden aus den kognitiven Neurowissenschaften inspiriert sind. Als Beispiel zeigen wir, wie ein auf Deep Learning basiertes Spracherkennungssystem intern arbeitet.