Viele moderne KI-Systeme, besonders die auf Deep Learning basierenden, sind sogenannte „Black Boxes“. Das heißt, sie liefern zwar oft erstaunlich gute Ergebnisse, aber es ist schwer nachzuvollziehen, wie sie zu diesen Ergebnissen gekommen sind. Erklärbare KI (XAI) zielt darauf ab, die Entscheidungsfindung von KI-Systemen transparenter und nachvollziehbarer für Menschen zu machen. Das ist wichtig, um Vertrauen in KI zu schaffen, Fehlerquellen zu finden und sicherzustellen, dass die Systeme fair und verantwortungsvoll handeln.