\chapter{Erklärbarkeit}
\label{erklaerbarkeit}
    Das Ziel der Erklärbarkeit ist es genügend Informationen über ein System zu sammeln, um eine Entscheidung des Systems erklären zu können.

    \section{Verfahren}
    \label{erklaerbarkeit: verfahren}
        \includegraphics[width = \textwidth]{black-box_explanations.png}

    \section{Heatmaps}
    \label{erklaerbarkeit: heatmaps}
        Mithilfe der \say{Layer-Wise Relevance Propagation} ist es möglich herauszufinden,
        welche Eigenschaften der Eingabe einen großen bzw. kleinen Einfluss auf die Ausgabe gehabt haben.\\
        \includegraphics[width = .8\textwidth]{layer-wise_relevance_propagation.png}\\
        Die graphische Darstellung der Relevanz erfolgt häufig in Form einer Heatmap:\\
        \includegraphics[width = \textwidth]{validierung_gesichtsklassifikator.png}
        Eine solche Heatmap erlaubt es dem Menschen einzuschätzen, ob die Merkmale, die ein Modell für die Ausgabe verwendet sinnvoll sind.
        Jedoch auch dies nur eingeschränkt, da die Heatmap keine Information darüber gibt, wie die Datenpunkte die Ausgabe beeinflussen.\\
        \includegraphics[width =\textwidth]{heatmap_husky_flute.png}