18 lines
1.2 KiB
TeX
18 lines
1.2 KiB
TeX
\chapter{Erklärbarkeit}
|
|
\label{erklaerbarkeit}
|
|
Das Ziel der Erklärbarkeit ist es genügend Informationen über ein System zu sammeln, um eine Entscheidung des Systems erklären zu können.
|
|
|
|
\section{Verfahren}
|
|
\label{erklaerbarkeit: verfahren}
|
|
\includegraphics[width = \textwidth]{black-box_explanations.png}
|
|
|
|
\section{Heatmaps}
|
|
\label{erklaerbarkeit: heatmaps}
|
|
Mithilfe der \say{Layer-Wise Relevance Propagation} ist es möglich herauszufinden,
|
|
welche Eigenschaften der Eingabe einen großen bzw. kleinen Einfluss auf die Ausgabe gehabt haben.\\
|
|
\includegraphics[width = .8\textwidth]{layer-wise_relevance_propagation.png}\\
|
|
Die graphische Darstellung der Relevanz erfolgt häufig in Form einer Heatmap:\\
|
|
\includegraphics[width = \textwidth]{validierung_gesichtsklassifikator.png}
|
|
Eine solche Heatmap erlaubt es dem Menschen einzuschätzen, ob die Merkmale, die ein Modell für die Ausgabe verwendet sinnvoll sind.
|
|
Jedoch auch dies nur eingeschränkt, da die Heatmap keine Information darüber gibt, wie die Datenpunkte die Ausgabe beeinflussen.\\
|
|
\includegraphics[width =\textwidth]{heatmap_husky_flute.png} |