diff --git a/Content.tex b/Content.tex index 304ed07..63f8712 100644 --- a/Content.tex +++ b/Content.tex @@ -7,4 +7,5 @@ \input{parts/Optimierung.tex} \input{parts/Logik.tex} \input{parts/Maschinelles Lernen.tex} -\input{parts/Semi-supervised Learning.tex} \ No newline at end of file +\input{parts/Semi-supervised Learning.tex} +\input{parts/Problematiken.tex} \ No newline at end of file diff --git a/chapters/Problematiken/Erklärbarkeit.tex b/chapters/Problematiken/Erklärbarkeit.tex new file mode 100644 index 0000000..710014c --- /dev/null +++ b/chapters/Problematiken/Erklärbarkeit.tex @@ -0,0 +1,18 @@ +\chapter{Erklärbarkeit} +\label{erklaerbarkeit} + Das Ziel der Erklärbarkeit ist es genügend Informationen über ein System zu sammeln, um eine Entscheidung des Systems erklären zu können. + + \section{Verfahren} + \label{erklaerbarkeit: verfahren} + \includegraphics[width = \textwidth]{black-box_explanations.png} + + \section{Heatmaps} + \label{erklaerbarkeit: heatmaps} + Mithilfe der \say{Layer-Wise Relevance Propagation} ist es möglich herauszufinden, + welche Eigenschaften der Eingabe einen großen bzw. kleinen Einfluss auf die Ausgabe gehabt haben.\\ + \includegraphics[width = .8\textwidth]{layer-wise_relevance_propagation.png}\\ + Die graphische Darstellung der Relevanz erfolgt häufig in Form einer Heatmap:\\ + \includegraphics[width = \textwidth]{validierung_gesichtsklassifikator.png} + Eine solche Heatmap erlaubt es dem Menschen einzuschätzen, ob die Merkmale, die ein Modell für die Ausgabe verwendet sinnvoll sind. + Jedoch auch dies nur eingeschränkt, da die Heatmap keine Information darüber gibt, wie die Datenpunkte die Ausgabe beeinflussen.\\ + \includegraphics[width =\textwidth]{heatmap_husky_flute.png} \ No newline at end of file diff --git a/chapters/Problematiken/Zuverlässigkeit und Vertrauen.tex b/chapters/Problematiken/Zuverlässigkeit und Vertrauen.tex new file mode 100644 index 0000000..a2249b6 --- /dev/null +++ b/chapters/Problematiken/Zuverlässigkeit und Vertrauen.tex @@ -0,0 +1,26 @@ +\chapter{Zuverlässigkeit und Vertrauen} +\label{zuverlaessigkeit und vertrauen} + Da viele \ac{ML}-Modelle (\ref{ml}) als Blackbox-Modelle implementiert sind ist es schwer (bis unmöglich) sie zu verifizieren. + Dies kann entweder daran liegen, dass sie zu kompliziert sind um vom Menschen verstanden zu werden oder daran, dass ihr Inhalt proprietär ist. + Dies macht es wiederum sehr schwer Fehlern nachzugehen. + Manche dieser Fehler können fatale Folgen haben: + \begin{itemize} + \item Produktionsausfall (durch unentdeckten Systemfehler) + \item Rechtliche Konsequenzen (z.B. durch diskriminierende Bewertung (meist durch schlechte Wahl der Trainingsdaten (\ref{bias}))) + \item Gefahr für Menschen (z.B. Auto erkennt Fußgänger nicht) + \item \dots + \end{itemize} + Folglich muss ein System, dem vertraut werden soll, Informationen über den internen Algorithmus geben. + + \section{Zertifizierung von \ac{KI}} + \label{zertifizierung ki} + Mithilfe von Zertifizierungen, die von einer unabhängigen stelle ausgestellt werden, + kann eine Übersicht über die Zuverlässigkeit einzelner \acp{KI} erstellt werden. + Dies hat mehrere Vorteile: + \begin{itemize} + \item Eine Zertifizierung macht zuverlässige und sichere Technologien erkennbar + \item Eine Zertifizierung leistet einen Beitrag zur Akzeptanz von \ac{KI} in der Gesellschaft + \end{itemize} + + \paragraph{Handlungsfelder einer Zertifizierung}\mbox{}\\ + \includegraphics[width = \textwidth]{handlungsfelder_zertifizierungen.png} diff --git a/images/black-box_explanations.png b/images/black-box_explanations.png new file mode 100644 index 0000000..5e6abef Binary files /dev/null and b/images/black-box_explanations.png differ diff --git a/images/handlungsfelder_zertifizierungen.png b/images/handlungsfelder_zertifizierungen.png new file mode 100644 index 0000000..257cbfd Binary files /dev/null and b/images/handlungsfelder_zertifizierungen.png differ diff --git a/images/heatmap_husky_flute.png b/images/heatmap_husky_flute.png new file mode 100644 index 0000000..9cd69ce Binary files /dev/null and b/images/heatmap_husky_flute.png differ diff --git a/images/layer-wise_relevance_propagation.png b/images/layer-wise_relevance_propagation.png new file mode 100644 index 0000000..22cacb6 Binary files /dev/null and b/images/layer-wise_relevance_propagation.png differ diff --git a/images/validierung_gesichtsklassifikator.png b/images/validierung_gesichtsklassifikator.png new file mode 100644 index 0000000..e84ce18 Binary files /dev/null and b/images/validierung_gesichtsklassifikator.png differ diff --git a/parts/Problematiken.tex b/parts/Problematiken.tex new file mode 100644 index 0000000..8b6d2ac --- /dev/null +++ b/parts/Problematiken.tex @@ -0,0 +1,5 @@ +\part{Problematiken} +\label{problematiken} + +\input{chapters/Problematiken/Zuverlässigkeit und Vertrauen.tex} +\input{chapters/Problematiken/Erklärbarkeit.tex} \ No newline at end of file