\chapter{Sub-Gradients}%
\label{cha:Sub-Gradients}
Ein Sub-Gradient wird zur Approximation einer nicht differenzierbaren konvexen Funktion verwendet.
Für jede konvexe Funktion $f$ an einer Stelle $\bm x$ kann ein Gradient $\bm g$ gefunden werden,
für den $f(\bm z)\ge f(\bm x) + \bm g^T(\bm z - \bm x)$ gilt
(in anderen Worten: Man kann eine lineare Funktion bilden, die immer unterhalb der konvexen Funktion liegt).
Für Differenzierbare Funktionen ist der Gradient das gleiche wie die Ableitung ($\bm g = \nabla f(\bm x)$).
