Lektion 2.5

Lokale Extrema und die Hesse-Matrix

45 min Lesezeit
Lesen anpassen

Nach dieser Lektion kannst du

  • begründen, warum in einem lokalen Extremum im Inneren der Gradient verschwindet, und kritische Punkte berechnen,

  • die Hesse-Matrix aufstellen und eine Funktion mit der Taylorformel zweiter Ordnung annähern,

  • über die Definitheit der Hesse-Matrix (Eigenwerte oder im 2×22 \times 2-Fall Determinante und Diagonaleintrag) Minima, Maxima und Sattelpunkte unterscheiden,

  • erkennen, wann das Kriterium nichts entscheidet, und dann anders argumentieren.

Vorausgesetzt: Totale Differenzierbarkeit und Kettenregel, Taylorpolynome und Taylorformel, Symmetrische Matrizen und der Spektralsatz

Viele Fragen der Anwendung sind Fragen nach dem Kleinsten oder Größten: die Form einer Dose mit wenig Blech, die Gerade, die am besten zu Messpunkten passt, die Lage eines Gleichgewichts mit minimaler Energie. Fast immer hängt die Größe, die optimiert werden soll, von mehreren Zahlen ab.

In Analysis I lautet das Rezept: Ableitung null setzen, dann mit der zweiten Ableitung entscheiden. Gilt f′(a)=0f'(a) = 0 und f′′(a)>0f''(a) > 0, so liegt ein Minimum vor.

In zwei Veränderlichen reicht es nicht, die beiden Achsenrichtungen getrennt anzusehen. Die Funktion f(x,y)=x2−y2f(x, y) = x^2 - y^2 hat im Ursprung waagerechte Tangenten in beiden Achsenrichtungen, und längs der xx-Achse hat sie dort ein Minimum. Hat sie im Ursprung ein Minimum? Um das zu entscheiden, muss man alle Richtungen auf einmal betrachten. Dafür gibt es die Hesse-Matrix, und hier zahlt sich die lineare Algebra aus: Eigenwerte entscheiden.

Definition

Lokale Extrema und kritische Punkte

Sei D⊆RnD \subseteq \mathbb{R}^n und f ⁣:D→Rf\colon D \to \mathbb{R}. ff hat in a∈Da \in D ein lokales Minimum, wenn es ein r>0r > 0 gibt mit f(x)≥f(a)f(x) \geq f(a) für alle x∈D∩Br(a)x \in D \cap B_r(a); ein strenges lokales Minimum, wenn sogar f(x)>f(a)f(x) > f(a) für x≠ax \neq a gilt. Lokales Maximum entsprechend. Minimum und Maximum heißen Extrema.

Ist ff in aa partiell differenzierbar und ∇f(a)=0\nabla f(a) = 0, so heißt aa ein kritischer Punkt von ff. Ein kritischer Punkt, in dem kein lokales Extremum vorliegt, heißt Sattelpunkt.

Satz

Notwendige Bedingung

Sei D⊆RnD \subseteq \mathbb{R}^n offen und f ⁣:D→Rf\colon D \to \mathbb{R} in aa partiell differenzierbar. Hat ff in aa ein lokales Extremum, so ist ∇f(a)=0\nabla f(a) = 0.

Vermute zuerst

Für f(x,y)=x2−y2f(x, y) = x^2 - y^2 ist ∇f(0,0)=(0,0)\nabla f(0, 0) = (0, 0). Was liegt im Ursprung vor?

Definition

Hesse-Matrix

Sei D⊆RnD \subseteq \mathbb{R}^n offen und f ⁣:D→Rf\colon D \to \mathbb{R} zweimal stetig partiell differenzierbar. Die Hesse-Matrix von ff in aa ist die n×nn \times n-Matrix der zweiten partiellen Ableitungen

Hf(a)=(∂i∂jf(a))i,j=1,…,n,fu¨r n=2:Hf(a)=(fxx(a)fxy(a)fyx(a)fyy(a)).H_f(a) = \bigl(\partial_i \partial_j f(a)\bigr)_{i,j = 1, \dots, n}, \qquad \text{für } n = 2: \quad H_f(a) = \begin{pmatrix} f_{xx}(a) & f_{xy}(a) \\ f_{yx}(a) & f_{yy}(a) \end{pmatrix}.

Nach dem Satz von Schwarz ist sie symmetrisch. Beispiele: x2+y2x^2 + y^2 hat überall H=(2002)H = \begin{pmatrix} 2 & 0 \\ 0 & 2\end{pmatrix}, x2−y2x^2 - y^2 hat überall H=(200−2)H = \begin{pmatrix} 2 & 0 \\ 0 & -2\end{pmatrix}.

Satz

Taylorformel zweiter Ordnung

Sei D⊆RnD \subseteq \mathbb{R}^n offen, f ⁣:D→Rf\colon D \to \mathbb{R} zweimal stetig partiell differenzierbar, a∈Da \in D und Br(a)⊆DB_r(a) \subseteq D. Dann gilt für ∥h∥<r\|h\| < r

f(a+h)=f(a)+⟨∇f(a),h⟩+12 hTHf(a) h+R(h)mitR(h)∥h∥2→0 (h→0).f(a + h) = f(a) + \langle \nabla f(a), h \rangle + \tfrac{1}{2}\, h^T H_f(a)\, h + R(h) \quad \text{mit} \quad \frac{R(h)}{\|h\|^2} \to 0 \ (h \to 0).
Definition

Definitheit einer symmetrischen Matrix

Eine symmetrische Matrix A∈Rn×nA \in \mathbb{R}^{n \times n} heißt

  • positiv definit, wenn hTAh>0h^T A h > 0 für alle h≠0h \neq 0,
  • negativ definit, wenn hTAh<0h^T A h < 0 für alle h≠0h \neq 0,
  • indefinit, wenn hTAhh^T A h für manche hh positiv und für andere negativ ist,
  • positiv (negativ) semidefinit, wenn hTAh≥0h^T A h \geq 0 (≤0\leq 0) für alle hh.

Aus der linearen Algebra (Spektralsatz): AA hat eine Orthonormalbasis v1,…,vnv_1, \dots, v_n aus Eigenvektoren mit Eigenwerten λ1,…,λn\lambda_1, \dots, \lambda_n. Für h=∑civih = \sum c_i v_i ist hTAh=∑λici2h^T A h = \sum \lambda_i c_i^2 und ∥h∥2=∑ci2\|h\|^2 = \sum c_i^2. Daraus liest man ab: positiv definit heißt alle λi>0\lambda_i > 0, negativ definit alle λi<0\lambda_i < 0, indefinit heißt, es gibt Eigenwerte beider Vorzeichen, semidefinit alle λi≥0\lambda_i \geq 0 (beziehungsweise ≤0\leq 0). Außerdem gilt hTAh≥λmin⁡∥h∥2h^T A h \geq \lambda_{\min} \|h\|^2 mit dem kleinsten Eigenwert λmin⁡\lambda_{\min}.

Satz

Kriterium für 2×22 \times 2-Matrizen

Sei A=(pqqs)A = \begin{pmatrix} p & q \\ q & s \end{pmatrix} symmetrisch. Dann gilt: AA ist positiv definit genau dann, wenn p>0p > 0 und det⁡A=ps−q2>0\det A = ps - q^2 > 0; negativ definit genau dann, wenn p<0p < 0 und det⁡A>0\det A > 0; indefinit genau dann, wenn det⁡A<0\det A < 0. Bei det⁡A=0\det A = 0 ist AA semidefinit, aber nicht definit.

Satz

Hinreichende Bedingung

Sei D⊆RnD \subseteq \mathbb{R}^n offen, f ⁣:D→Rf\colon D \to \mathbb{R} zweimal stetig partiell differenzierbar und ∇f(a)=0\nabla f(a) = 0.

  • Ist Hf(a)H_f(a) positiv definit, hat ff in aa ein strenges lokales Minimum.
  • Ist Hf(a)H_f(a) negativ definit, hat ff in aa ein strenges lokales Maximum.
  • Ist Hf(a)H_f(a) indefinit, ist aa ein Sattelpunkt.
Kurz geprüft

In einem kritischen Punkt aa ist Hf(a)=(−311−2)H_f(a) = \begin{pmatrix} -3 & 1 \\ 1 & -2 \end{pmatrix}. Was liegt vor?

Schritt für Schritt

Ein Beispiel mit vier kritischen Punkten

Gesucht sind alle lokalen Extrema von f(x,y)=xy(x+y−3)=x2y+xy2−3xyf(x, y) = xy(x + y - 3) = x^2 y + xy^2 - 3xy auf R2\mathbb{R}^2. Als Polynom ist ff zweimal stetig differenzierbar.

  1. Gradient, nach Ausklammern:

    fx=2xy+y2−3y=y (2x+y−3),fy=x2+2xy−3x=x (x+2y−3).f_x = 2xy + y^2 - 3y = y\,(2x + y - 3), \qquad f_y = x^2 + 2xy - 3x = x\,(x + 2y - 3).
Schritt 1 von 6
Kurz geprüft

Bestimme den kritischen Punkt von f(x,y)=x2+xy+y2−3xf(x, y) = x^2 + xy + y^2 - 3x und gib den Funktionswert dort an.

Beispiel

Wenn die Hesse-Matrix nur semidefinit ist

Die drei Funktionen

f1(x,y)=x2+y4,f2(x,y)=x2−y4,f3(x,y)=x2+y3f_1(x, y) = x^2 + y^4, \qquad f_2(x, y) = x^2 - y^4, \qquad f_3(x, y) = x^2 + y^3

haben im Ursprung den Gradienten 00 und dieselbe Hesse-Matrix H=(2000)H = \begin{pmatrix} 2 & 0 \\ 0 & 0 \end{pmatrix}, positiv semidefinit mit det⁡H=0\det H = 0. Trotzdem:

  • f1f_1 hat ein strenges Minimum, denn f1(x,y)>0f_1(x, y) > 0 für (x,y)≠0(x, y) \neq 0.
  • f2f_2 hat einen Sattelpunkt: f2(t,0)=t2>0f_2(t, 0) = t^2 > 0, f2(0,t)=−t4<0f_2(0, t) = -t^4 < 0.
  • f3f_3 hat einen Sattelpunkt: f3(0,t)=t3f_3(0, t) = t^3 wechselt bei t=0t = 0 das Vorzeichen.

In Richtung des Eigenvektors zum Eigenwert 00 (hier die yy-Achse) sagt der quadratische Term nichts, und die höheren Terme entscheiden. Dann untersucht man ff direkt, etwa auf Geraden oder durch Abschätzen.

Häufige Fehler

Nur auf die Diagonale schauen

Im kritischen Punkt sind fxx>0f_{xx} > 0 und fyy>0f_{yy} > 0. Also steigt ff in beiden Achsenrichtungen an, und es liegt ein Minimum vor.

Richtig ist

Die gemischte Ableitung zählt mit. f(x,y)=x2+3xy+y2f(x, y) = x^2 + 3xy + y^2 hat im Ursprung H=(2332)H = \begin{pmatrix} 2 & 3 \\ 3 & 2 \end{pmatrix} mit det⁡H=4−9=−5<0\det H = 4 - 9 = -5 < 0: ein Sattelpunkt. Auf der Geraden y=−xy = -x ist f(x,−x)=−x2<0f(x, -x) = -x^2 < 0. Entscheidend ist die Definitheit, also im 2×22 \times 2-Fall auch die Determinante.

Häufige Fehler

Determinante null heißt Sattelpunkt

Ist det⁡Hf(a)=0\det H_f(a) = 0, so sei aa ein Sattelpunkt, oder umgekehrt ein Extremum.

Richtig ist

Bei det⁡Hf(a)=0\det H_f(a) = 0 entscheidet das Kriterium nichts. Die Funktionen x2+y4x^2 + y^4 und x2−y4x^2 - y^4 haben dieselbe Hesse-Matrix im Ursprung; die eine hat ein Minimum, die andere einen Sattelpunkt. Man muss ff in der Nähe von aa selbst untersuchen.

Zusammenfassung

  • In einem lokalen Extremum im Inneren des Definitionsbereichs ist ∇f(a)=0\nabla f(a) = 0. Nicht jeder kritische Punkt ist ein Extremum.

  • Die Hesse-Matrix Hf(a)=(∂i∂jf(a))H_f(a) = (\partial_i\partial_j f(a)) ist für zweimal stetig differenzierbare ff symmetrisch.

  • Taylor zweiter Ordnung: f(a+h)=f(a)+⟨∇f(a),h⟩+12hTHf(a)h+R(h)f(a + h) = f(a) + \langle \nabla f(a), h\rangle + \frac{1}{2}h^T H_f(a) h + R(h) mit R(h)∥h∥2→0\frac{R(h)}{\|h\|^2} \to 0.

  • Im kritischen Punkt: positiv definit gibt ein strenges Minimum, negativ definit ein strenges Maximum, indefinit einen Sattelpunkt.

  • Definitheit über Eigenwerte, im 2×22\times 2-Fall über det⁡H\det H und fxxf_{xx}: det⁡H>0\det H > 0 und fxx>0f_{xx} > 0 Minimum, det⁡H>0\det H > 0 und fxx<0f_{xx} < 0 Maximum, det⁡H<0\det H < 0 Sattel.

  • Bei semidefiniter Hesse-Matrix (det⁡H=0\det H = 0) entscheidet das Kriterium nichts, wie x2+y4x^2 + y^4, x2−y4x^2 - y^4 und x2+y3x^2 + y^3 zeigen.

  • Extrema unter einer Nebenbedingung g=0g = 0 erfüllen ∇f=λ∇g\nabla f = \lambda \nabla g (Lagrange).

Übungen

Aufgabe 1Numerisch

Die Funktion f(x,y)=x2+4y2−2x+8yf(x, y) = x^2 + 4y^2 - 2x + 8y hat genau einen kritischen Punkt. Welchen Funktionswert hat ff dort?

Aufgabe 2Multiple Choice

In einem kritischen Punkt ist Hf(a)=(1221)H_f(a) = \begin{pmatrix} 1 & 2 \\ 2 & 1 \end{pmatrix}. Was liegt vor?

Aufgabe 3Multiple Choice

Was gilt für f(x,y)=x4+y2f(x, y) = x^4 + y^2 im Ursprung?

Aufgabe 4Numerisch

Die Funktion f(x,y)=x3−6xy+3y2f(x, y) = x^3 - 6xy + 3y^2 hat genau ein lokales Minimum. Welchen Funktionswert hat sie dort?

Aufgabe 5Term eingeben

Gib das Taylorpolynom zweiter Ordnung f(0,0)+⟨∇f(0,0),(x,y)⟩+12(x,y) Hf(0,0) (x,y)Tf(0,0) + \langle \nabla f(0,0), (x,y)\rangle + \frac{1}{2}(x, y)\,H_f(0,0)\,(x,y)^T von f(x,y)=excos⁡yf(x, y) = e^x \cos y im Ursprung an.

Potenzen mit ^, Wurzel als sqrt(x), Brüche mit / und Klammern.

Aufgabe 6Numerisch

Bestimme alle kritischen Punkte von f(x,y)=x4+y4−4xyf(x, y) = x^4 + y^4 - 4xy und entscheide ihre Art. Welchen Funktionswert hat ff in seinen lokalen Minima?

Aufgabe 7Freitext

Sei D⊆RnD \subseteq \mathbb{R}^n offen, f ⁣:D→Rf\colon D \to \mathbb{R} zweimal stetig partiell differenzierbar, und ff habe in a∈Da \in D ein lokales Minimum. Zeige, dass Hf(a)H_f(a) positiv semidefinit ist.