Lokale Extrema und die Hesse-Matrix
Lesen anpassen
Nach dieser Lektion kannst du
begründen, warum in einem lokalen Extremum im Inneren der Gradient verschwindet, und kritische Punkte berechnen,
die Hesse-Matrix aufstellen und eine Funktion mit der Taylorformel zweiter Ordnung annähern,
über die Definitheit der Hesse-Matrix (Eigenwerte oder im -Fall Determinante und Diagonaleintrag) Minima, Maxima und Sattelpunkte unterscheiden,
erkennen, wann das Kriterium nichts entscheidet, und dann anders argumentieren.
Vorausgesetzt: Totale Differenzierbarkeit und Kettenregel, Taylorpolynome und Taylorformel, Symmetrische Matrizen und der Spektralsatz
Viele Fragen der Anwendung sind Fragen nach dem Kleinsten oder Größten: die Form einer Dose mit wenig Blech, die Gerade, die am besten zu Messpunkten passt, die Lage eines Gleichgewichts mit minimaler Energie. Fast immer hängt die Größe, die optimiert werden soll, von mehreren Zahlen ab.
In Analysis I lautet das Rezept: Ableitung null setzen, dann mit der zweiten Ableitung entscheiden. Gilt und , so liegt ein Minimum vor.
In zwei Veränderlichen reicht es nicht, die beiden Achsenrichtungen getrennt anzusehen. Die Funktion hat im Ursprung waagerechte Tangenten in beiden Achsenrichtungen, und längs der -Achse hat sie dort ein Minimum. Hat sie im Ursprung ein Minimum? Um das zu entscheiden, muss man alle Richtungen auf einmal betrachten. Dafür gibt es die Hesse-Matrix, und hier zahlt sich die lineare Algebra aus: Eigenwerte entscheiden.
Lokale Extrema und kritische Punkte
Sei und . hat in ein lokales Minimum, wenn es ein gibt mit für alle ; ein strenges lokales Minimum, wenn sogar für gilt. Lokales Maximum entsprechend. Minimum und Maximum heißen Extrema.
Ist in partiell differenzierbar und , so heißt ein kritischer Punkt von . Ein kritischer Punkt, in dem kein lokales Extremum vorliegt, heißt Sattelpunkt.
Notwendige Bedingung
Sei offen und in partiell differenzierbar. Hat in ein lokales Extremum, so ist .
Sei etwa ein lokales Minimum, und sei . Weil offen ist, liegt für (mit klein genug) in . Die Funktion einer Veränderlichen hat dann in ein lokales Minimum und ist dort differenzierbar mit . Nach Analysis I ist . Das gilt für jedes , also .
Die Offenheit von wird gebraucht: Auf hat in ein Minimum mit . Am Rand einer Menge muss man Extrema anders suchen.
Für ist . Was liegt im Ursprung vor?
Hesse-Matrix
Sei offen und zweimal stetig partiell differenzierbar. Die Hesse-Matrix von in ist die -Matrix der zweiten partiellen Ableitungen
Nach dem Satz von Schwarz ist sie symmetrisch. Beispiele: hat überall , hat überall .
Taylorformel zweiter Ordnung
Sei offen, zweimal stetig partiell differenzierbar, und . Dann gilt für
Beweisidee: Man schränkt auf die Strecke von nach ein und benutzt die Taylorformel aus Analysis I.
Sei für ; die Strecke liegt in . Die partiellen Ableitungen von und von sind stetig, also sind und alle total differenzierbar, und die Kettenregel gibt
Nach der Taylorformel mit Lagrange-Restglied gibt es mit , also
Der Rest ist . Für eine Matrix ist (Cauchy-Schwarz zweimal). Also ist höchstens die halbe Wurzel aus der Quadratsumme der Einträge von , und die geht wegen der Stetigkeit der zweiten Ableitungen gegen , denn .
Definitheit einer symmetrischen Matrix
Eine symmetrische Matrix heißt
- positiv definit, wenn für alle ,
- negativ definit, wenn für alle ,
- indefinit, wenn für manche positiv und für andere negativ ist,
- positiv (negativ) semidefinit, wenn () für alle .
Aus der linearen Algebra (Spektralsatz): hat eine Orthonormalbasis aus Eigenvektoren mit Eigenwerten . Für ist und . Daraus liest man ab: positiv definit heißt alle , negativ definit alle , indefinit heißt, es gibt Eigenwerte beider Vorzeichen, semidefinit alle (beziehungsweise ). Außerdem gilt mit dem kleinsten Eigenwert .
Kriterium für -Matrizen
Sei symmetrisch. Dann gilt: ist positiv definit genau dann, wenn und ; negativ definit genau dann, wenn und ; indefinit genau dann, wenn . Bei ist semidefinit, aber nicht definit.
Für die Eigenwerte gilt und (Spur).
Ist , haben die Eigenwerte verschiedene Vorzeichen: indefinit. Ist , ist ein Eigenwert : höchstens semidefinit, und für einen Eigenvektor . Ist , haben beide Eigenwerte dasselbe Vorzeichen, und zwar das der Spur. Aus folgt, dass und dasselbe Vorzeichen haben, also hat auch das Vorzeichen von . Damit: positiv definit bei , negativ definit bei ( ist bei unmöglich). Umgekehrt ist bei positiv definitem und ; negativ definit entsprechend.
Hinreichende Bedingung
Sei offen, zweimal stetig partiell differenzierbar und .
- Ist positiv definit, hat in ein strenges lokales Minimum.
- Ist negativ definit, hat in ein strenges lokales Maximum.
- Ist indefinit, ist ein Sattelpunkt.
Beweisidee: Wegen bestimmt der quadratische Term der Taylorformel das Vorzeichen von , solange der Rest kleiner ist.
Minimum. Sei der kleinste Eigenwert von . Nach der Taylorformel und ist
Wähle so, dass für ; das geht wegen . Dann ist für .
Maximum. Wende das auf an.
Sattelpunkt. Sei ein Eigenvektor zu einem Eigenwert , . Für ist , und das ist für kleine positiv, weil . Ebenso gibt ein Eigenvektor zu einem negativen Eigenwert Punkte mit beliebig nahe bei . Also ist kein Extremum.
In einem kritischen Punkt ist . Was liegt vor?
Ein Beispiel mit vier kritischen Punkten
Ein Beispiel mit vier kritischen Punkten
Gesucht sind alle lokalen Extrema von auf . Als Polynom ist zweimal stetig differenzierbar.
Gradient, nach Ausklammern:
Bestimme den kritischen Punkt von und gib den Funktionswert dort an.
Wenn die Hesse-Matrix nur semidefinit ist
Wenn die Hesse-Matrix nur semidefinit ist
Die drei Funktionen
haben im Ursprung den Gradienten und dieselbe Hesse-Matrix , positiv semidefinit mit . Trotzdem:
- hat ein strenges Minimum, denn für .
- hat einen Sattelpunkt: , .
- hat einen Sattelpunkt: wechselt bei das Vorzeichen.
In Richtung des Eigenvektors zum Eigenwert (hier die -Achse) sagt der quadratische Term nichts, und die höheren Terme entscheiden. Dann untersucht man direkt, etwa auf Geraden oder durch Abschätzen.
Nur auf die Diagonale schauen
Nur auf die Diagonale schauen
Im kritischen Punkt sind und . Also steigt in beiden Achsenrichtungen an, und es liegt ein Minimum vor.
Die gemischte Ableitung zählt mit. hat im Ursprung mit : ein Sattelpunkt. Auf der Geraden ist . Entscheidend ist die Definitheit, also im -Fall auch die Determinante.
Determinante null heißt Sattelpunkt
Determinante null heißt Sattelpunkt
Ist , so sei ein Sattelpunkt, oder umgekehrt ein Extremum.
Bei entscheidet das Kriterium nichts. Die Funktionen und haben dieselbe Hesse-Matrix im Ursprung; die eine hat ein Minimum, die andere einen Sattelpunkt. Man muss in der Nähe von selbst untersuchen.
Zusammenfassung
In einem lokalen Extremum im Inneren des Definitionsbereichs ist . Nicht jeder kritische Punkt ist ein Extremum.
Die Hesse-Matrix ist für zweimal stetig differenzierbare symmetrisch.
Taylor zweiter Ordnung: mit .
Im kritischen Punkt: positiv definit gibt ein strenges Minimum, negativ definit ein strenges Maximum, indefinit einen Sattelpunkt.
Definitheit über Eigenwerte, im -Fall über und : und Minimum, und Maximum, Sattel.
Bei semidefiniter Hesse-Matrix () entscheidet das Kriterium nichts, wie , und zeigen.
Extrema unter einer Nebenbedingung erfüllen (Lagrange).
Übungen
Die Funktion hat genau einen kritischen Punkt. Welchen Funktionswert hat dort?
In einem kritischen Punkt ist . Was liegt vor?
Was gilt für im Ursprung?
Die Funktion hat genau ein lokales Minimum. Welchen Funktionswert hat sie dort?
Gib das Taylorpolynom zweiter Ordnung von im Ursprung an.
Bestimme alle kritischen Punkte von und entscheide ihre Art. Welchen Funktionswert hat in seinen lokalen Minima?
Sei offen, zweimal stetig partiell differenzierbar, und habe in ein lokales Minimum. Zeige, dass positiv semidefinit ist.