In der mathematischen Optimierung stellt die Methode von Vermehrern von Lagrange (genannt nach Joseph Louis Lagrange) eine Strategie zur Verfügung, für die lokalen Maxima und Minima eines Funktionsthemas Gleichheitseinschränkungen zu finden.

Zum Beispiel (sieh Abbildung 1), denken Sie das Optimierungsproblem

:maximize

:subject zu

Wir führen eine neue Variable ein hat einen Vermehrer von Lagrange genannt, und studieren Sie die durch definierte Funktion von Lagrange

:

wo der Begriff entweder hinzugefügt oder abgezogen werden kann. Wenn ein Maximum für das ursprüngliche gezwungene Problem ist, dann dort besteht solch, der ein stationärer Punkt für die Funktion von Lagrange ist (stationäre Punkte sind jene Punkte, wo die partiellen Ableitungen von Λ Null sind). Jedoch geben nicht alle stationären Punkte eine Lösung des ursprünglichen Problems nach. So gibt die Methode von Vermehrern von Lagrange eine notwendige Bedingung für optimality in gezwungenen Problemen nach. Genügend Bedingungen für ein Minimum oder Maximum bestehen auch.

Einführung

Eines von den meisten häufigen Problemen in der Rechnung ist das der Entdeckung von Maxima oder Minima (im Allgemeinen, "extrema") von einer Funktion, aber es ist häufig schwierig, eine geschlossene Form für die Funktion zu finden, die extremized ist. Solche Schwierigkeiten entstehen häufig, wenn man maximieren oder ein Funktionsthema festen Außenbedingungen oder Einschränkungen minimieren möchte. Die Methode von Vermehrern von Lagrange ist ein starkes Werkzeug, um diese Klasse von Problemen ohne das Bedürfnis zu lösen, die Bedingungen ausführlich zu lösen und sie zu verwenden, um Extravariablen zu beseitigen.

Betrachten Sie das zweidimensionale Problem als eingeführt oben:

:maximize:subject zu

Wir können uns Konturen von durch gegebenem f vergegenwärtigen

:

für verschiedene Werte, und die Kontur von gegebenen dadurch.

Nehmen Sie an, dass wir entlang der Höhenlinie damit spazieren gehen. Im Allgemeinen können die Höhenlinien dessen und verschieden sein, so im Anschluss an die Höhenlinie für konnte man sich damit schneiden oder die Höhenlinien dessen durchqueren. Das ist zum Ausspruch gleichwertig, dass, während sie vorankommt, sich die Höhenlinie für den Wert ändern kann. Nur wenn die Höhenlinie dafür Höhenlinien tangential entspricht, tun Sie wir nicht vergrößern oder vermindern den Wert — d. h. wenn sich die Höhenlinien berühren, aber sich nicht treffen.

Die Höhenlinien von f und g berühren sich, wenn die Tangente-Vektoren der Höhenlinien parallel sind. Da der Anstieg einer Funktion auf den Höhenlinien rechtwinklig ist, ist das dasselbe, sagend dass die Anstiege von f und g parallel sind. So wollen wir Punkte wo und

:

wo

:

und

:

sind die jeweiligen Anstiege. Die Konstante ist erforderlich, weil, obwohl die zwei Anstieg-Vektoren parallel sind, die Umfänge der Anstieg-Vektoren allgemein nicht gleich sind.

Um diese Bedingungen in eine Gleichung zu vereinigen, führen wir eine Hilfsfunktion ein

:

und lösen Sie

:

Das ist die Methode von Vermehrern von Lagrange. Bemerken Sie, dass das einbezieht.

Nicht notwendigerweise extrema

Die gezwungenen extrema dessen sind kritische Punkte von Lagrangian, aber sie sind nicht lokaler extrema dessen (sieh Beispiel 2 unten).

Man kann Lagrangian als Hamiltonian wiederformulieren, in welchem Fall die Lösungen lokale Minima für Hamiltonian sind. Das wird in der optimalen Steuerungstheorie in der Form des minimalen Grundsatzes von Pontryagin getan.

Die Tatsache, dass Lösungen von Lagrangian nicht notwendigerweise extrema auch sind, stellt Schwierigkeiten für die numerische Optimierung auf. Das kann durch die Computerwissenschaft des Umfangs des Anstiegs gerichtet werden, weil die Nullen des Umfangs notwendigerweise lokale Minima, wie illustriert, in sind.

Das Berühren vielfacher Einschränkungen

zwei Einschränkungslinien schneiden sich, um eine "gemeinsame" Einschränkung zu bilden, die ein Punkt ist. Da es nur einen Punkt gibt, um, der entsprechende Punkt zu analysieren

auf dem paraboloid ist automatisch ein Minimum und Maximum. Und doch scheint das vereinfachte Denken, das in Abteilungen oben präsentiert ist

um zu scheitern, weil der Niveau-Satz bestimmt scheint, den Punkt und zur gleichen Zeit "zu durchqueren", ist sein Anstieg zu den Anstiegen von nicht parallel

jede Einschränkung. Das zeigt, dass wir unsere Erklärung der Methode raffinieren müssen, die Arten von Einschränkungen zu behandeln, die gebildet werden, wenn wir haben

mehr als eine Einschränkung, die sofort handelt.]]

Die Methode von Vermehrern von Lagrange kann auch vielfache Einschränkungen anpassen. Um zu sehen, wie das getan wird, müssen wir das Problem in einem nochmals prüfen

ein bisschen verschiedene Weise, weil das Konzept, "sich" besprochen "zu treffen", oben schnell unklar wird, wenn wir die Typen von Einschränkungen denken

das wird geschaffen, wenn wir mehr als eine Einschränkung haben, die zusammen handelt.

Als ein Beispiel, denken Sie einen paraboloid mit einer Einschränkung, die ein einzelner Punkt ist (wie geschaffen werden könnte, wenn wir 2 Linieneinschränkungen hatten

das schneidet sich). Der Niveau-Satz (d. h., Höhenlinie) scheint klar, diesen Punkt "zu durchqueren", und sein Anstieg ist klar nicht passen an

zu den Anstiegen von jeder der zwei Linieneinschränkungen. Und doch ist es offensichtlich ein Maximum und ein Minimum, weil es nur einen Punkt gibt

auf dem paraboloid, der die Einschränkung entspricht.

Während dieses Beispiel ein bisschen seltsam scheint, ist es leicht zu verstehen und ist die Sorte "der wirksamen" Einschränkung vertretend, die erscheint

ganz häufig, wenn wir uns mit dem vielfachen Einschränkungsschneiden befassen. So nehmen wir eine ein bisschen verschiedene Annäherung unten, um zu erklären und abzuleiten

die Lagrange Vermehrer-Methode mit jeder Zahl von Einschränkungen.

Überall in dieser Abteilung werden die unabhängigen Variablen durch und, als eine Gruppe, angezeigt

wir werden sie als anzeigen. Außerdem wird die Funktion, die wird analysiert, angezeigt

durch und die Einschränkungen wird durch die Gleichungen vertreten.

Die Grundidee bleibt im Wesentlichen dasselbe: Wenn wir nur die Punkte denken, die die Einschränkungen befriedigen (d. h. in den Einschränkungen sind),

dann ist ein Punkt ein stationärer Punkt (d. h. ein Punkt in einem "flachen" Gebiet) von f wenn

und nur wenn die Einschränkungen an diesem Punkt Bewegung in einer Richtung nicht erlauben, wo f Wert ändert.

Sobald wir die stationären Punkte ausfindig gemacht haben, müssen wir weitere Tests tun, um zu sehen, ob wir ein Minimum, ein Maximum oder gerade einen stationären gefunden haben

Punkt, der keiner ist.

Wir fangen an, indem wir den Niveau-Satz von f daran denken. Der Satz von Vektoren

das Enthalten der Richtungen, in denen wir uns bewegen und noch in demselben Niveau-Satz bleiben können, ist der

Richtungen, wo sich der Wert von f nicht ändert (d. h. die Änderung kommt Null gleich). So, für jeden Vektoren

v in muss die folgende Beziehung halten:

:

wo die Notation oben - Bestandteil des Vektoren v bedeutet.

Die Gleichung kann oben in einer kompakteren geometrischen Form umgeschrieben werden, die unserer Intuition hilft:

:

\underbrace {\\beginnen {Matrix-}\

\left [\begin {Matrix-}\

\frac {df} {dx_ {1}} \\

\frac {df} {dx_ {2}} \\

\vdots \\

\frac {df} {dx_ {N}} \\

\end {Matrix} \right] \\

{} \\

\end {Matrix}} _ {\\nabla f\& \centerdot & \underbrace {\\beginnen {Matrix-}\

\left [\begin {Matrix-}\

v_ {x_ {1}} \\

v_ {x_ {2}} \\

\vdots \\

v_ {x_ {N}} \\

\end {Matrix} \right] \\ {} \\

\end {Matrix}} _ {v} & = \, \, 0 \\

\end {Matrix-}\\, \, \, \, \, \, \, \, \, \, \, \, \Rightarrow \, \, \, \, \, \, \, \, \nabla f \, \, \,\centerdot \, \, \, \, v \, \, = \, \, \, 0 </Mathematik>

Das macht dass verständlich, wenn wir an p, dann alle Richtungen von diesem Punkt sind, die den Wert von nicht ändern

f muss auf (der Anstieg von f an p) rechtwinklig sein.

Lassen Sie uns jetzt die Wirkung der Einschränkungen denken. Jede Einschränkung beschränkt die Richtungen, die wir von einem besonderen Punkt bewegen können

und befriedigen Sie noch die Einschränkung. Wir können dasselbe Verfahren verwenden, um nach dem Satz von Vektoren zu suchen

die Richtungen enthaltend, in denen wir bewegen und noch die Einschränkung befriedigen können. Als oben, für jeden Vektoren

v in muss die folgende Beziehung halten::

Davon sehen wir, dass am Punkt p alle Richtungen von diesem Punkt, der noch diese Einschränkung befriedigen wird, sein müssen

Senkrechte dazu.

Jetzt sind wir bereit, unsere Idee weiter zu raffinieren und die Methode zu vollenden: Ein Punkt auf f ist ein gezwungener stationärer Punkt, wenn, und nur wenn die Richtung, die f ändert, mindestens eine der Einschränkungen verletzt. (Wir können sehen, dass das weil wenn ein wahr

ist

Richtung, die f ändert, hat keine Einschränkungen verletzt, dann dort würde ein "gesetzlicher" Punkt in der Nähe mit einem höheren oder niedrigeren

der Wert für f und den aktuellen Punkt würde dann kein stationärer Punkt sein.)

Einzelne Einschränkung wieder besucht

Für eine einzelne Einschränkung verwenden wir die Behauptung oben, um zu sagen, dass an stationären Punkten die Richtung, die f ändert, in derselben Richtung ist

das verletzt die Einschränkung. Um zu bestimmen, ob zwei Vektoren in derselben Richtung sind, bemerken wir das, wenn zwei Vektoren von demselben anfangen

weisen Sie hin, und sind "in derselben Richtung" dann kann ein Vektor immer anderen durch das Ändern seiner Länge und/oder das Schnipsen "erreichen", um den anzuspitzen

entgegengesetzter Weg entlang derselben Richtungslinie. Auf diese Weise können wir kurz und bündig feststellen, dass zwei Vektoren in derselben Richtung wenn und hinweisen

nur wenn einer von ihnen mit einer solcher reellen Zahl multipliziert werden kann, dass sie gleich dem anderen werden. Also, zu unseren Zwecken verlangen wir dass:

:

Wenn wir jetzt eine andere gleichzeitige Gleichung hinzufügen, um zu versichern, dass wir nur diesen Test durchführen, wenn wir an einem Punkt sind, der den befriedigt

Einschränkung, wir enden mit 2 gleichzeitigen Gleichungen, dass, wenn gelöst, alle gezwungenen stationären Punkte identifizieren Sie:

:

g\left (p \right) =0 & \text {Mittel-Punkt befriedigt Einschränkung} \\

\nabla f\left (p \right)-\lambda \\nabla g\left (p \right) = 0 & \text {ist Mittel-Punkt ein stationärer Punkt }\

\end {Fälle }\

</Mathematik>

Bemerken Sie, dass der obengenannte eine kurz gefasste Weise ist, die Gleichungen zu schreiben. Völlig ausgebreitet gibt es

gleichzeitige Gleichungen, die sein müssen

gelöst für den

Variablen, die sind und:

:

g\left (x_1, x_2, \ldots, x_N \right) & =0 \\

\frac {df} {dx_1 }\\ist (x_1, x_2, \ldots, x_N \right) - \lambda \frac {dg} {dx_1 }\\link (x_1, x_2, \ldots, x_N \right) & = 0 \\abgereist

\frac {df} {dx_2 }\\ist (x_1, x_2, \ldots, x_N \right) - \lambda \frac {dg} {dx_2 }\\link (x_1, x_2, \ldots, x_N \right) & = 0 \\abgereist

& {}\\\\vdots \\

\frac {df} {dx_N }\\ist (x_1, x_2, \ldots x_N \right) - \lambda \frac {dg} {dx_N }\\link (x_1, x_2, \ldots, x_N \right) & = 0 abgereist

\end {richten }\aus

</Mathematik>

Vielfache Einschränkungen

Für mehr als eine Einschränkung gilt dasselbe Denken. Wenn es mehr als eine Einschränkung aktiv zusammen, jede Einschränkung gibt

trägt eine Richtung bei, die es verletzen wird. Zusammen bilden diese "Übertretungsrichtungen" einen "Übertretungsraum", wo unendlich klein

,

die Bewegung in jeder Richtung innerhalb des Raums wird eine oder mehr Einschränkungen verletzen. So, um vielfache Einschränkungen zu befriedigen, können wir festsetzen

(diese neue Fachsprache verwendend), dass an den stationären Punkten die Richtung, die f ändert, im "Übertretungsraum ist, der" durch den geschaffen ist

Einschränkungen, die gemeinsam handeln.

Der durch die Einschränkungen geschaffene Übertretungsraum besteht aus allen Punkten, die durch das Hinzufügen jeder Kombination von schuppigem erreicht werden können

und/oder hat Versionen der individuellen Übertretungsrichtungsvektoren geschnipst. Mit anderen Worten, alle Punkte, die wenn "erreichbar"

sind

wir verwenden die individuellen Übertretungsrichtungen als die Basis des Raums. So können wir kurz und bündig feststellen, dass v in definiertem des Raums ist

durch wenn und nur wenn dort eine Reihe von solchen "Vermehrern" dass besteht:

:

den zu unseren Zwecken, zum Angeben übersetzt, dass die Richtung, die f an p ändert, im "Übertretungsraum ist, der" durch den definiert ist

Einschränkungen wenn und nur wenn:

:

Wie zuvor fügen wir jetzt gleichzeitige Gleichung hinzu, um zu versichern, dass wir nur diesen Test durchführen, wenn wir an einem Punkt sind, der jeden befriedigt

Einschränkung, wir enden mit gleichzeitigen Gleichungen, dass, wenn gelöst, alle gezwungenen stationären Punkte identifizieren Sie:

:

\begin {richten }\aus

g_1 (p) & = 0 \\

g_2 (p) & =0 \\

& \\\vdots \\

g_M (p) &= 0 \\

& \\

\nabla f (p) - \sum_ {k=1} ^M {\\lambda_k \, \nabla g_k (p)} & = 0 \\

\end {richten sich aus}, & \begin {richten }\aus

& \text {bedeuten diese, dass der Punkt alle Einschränkungen} \\befriedigt

& \\ & \\ & \\ & \\

& \text {bedeutet das, dass der Punkt ein stationärer Punkt} \\ist

\end {richten} {sich} \\{aus}

\end {Matrix} </Mathematik>

Die Methode ist jetzt abgeschlossen (von der Einstellung, das Problem zu beheben, stationäre Punkte zu finden), aber weil Mathematiker an Freude haben

wenn man

tut, können diese Gleichungen weiter in eine noch elegantere und kurz gefasste Form kondensiert werden. Lagrange muss das klug bemerkt haben

die Gleichungen sehen oben wie partielle Ableitungen von etwas größerer Skalarfunktion L aus, der den ganzen nimmt

und der ganze

als Eingänge. Dann könnte er dann bemerkt haben, dass das Setzen jeder der Null gleichen Gleichung genau ist, was man würde tun müssen, um für den zwanglosen zu lösen

stationäre Punkte dieser größeren Funktion. Schließlich hat er gezeigt, dass eine größere Funktion L mit partiellen Ableitungen, die genau diejenigen sind, wir verlangen kann sehr einfach als unten gebaut werden:

:

\begin {richten }\aus

& {} \quad L\left (x_1, x_2, \ldots, x_N, \lambda_1, \lambda_2, \ldots, \lambda _M \right) \\

& = f\left (x_1, x_2, \ldots, x_N \right) - \sum\limits_ {k=1} ^M {\\lambda_k g_k\left (x_1, x_2, \ldots, x_N \right) }\

\end {richten }\aus</Mathematik>

Das Lösen der Gleichung oben für seine zwanglosen stationären Punkte erzeugt genau dieselben stationären Punkte wie lösend für den

gezwungene stationäre Punkte von f unter den Einschränkungen.

In der Ehre von Lagrange wird die Funktion oben Lagrangian, die Skalare genannt

werden Lagrange Vermehrer genannt, und diese Optimierungsmethode selbst wird Die Methode von Lagrange Vermehrern genannt.

Die Methode von Vermehrern von Lagrange wird durch die Karush-Kuhn-Tucker Bedingungen verallgemeinert, die auch Ungleichheitseinschränkungen der Form h (x)  c in Betracht ziehen können.

Interpretation der Vermehrer von Lagrange

Häufig haben die Vermehrer von Lagrange eine Interpretation als etwas Menge von Interesse. Warum zu sehen

das könnte der Fall sein, dass bemerken:

:

Also, λ ist die Rate der Änderung der Menge, die als eine Funktion der Einschränkungsvariable wird optimiert.

Als Beispiele in der Mechanik von Lagrangian werden die Gleichungen der Bewegung durch die Entdeckung stationärer Punkte der Handlung, die Zeit integriert des Unterschieds zwischen der kinetischen und potenziellen Energie abgeleitet. So kann die Kraft auf einer Partikel wegen eines Skalarpotenzials als ein Vermehrer von Lagrange interpretiert werden, der die Änderung in der Handlung (Übertragung des Potenzials zur kinetischen Energie) im Anschluss an eine Schwankung in der gezwungenen Schussbahn der Partikel bestimmt. In der Volkswirtschaft wird der optimale Gewinn einem Spieler Thema einem gezwungenen Raum von Handlungen berechnet, wo ein Vermehrer von Lagrange die Zunahme im Wert der objektiven Funktion wegen der Entspannung einer gegebenen Einschränkung (z.B durch eine Zunahme im Einkommen oder der Bestechung oder den anderen Mitteln) - die Randkosten einer Einschränkung, genannt den Schattenpreis ist.

In der Steuerungstheorie wird das stattdessen als costate Gleichungen formuliert.

Genügend Bedingungen

Genügend Bedingungen für ein gezwungenes lokales Maximum oder Minimum können in Bezug auf eine Folge von Hauptminderjährigen (Determinanten "oberen verlassen gerechtfertigt" sub-matrices) von der begrenzten Jute-Matrix der zweiten Ableitungen des Ausdrucks von Lagrangian festgesetzt werden.

Beispiele

Beispiel 1

Nehmen Sie an, dass wir Thema der Einschränkung maximieren möchten. Der ausführbare Satz ist der Einheitskreis, und die Niveau-Sätze von f sind diagonale Linien (mit dem Hang-1), so können wir grafisch sehen, dass das Maximum an vorkommt, und dass das Minimum daran vorkommt.

Mit der Methode von Vermehrern von Lagrange haben wir, folglich

:.

Das Setzen des Anstiegs gibt das Gleichungssystem nach

:

\frac {\\teilweiser \Lambda} {\\teilweise x\&= 1 + 2 \lambda x &&= 0, \\

\frac {\\teilweiser \Lambda} {\\teilweise y\&= 1 + 2 \lambda y &&= 0, \\

\frac {\\teilweiser \Lambda} {\\teilweiser \lambda} &= x^2 + y^2 - 1 &&= 0,

\end {richten} </Mathematik> {aus}

wo die letzte Gleichung die ursprüngliche Einschränkung ist.

Die ersten zwei Gleichungen tragen und, wo. Das Ersetzen in die letzten Gleichungserträge, so, der andeutet, dass die stationären Punkte sind und. Das Auswerten der objektiven Funktion f an diesen Punkten gibt nach

:

so ist das Maximum, der an erreicht wird, und das Minimum ist, der daran erreicht wird.

Beispiel 2

Nehmen Sie an, dass wir die maximalen Werte von finden

wollen:

mit der Bedingung, dass der x und die Y-Koordinaten auf dem Kreis um den Ursprung mit dem Radius 3, d. h. Thema der Einschränkung liegen

:

Da es gerade eine einzelne Einschränkung gibt, werden wir nur einen Vermehrer verwenden, λ sagen.

Die Einschränkung g (x, y)-3 ist auf dem Kreis des Radius 3 identisch Null-. So kann jedes Vielfache von g (x, y)-3 zu f (x, y) hinzugefügt werden, f (x, y) unverändert im Gebiet von Interesse abreisend (über dem Kreis, wo unsere ursprüngliche Einschränkung zufrieden ist). Lassen Sie

:

Die kritischen Werte dessen kommen vor, wo sein Anstieg Null ist. Die partiellen Ableitungen sind

:

\frac {\\teilweiser \Lambda} {\\teilweise x\&= 2 x y + 2 \lambda x &&= 0, \qquad \text {(i)} \\

\frac {\\teilweiser \Lambda} {\\teilweise y\&= x^2 + 2 \lambda y &&= 0, \qquad \text {(ii)} \\

\frac {\\teilweiser \Lambda} {\\teilweiser \lambda} &= x^2 + y^2 - 3 &&= 0. \qquad \text {(iii) }\

\end {richten} </Mathematik> {aus}

Gleichung (iii) ist gerade die ursprüngliche Einschränkung. Gleichung (i) bezieht ein oder λ = &minus;y. Im ersten Fall, wenn x = 0 dann wir durch (iii) und dann durch (ii) λ = 0 haben müssen. Im zweiten Fall, wenn λ = &minus;y und das Ersetzen in die Gleichung (ii) wir das, haben

:

Dann x = 2y. Das Ersetzen in die Gleichung (iii) und das Lösen für y geben diesen Wert von y:

:

So gibt es sechs kritische Punkte:

:

Das Ziel an diesen Punkten bewertend, finden wir

:

Deshalb erreicht die objektive Funktion das globale Maximum (Thema den Einschränkungen) daran, und das globale Minimum am Punkt ist ein lokales Minimum und ist ein lokales Maximum, wie durch die Rücksicht der Jute-Matrix dessen bestimmt werden kann.

Bemerken Sie, dass, während ein kritischer Punkt dessen ist, es nicht ein lokaler extremum ist. Wir haben. In Anbetracht jeder Nachbarschaft können wir einen kleinen positiven und ein kleine von jedem Zeichen wählen, Werte sowohl größer als auch weniger zu bekommen, als.

Beispiel: Wärmegewicht

Nehmen Sie an, dass wir den getrennten Wahrscheinlichkeitsvertrieb auf den Punkten mit dem maximalen Informationswärmegewicht finden möchten. Das ist dasselbe, sagend dass wir den am wenigsten voreingenommenen Wahrscheinlichkeitsvertrieb auf den Punkten finden möchten. Mit anderen Worten möchten wir die Wärmegewicht-Gleichung von Shannon maximieren:

:

Dafür, um ein Wahrscheinlichkeitsvertrieb zu sein, muss die Summe der Wahrscheinlichkeiten an jedem Punkt 1 gleich sein, so ist unsere Einschränkung = 1:

:

Wir verwenden Vermehrer von Lagrange, um den Punkt des maximalen Wärmegewichtes, über den ganzen getrennten Wahrscheinlichkeitsvertrieb darauf zu finden. Wir verlangen dass:

:

der ein System von n Gleichungen, solch dass gibt:

:

Die Unterscheidung dieser n Gleichungen ausführend, bekommen wir

:

Das zeigt, dass alle gleich sind (weil sie von λ abhängen nur).

Indem

wir die Einschränkung  p = 1 verwenden, finden wir

:

Folglich ist die Rechteckverteilung der Vertrieb mit dem größten Wärmegewicht unter dem Vertrieb auf N-Punkten.

Beispiel: numerische Optimierung

Mit Lagrange Vermehrern kommen die kritischen Punkte an Sattel-Punkten, aber nicht an lokalen Maxima (oder Minima) vor. Leider werden viele numerische Optimierungstechniken, wie das Hügel-Klettern, Anstieg-Abstieg, einige der Quasinewton-Methoden, unter anderen, entworfen, um lokale Maxima (oder Minima) und nicht Sattel-Punkte zu finden. Deshalb muss man entweder die Formulierung modifizieren, um sicherzustellen, dass es ein Minimierungsproblem ist (zum Beispiel, durch extremizing das Quadrat des Anstiegs von Lagrangian als unten), oder verwenden eine Optimierungstechnik, die stationäre Punkte (wie die Methode von Newton ohne einen extremum das Suchen der Liniensuche) und nicht notwendigerweise extrema findet.

Als ein einfaches Beispiel, denken Sie das Problem, den Wert von x zu finden, der, beschränkt solch dass minimiert. (Dieses Problem ist etwas pathologisch, weil es nur zwei Werte gibt, die diese Einschränkung befriedigen, aber es ist zu Illustrationszwecken nützlich, weil die entsprechende zwanglose Funktion in drei Dimensionen vergegenwärtigt werden kann.)

Mit Lagrange Vermehrern kann dieses Problem in ein zwangloses Optimierungsproblem umgewandelt werden:

:

Die zwei kritischen Punkte kommen an Sattel-Punkten wo vor und.

Um dieses Problem mit einer numerischen Optimierungstechnik zu beheben, müssen wir zuerst dieses solches Problem umgestalten, dass die kritischen Punkte an lokalen Minima vorkommen. Das wird durch die Computerwissenschaft des Umfangs des Anstiegs des zwanglosen Optimierungsproblems getan.

Erstens schätzen wir die partielle Ableitung des zwanglosen Problems in Bezug auf jede Variable:

::

Wenn die Zielfunktion nicht leicht differentiable ist, kann dem Differenzial in Bezug auf jede Variable als näher gekommen werden

::

wo ein kleiner Wert ist.

Dann schätzen wir den Umfang des Anstiegs, der die Quadratwurzel der Summe der Quadrate der partiellen Ableitungen ist:

:

(Da Umfang immer nichtnegativ ist, ist das Optimieren über den karierten Umfang zur Optimierung über den Umfang gleichwertig. So kann die ``Quadratwurzel" aus diesen Gleichungen ohne erwarteten Unterschied in den Ergebnissen der Optimierung weggelassen werden.)

Die kritischen Punkte von h kommen an und, ebenso darin vor. Verschieden von den kritischen Punkten in, jedoch, kommen die kritischen Punkte in h an lokalen Minima vor, so können numerische Optimierungstechniken verwendet werden, um sie zu finden.

Anwendungen

Volkswirtschaft

Gezwungene Optimierung spielt eine Hauptrolle in der Volkswirtschaft. Zum Beispiel wird das auserlesene Problem für einen Verbraucher als einer vertreten, ein Dienstprogramm-Funktionsthema einer preisgünstigen Einschränkung zu maximieren. Der Lagrange Vermehrer hat eine Wirtschaftsinterpretation als der Schattenpreis, der mit der Einschränkung, in diesem Beispiel das Randdienstprogramm des Einkommens vereinigt ist. Andere Beispiele schließen Gewinnmaximierung für ein Unternehmen zusammen mit verschiedenen gesamtwirtschaftlichen Anwendungen ein.

Steuerungstheorie

In der optimalen Steuerungstheorie werden die Vermehrer von Lagrange als costate Variablen interpretiert, und Vermehrer von Lagrange werden als die Minimierung von Hamiltonian im minimalen Grundsatz von Pontryagin wiederformuliert.

Siehe auch

• Karush-Kuhn-Tucker Bedingungen: Generalisation der Methode von Vermehrern von Lagrange.
• Vermehrer von Lagrange auf Banachräumen: eine andere Generalisation der Methode von Vermehrern von Lagrange.
• Doppelproblem
• Entspannung von Lagrangian

Links

Ausstellung

• Begriffseinführung (plus eine kurze Diskussion von Vermehrern von Lagrange in der Rechnung von Schwankungen, wie verwendet, in der Physik)
• Lagrange Vermehrer für quadratische Formen mit geradlinigen Einschränkungen durch Kenneth H. Carpenter

Für den zusätzlichen Text und interaktiven applets

• Einfache Erklärung mit einem Beispiel von Regierungen, die Steuern als Vermehrer von Lagrange verwenden
• Applet
• Tutorenkurs und applet
• Videovortrag von Lagrange Vermehrern
• MIT Videovortrag auf Lagrange Vermehrern
• Gleiten, das den nichtlinearen Optimierungstext von Bertsekas mit Details auf Vermehrern von Lagrange begleitet (liest 11 und 12)
• Methode von Vermehrern von Lagrange mit komplizierten Variablen durch kipid