219 Extremums : existence, caractérisation, recherche. Exemples et applications.

Extremums : existence, caractérisation, recherche. Exemples et applications.

analysis

Existence et unicité

Définition 1. Soient un ouvert d’un espace vectoriel normé et .

  • On dit que admet un maximum local (resp. minimum local) en si

  • On dit que admet un extremum local en si elle admet un minimum ou un maximum local.

Utilisation de la compacité

Théorème 2 (Des bornes). Soient un espace compact et continue. Alors, il existe deux éléments et de vérifiant

Contre-exemple 3. La fonction est minorée par , majorée par , mais n’atteint ses bornes sur aucun intervalle d’intérieur non vide de .

Corollaire 4. Soient un espace métrique et , deux compacts de . Alors,

Corollaire 5 (Point fixe dans un compact). Soit un espace métrique compact et telle que alors admet un unique point fixe et pour tout , la suite des itérés converge vers ce point fixe.

Exemple 6. admet un unique point fixe sur .

Contre-exemple 7. La fonction est continue, contractante et sans point fixe.

Corollaire 8 (Théorème de Heine). Une application continue sur un compact y est uniformément continue.

Application 9 (Théorème de d’Alembert-Gauss). Tout polynôme non constant de admet une racine dans .

Utilisation de la convexité

Soit un intervalle non réduit à un point.

Proposition 10. Une fonction est constante si et seulement si elle est convexe et majorée.

Contre-exemple 11. La fonction définie sur par est convexe, majorée, mais non constante.

Proposition 12. Si est convexe et est dérivable en un point tel que , alors admet un minimum global en .

Proposition 13. Si est convexe et admet un minimum local, alors ce minimum est global.

Utilisation de l’holomorphie

Soient un ouvert connexe de et .

Proposition 14 (Inégalités de Cauchy). On suppose holomorphe au voisinage du disque . On note les coefficients du développement en série entière de en . Alors, .

Corollaire 15 (Théorème de Liouville). On suppose holomorphe sur tout entier. Si est bornée, alors est constante.

Théorème 16 (Principe du maximum). On suppose borné et holomorphe dans et continue dans . On note le de sur la frontière (compacte) de . Alors,

Utilisation de propriétés hilbertiennes

Soit un espace de Hilbert de norme et on note le produit scalaire associé.

Lemme 17 (Identité du parallélogramme). et cette identité caractérise les normes issues d’un produit scalaire.

Théorème 18 (Projection sur un convexe fermé). Soit un convexe fermé non-vide. Alors : On peut donc noter , le projeté orthogonal de sur . Il s’agit de l’unique point de vérifiant

Théorème 19. Si est un sous espace vectoriel fermé dans , alors est une application linéaire continue. De plus, pour tout , est l’unique point tel que .

Application 20. Soit un sous-espace vectoriel de . Alors,

Application 21 (Théorème de représentation de Riesz). et de plus, .

Corollaire 22. On note alors : c’est l’adjoint de . On a alors .

Application 23. Soit une fonction convexe, continue et vérifiant Alors, il existe tel que

Extrema et calcul différentiel

Soit différentiable en un point de , où est un ouvert de .

Condition du premier ordre

Définition 24. Si , on dit que est un point critique de .

Remarque 25. Cela revient à dire que toutes les dérivées partielles de s’annulent en .

Proposition 26. Si admet un extremum local en , alors est un point critique de .

Contre-exemple 27. a un point critique en , mais n’a pas d’extremum en .

Condition du second ordre

On suppose de classe sur .

Définition 28. La matrice hessienne de en , notée , est définie par

Remarque 29. Pour de classe , est symétrique.

Théorème 30. On suppose . Alors :

  1. Si admet un minimum (resp. maximum) relatif en , est positive (resp. négative).

  2. Si définit une forme quadratique définie positive (resp. définie négative), admet un minimum (resp. maximum) relatif en .

Exemple 31. On suppose . On pose . Alors :

  1. Si et (resp. ), admet une minimum (resp. maximum) relatif en .

  2. Si , n’a pas d’extremum en .

  3. Si , on ne peut rien conclure.

Exemple 32. La fonction a trois points critiques qui sont des minimum locaux : , et .

Contre-exemple 33. a sa hessienne positive en , mais n’a pas d’extremum en .

Extrema liés

Théorème 34 (Extrema liés). Soient des fonctions de classe . On note . Si admet un extremum relatif en et si les formes linéaires sont linéairement indépendantes, alors il existe des uniques tels que

Définition 35. Les du théorème précédent sont appelés appelés multiplicateurs de Lagrange.

Remarque 36. La relation finale du Théorème 34 équivaut à et elle exprime que est nulle sur l’espace tangent à en (ie. est orthogonal à l’espace tangent à en ).

Contre-exemple 37. On pose et on considère . On cherche à minimiser sous la contrainte .

Alors, le minimum (global) de sous cette contrainte est atteint en , la différentielle de en est nulle et la relation finale du Théorème 34 n’est pas vraie.

Application 38 (Théorème spectral). Tout endomorphisme symétrique d’un espace euclidien se diagonalise dans une base orthonormée.

Application 39. (ie. est l’ensemble des matrices de qui minimisent la norme euclidienne canonique de ).

Application 40 (Inégalité arithmético-géométrique).

Application 41 (Inégalité d’Hadamard). avec égalité si et seulement si est une base orthogonale de .

Algorithmes d’optimisation numérique

Méthode de Newton

Théorème 42 (Méthode de Newton). Soit une fonction de classe strictement croissante sur . On considère la fonction (qui est bien définie car ). Alors :

  1. tel que .

  2. tel que est stable par .

  3. La suite des itérés (définie par récurrence par pour tout ) converge quadratiquement vers pour tout .

Corollaire 43. En reprenant les hypothèses et notations du théorème précédent, et en supposant de plus strictement convexe sur , le résultat du théorème est vrai sur . De plus :

  1. est strictement décroissante (ou constante).

  2. pour .

Exemple 44.

  • On fixe . En itérant la fonction pour un nombre de départ compris entre et et , on peut obtenir une approximation du nombre .

  • En itérant la fonction pour un nombre de départ supérieur à , on peut obtenir une approximation du nombre d’or .

Lien avec les systèmes linéaires

Proposition 45. Soient et . On pose . Alors, minimiser sur revient à résoudre le système linéaire .