219 Extremums : existence, caractérisation, recherche. Exemples et applications.

Extremums : existence, caractérisation, recherche. Exemples et applications.

analysis

Existence et unicité

Définition 1. Soient $U$ un ouvert d’un espace vectoriel normé $E$ et $f : U \to R$ .

On dit que $f$ admet un maximum local (resp. minimum local) en $a \in U$ si $\exists r > 0 tel \forall x \in B (a, r), f (x) \leq f (a) (resp. f (x) \geq f (a))$
On dit que $f$ admet un extremum local en $a \in U$ si elle admet un minimum ou un maximum local.

Utilisation de la compacité

Théorème 2 (Des bornes). Soient $E$ un espace compact et $f : E \to R$ continue. Alors, il existe deux éléments $a$ et $b$ de $E$ vérifiant $f (a) = x \in E in f f (x) et f (b) = x \in E sup f (x)$

[HAU]
p. 202

Contre-exemple 3. La fonction $R x \to \mapsto R {\frac{( - 1 ) ^{q} ( q - 1 )}{q} 0 si x \in Q ∖ {0} avec \frac{p}{q} le repr \overset{e}{ˊ} sentant irr \overset{e}{ˊ} ductible de x sinon$ est minorée par $- 1$ , majorée par $1$ , mais n’atteint ses bornes sur aucun intervalle d’intérieur non vide de $R$ .

[GOU20]
p. 33

Corollaire 4. Soient $(E, d)$ un espace métrique et $K_{1}$ , $K_{2}$ deux compacts de $E$ . Alors, $\exists (x_{1}, x_{2}) \in K_{1} \times K_{2} tel que d (x_{1}, x_{2}) = (x, y) \in K_{1} \times K_{2} in f d (x, y)$

[ROU]
p. 171

Corollaire 5 (Point fixe dans un compact). Soit $(E, d)$ un espace métrique compact et $f : E \to E$ telle que $\forall x, y \in E, x \neq = y ⟹ d (f (x), f (y)) < d (x, y)$ alors $f$ admet un unique point fixe et pour tout $x_{0} \in E$ , la suite des itérés $x_{n + 1} = f (x_{n})$ converge vers ce point fixe.

Exemple 6. $sin$ admet un unique point fixe sur $[0, 1]$ .

[GOU20]
p. 35

Contre-exemple 7. La fonction $R x \to \mapsto R {1 x + \frac{1}{1 + x} si x < 0 sinon$ est continue, contractante et sans point fixe.

p. 31

Corollaire 8 (Théorème de Heine). Une application continue sur un compact y est uniformément continue.

[DAN]
p. 58

Application 9 (Théorème de d’Alembert-Gauss). Tout polynôme non constant de $C$ admet une racine dans $C$ .

Utilisation de la convexité

[ROM19-1]
p. 234

Soit $I \subseteq R$ un intervalle non réduit à un point.

Proposition 10. Une fonction $f : R \to R$ est constante si et seulement si elle est convexe et majorée.

Contre-exemple 11. La fonction $f$ définie sur $R^{+}$ par $f (x) = \frac{1}{1 + x}$ est convexe, majorée, mais non constante.

Proposition 12. Si $f : I \to R$ est convexe et est dérivable en un point $α \in \overset{˚}{I}$ tel que $f^{'} (α) = 0$ , alors $f$ admet un minimum global en $α$ .

Proposition 13. Si $f : I \to R$ est convexe et admet un minimum local, alors ce minimum est global.

Utilisation de l’holomorphie

[QUE]
p. 102

Soient $Ω$ un ouvert connexe de $C$ et $f : Ω \to C$ .

Proposition 14 (Inégalités de Cauchy). On suppose $f$ holomorphe au voisinage du disque $\overline{D} (a, R)$ . On note $c_{n}$ les coefficients du développement en série entière de $f$ en $a$ . Alors, $\forall n \in N, \forall r \in [0, R], ∣ c_{n} ∣ \leq \frac{M ( r )}{r ^{n}}$ où $M (r) = sup_{∣ z - a ∣ = r} ∣ f (z) ∣$ .

Corollaire 15 (Théorème de Liouville). On suppose $f$ holomorphe sur $C$ tout entier. Si $f$ est bornée, alors $f$ est constante.

p. 107

Théorème 16 (Principe du maximum). On suppose $Ω$ borné et $f$ holomorphe dans $Ω$ et continue dans $\overline{Ω}$ . On note $M$ le $sup$ de $f$ sur la frontière (compacte) de $Ω$ . Alors, $\forall z \in Ω, ∣ f (z) ∣ \leq M$

Utilisation de propriétés hilbertiennes

[LI]
p. 32

Soit $H$ un espace de Hilbert de norme $∥.∥$ et on note $⟨ ., . ⟩$ le produit scalaire associé.

Lemme 17 (Identité du parallélogramme). $\forall x, y \in H, ∥ x + y ∥^{2} + ∥ x - y ∥^{2} = 2 (∥ x ∥^{2} ∥ y ∥^{2})$ et cette identité caractérise les normes issues d’un produit scalaire.

projection-sur-un-convexe-ferme

Théorème 18 (Projection sur un convexe fermé). Soit $C \subseteq H$ un convexe fermé non-vide. Alors : $\forall x \in H, \exists! y \in C tel que d (x, C) = z \in C in f ∥ x - z ∥ = d (x, y)$ On peut donc noter $y = P_{C} (x)$ , le projeté orthogonal de $x$ sur $C$ . Il s’agit de l’unique point de $C$ vérifiant $\forall z \in C, ⟨ x - P_{C} (x), z - P_{C} (x)⟩ \leq 0$

Théorème 19. Si $F$ est un sous espace vectoriel fermé dans $H$ , alors $P_{F}$ est une application linéaire continue. De plus, pour tout $x \in H$ , $P_{F} (x)$ est l’unique point $y \in F$ tel que $x - y \in F^{⊥}$ .

Application 20. Soit $F$ un sous-espace vectoriel de $H$ . Alors, $\overline{F} = H ⟺ F^{⊥} = 0$

Application 21 (Théorème de représentation de Riesz). $\forall φ \in H^{'}, \exists! y \in H, tel que \forall x \in H, φ (x) = ⟨ x, y ⟩$ et de plus, $∣∣∣ φ ∣∣∣ = ∥ y ∥$ .

Corollaire 22. $\forall T \in H^{'}, \exists! U \in H^{'} tel que \forall x, y \in H, ⟨ T (x), y ⟩ = ⟨ x, U (y)⟩$ On note alors $U = T^{*}$ : c’est l’adjoint de $T$ . On a alors $∣∣∣ T ∣∣∣ = ∣∣∣ T^{*} ∣∣∣$ .

[I-P]
p. 336

Application 23. Soit $J : H \to R$ une fonction convexe, continue et vérifiant $\forall (x_{k}) \in H^{N} telle que ∥ x_{k} ∥ ⟶_{k \to + \infty} + \infty alors J (x_{k}) ⟶_{k \to + \infty} + \infty$ Alors, il existe $a \in H$ tel que $J (a) = h \in H in f J (h)$

Extrema et calcul différentiel

Soit $f : U \to R$ différentiable en un point $a$ de $U$ , où $U$ est un ouvert de $R^{n}$ .

Condition du premier ordre

[R-R]
p. 210

Définition 24. Si $d f_{a} = 0$ , on dit que $a$ est un point critique de $f$ .

Remarque 25. Cela revient à dire que toutes les dérivées partielles de $f$ s’annulent en $a$ .

Proposition 26. Si $f$ admet un extremum local en $a$ , alors $a$ est un point critique de $f$ .

[HAU]
p. 281

Contre-exemple 27. $(x, y) \mapsto x^{2} - y^{2}$ a un point critique en $(0, 0)$ , mais n’a pas d’extremum en $(0, 0)$ .

Condition du second ordre

[GOU20]
p. 336

On suppose $f$ de classe $C^{2}$ sur $U$ .

Définition 28. La matrice hessienne de $f$ en $a$ , notée $Hess (f)_{a}$ , est définie par $Hess (f)_{a} = (\frac{\partial ^{2} f}{\partial x _{i} \partial x _{j}})_{i, j \in [[1, n]]}$

Remarque 29. Pour $f$ de classe $C^{2}$ , $Hess (f)_{a}$ est symétrique.

Théorème 30. On suppose $d f_{a} = 0$ . Alors :

Si $f$ admet un minimum (resp. maximum) relatif en $a$ , $Hess (f)_{a}$ est positive (resp. négative).
Si $Hess (f)_{a}$ définit une forme quadratique définie positive (resp. définie négative), $f$ admet un minimum (resp. maximum) relatif en $a$ .

Exemple 31. On suppose $d f_{a} = 0$ . On pose $(r, s, t) = (\frac{\partial ^{2}}{\partial x _{i} \partial x _{j}} f)_{i + j = 2}$ . Alors :

Si $r t - s^{2} > 0$ et $r > 0$ (resp. $r < 0$ ), $f$ admet une minimum (resp. maximum) relatif en $a$ .
Si $r t - s^{2} < 0$ , $f$ n’a pas d’extremum en $a$ .
Si $r t - s^{2} = 0$ , on ne peut rien conclure.

Exemple 32. La fonction $(x, y) \mapsto x^{4} + y^{2} - 2 (x - y)^{2}$ a trois points critiques qui sont des minimum locaux : $(0, 0)$ , $(2, - 2)$ et $(- 2, 2)$ .

Contre-exemple 33. $x \mapsto x^{3}$ a sa hessienne positive en $0$ , mais n’a pas d’extremum en $0$ .

Extrema liés

p. 337

Théorème 34 (Extrema liés). Soient $f, g_{1}, \dots, g_{r} : U \to R$ des fonctions de classe $C^{1}$ . On note $Γ = {x \in U ∣ g_{1} (x) = \dots = g_{r} (x) = 0}$ . Si $f_{∣Γ}$ admet un extremum relatif en $a \in Γ$ et si les formes linéaires $d (g_{1})_{a}, \dots, d (g_{r})_{a}$ sont linéairement indépendantes, alors il existe des uniques $λ_{1}, \dots, λ_{r}$ tels que $d f_{a} = λ_{1} d (g_{1})_{a} + \dots + λ_{r} d (g_{r})_{a}$

Définition 35. Les $λ_{1}, \dots, λ_{r}$ du théorème précédent sont appelés appelés multiplicateurs de Lagrange.

[BMP]
p. 21

Remarque 36. La relation finale du Théorème 34 équivaut à $i = 1 ⋂ n Ker (d (g_{i})_{a}) \subseteq Ker (d f_{a})$ et elle exprime que $d f_{a}$ est nulle sur l’espace tangent à $Γ$ en $a$ (ie. $\nabla f_{a}$ est orthogonal à l’espace tangent à $Γ$ en $a$ ).

Contre-exemple 37. On pose $g : (x, y) \mapsto x^{3} - y^{2}$ et on considère $f : (x, y) \mapsto x + y^{2}$ . On cherche à minimiser $f$ sous la contrainte $g (x, y) = 0$ .

Alors, le minimum (global) de $f$ sous cette contrainte est atteint en $(0, 0)$ , la différentielle de $g$ en $(0, 0)$ est nulle et la relation finale du Théorème 34 n’est pas vraie.

Application 38 (Théorème spectral). Tout endomorphisme symétrique d’un espace euclidien se diagonalise dans une base orthonormée.

p. 35

Application 39. $SO_{n} (R) = {M \in M_{n} (R) ∣ ∥ M ∥^{2} = P \in SL_{n} (R) in f ∥ P ∥^{2}}$ où $∥.∥ : M \mapsto trace ((^{t} MM)$ (ie. $SO_{n} (R)$ est l’ensemble des matrices de $SL_{n} (R)$ qui minimisent la norme euclidienne canonique de $M_{n} (R)$ ).

[GOU20]
p. 339

Application 40 (Inégalité arithmético-géométrique). $\forall (x_{1}, \dots, x_{n}) \in (R^{+})^{n}, (i = 1 \prod n x_{i})^{\frac{1}{n}} \leq \frac{1}{n} i = 1 \sum n x_{i}$

[ROU]
p. 409

Application 41 (Inégalité d’Hadamard). $\forall (x_{1}, \dots, x_{n}) \in R^{n}, det (x_{1}, \dots, x_{n}) \leq ∥ x_{1} ∥ \dots ∥ x_{n} ∥$ avec égalité si et seulement si $(x_{1}, \dots, x_{n})$ est une base orthogonale de $R^{n}$ .

Algorithmes d’optimisation numérique

Méthode de Newton

[ROU]
p. 152

methode-de-newton

Théorème 42 (Méthode de Newton). Soit $f : [c, d] \to R$ une fonction de classe $C^{2}$ strictement croissante sur $[c, d]$ . On considère la fonction $φ : [c, d] x \to \mapsto R x - \frac{f ( x )}{f ^{'} ( x )}$ (qui est bien définie car $f^{'} > 0$ ). Alors :

$\exists! a \in [c, d]$ tel que $f (a) = 0$ .
$\exists α > 0$ tel que $I = [a - α, a + α]$ est stable par $φ$ .
La suite $(x_{n})$ des itérés (définie par récurrence par $x_{n + 1} = φ (x_{n})$ pour tout $n \geq 0$ ) converge quadratiquement vers $a$ pour tout $x_{0} \in I$ .

Corollaire 43. En reprenant les hypothèses et notations du théorème précédent, et en supposant de plus $f$ strictement convexe sur $[c, d]$ , le résultat du théorème est vrai sur $I = [a, d]$ . De plus :

$(x_{n})$ est strictement décroissante (ou constante).
$x_{n + 1} - a \sim \frac{f ^{''} ( a )}{2 f ^{'} ( a )} (x_{n} - a)^{2}$ pour $x_{0} > a$ .

Exemple 44.

On fixe $y > 0$ . En itérant la fonction $F : x \mapsto \frac{1}{2} (x + \frac{y}{x})$ pour un nombre de départ compris entre $c$ et $d$ où $0 < c < d$ et $c^{2} < 0 < d^{2}$ , on peut obtenir une approximation du nombre $y$ .
En itérant la fonction $F : x \mapsto \frac{x ^{2} + 1}{2 x - 1}$ pour un nombre de départ supérieur à $2$ , on peut obtenir une approximation du nombre d’or $φ = \frac{1 + 5}{2}$ .

Lien avec les systèmes linéaires

[BMP]
p. 24

Proposition 45. Soient $A \in S_{n}^{++} (R)$ et $b \in R^{n}$ . On pose $f : x \mapsto \frac{1}{2} ⟨ A x, x ⟩ + ⟨ b, x ⟩$ . Alors, minimiser $f$ sur $R^{n}$ revient à résoudre le système linéaire $A x = b$ .