219 Extremums : existence, caractérisation, recherche. Exemples et applications.

Extremums : existence, caractérisation, recherche. Exemples et applications.

analysis

Existence et unicité

[R-R]
p. 210

Définition 1

Soient $U$ un ouvert d’un espace vectoriel normé $E$ et $f : U \to R$ .

On dit que $f$ admet un maximum local (resp. minimum local) en $a \in U$ si $\exists r > 0 tel \forall x \in B (a, r), f (x) \leq f (a) (resp. f (x) \geq f (a))$
On dit que $f$ admet un extremum local en $a \in U$ si elle admet un minimum ou un maximum local.

Utilisation de la compacité

[GOU20]
p. 31

Théorème 2

Des bornesSoient $E$ un espace compact et $f : E \to R$ continue. Alors, il existe deux éléments $a$ et $b$ de $E$ vérifiant $f (a) = x \in E in f f (x) et f (b) = x \in E sup f (x)$

[HAU]
p. 202

Contre-exemple 3

La fonction $R x \to \mapsto R {\frac{( - 1 ) ^{q} ( q - 1 )}{q} 0 si x \in Q ∖ {0} avec \frac{p}{q} le repr \overset{e}{ˊ} sentant irr \overset{e}{ˊ} ductible de x sinon$ est minorée par $- 1$ , majorée par $1$ , mais n’atteint ses bornes sur aucun intervalle d’intérieur non vide de $R$ .

[GOU20]
p. 33

Corollaire 4

Soient $(E, d)$ un espace métrique et $K_{1}$ , $K_{2}$ deux compacts de $E$ . Alors, $\exists (x_{1}, x_{2}) \in K_{1} \times K_{2} tel que d (x_{1}, x_{2}) = (x, y) \in K_{1} \times K_{2} in f d (x, y)$

[ROU]
p. 171

Corollaire 5

Point fixe dans un compactSoit $(E, d)$ un espace métrique compact et $f : E \to E$ telle que $\forall x, y \in E, x \neq = y ⟹ d (f (x), f (y)) < d (x, y)$ alors $f$ admet un unique point fixe et pour tout $x_{0} \in E$ , la suite des itérés $x_{n + 1} = f (x_{n})$ converge vers ce point fixe.

Exemple 6

$sin$ admet un unique point fixe sur $[0, 1]$ .

[GOU20]
p. 35

Contre-exemple 7

La fonction $R x \to \mapsto R {1 x + \frac{1}{1 + x} si x < 0 sinon$ est continue, contractante et sans point fixe.

p. 31

Corollaire 8

Théorème de HeineUne application continue sur un compact y est uniformément continue.

[DAN]
p. 58

Application 9

Théorème de d’Alembert-GaussTout polynôme non constant de $C$ admet une racine dans $C$ .

Utilisation de la convexité

[ROM19-1]
p. 234

Soit $I \subseteq R$ un intervalle non réduit à un point.

Proposition 10

Une fonction $f : R \to R$ est constante si et seulement si elle est convexe et majorée.

Contre-exemple 11

La fonction $f$ définie sur $R^{+}$ par $f (x) = \frac{1}{1 + x}$ est convexe, majorée, mais non constante.

Proposition 12

Si $f : I \to R$ est convexe et est dérivable en un point $α \in \overset{˚}{I}$ tel que $f^{'} (α) = 0$ , alors $f$ admet un minimum global en $α$ .

Proposition 13

Si $f : I \to R$ est convexe et admet un minimum local, alors ce minimum est global.

Utilisation de l’holomorphie

[QUE]
p. 102

Soient $Ω$ un ouvert connexe de $C$ et $f : Ω \to C$ .

Proposition 14

Inégalités de CauchyOn suppose $f$ holomorphe au voisinage du disque $\overline{D} (a, R)$ . On note $c_{n}$ les coefficients du développement en série entière de $f$ en $a$ . Alors, $\forall n \in N, \forall r \in [0, R], ∣ c_{n} ∣ \leq \frac{M ( r )}{r ^{n}}$ où $M (r) = sup_{∣ z - a ∣ = r} ∣ f (z) ∣$ .

Corollaire 15

Théorème de LiouvilleOn suppose $f$ holomorphe sur $C$ tout entier. Si $f$ est bornée, alors $f$ est constante.

p. 107

Théorème 16

Principe du maximumOn suppose $Ω$ borné et $f$ holomorphe dans $Ω$ et continue dans $\overline{Ω}$ . On note $M$ le $sup$ de $∣ f ∣$ sur la frontière (compacte) de $Ω$ . Alors, $\forall z \in Ω, ∣ f (z) ∣ \leq M$

Utilisation de propriétés hilbertiennes

[LI]
p. 32

Soit $H$ un espace de Hilbert de norme $∥.∥$ et on note $⟨ ., . ⟩$ le produit scalaire associé.

Lemme 17

Identité du parallélogramme $\forall x, y \in H, ∥ x + y ∥^{2} + ∥ x - y ∥^{2} = 2 (∥ x ∥^{2} ∥ y ∥^{2})$ et cette identité caractérise les normes issues d’un produit scalaire.

projection-sur-un-convexe-ferme

Théorème 18

Projection sur un convexe ferméSoit $C \subseteq H$ un convexe fermé non-vide. Alors : $\forall x \in H, \exists! y \in C tel que d (x, C) = z \in C in f ∥ x - z ∥ = d (x, y)$ On peut donc noter $y = P_{C} (x)$ , le projeté orthogonal de $x$ sur $C$ . Il s’agit de l’unique point de $C$ vérifiant $\forall z \in C, ⟨ x - P_{C} (x), z - P_{C} (x)⟩ \leq 0$

Théorème 19

Si $F$ est un sous-espace vectoriel fermé dans $H$ , alors $P_{F}$ est une application linéaire continue. De plus, pour tout $x \in H$ , $P_{F} (x)$ est l’unique point $y \in F$ tel que $x - y \in F^{⊥}$ .

Application 20

Soit $F$ un sous-espace vectoriel de $H$ . Alors, $\overline{F} = H ⟺ F^{⊥} = 0$

Application 21

Théorème de représentation de Riesz $\forall φ \in H^{'}, \exists! y \in H, tel que \forall x \in H, φ (x) = ⟨ x, y ⟩$ et de plus, $∣∣∣ φ ∣∣∣ = ∥ y ∥$ .

Corollaire 22

$\forall T \in H^{'}, \exists! U \in H^{'} tel que \forall x, y \in H, ⟨ T (x), y ⟩ = ⟨ x, U (y)⟩$ On note alors $U = T^{*}$ : c’est l’adjoint de $T$ . On a alors $∣∣∣ T ∣∣∣ = ∣∣∣ T^{*} ∣∣∣$ .

[I-P]
p. 336

Application 23

Soit $J : H \to R$ une fonction convexe, continue et vérifiant $\forall (x_{k}) \in H^{N} telle que ∥ x_{k} ∥ ⟶_{k \to + \infty} + \infty alors J (x_{k}) ⟶_{k \to + \infty} + \infty$ Alors, il existe $a \in H$ tel que $J (a) = h \in H in f J (h)$

Extrema et calcul différentiel

Soit $f : U \to R$ différentiable en un point $a$ de $U$ , où $U$ est un ouvert de $R^{n}$ .

Condition du premier ordre

[R-R]
p. 210

Définition 24

Si $d f_{a} = 0$ , on dit que $a$ est un point critique de $f$ .

Remarque 25

Cela revient à dire que toutes les dérivées partielles de $f$ s’annulent en $a$ .

Proposition 26

Si $f$ admet un extremum local en $a$ , alors $a$ est un point critique de $f$ .

[HAU]
p. 281

Contre-exemple 27

$(x, y) \mapsto x^{2} - y^{2}$ a un point critique en $(0, 0)$ , mais n’a pas d’extremum en $(0, 0)$ .

Condition du second ordre

[GOU20]
p. 336

On suppose $f$ de classe $C^{2}$ sur $U$ .

Définition 28

La matrice hessienne de $f$ en $a$ , notée $Hess (f)_{a}$ , est définie par $Hess (f)_{a} = (\frac{\partial ^{2} f}{\partial x _{i} \partial x _{j}})_{i, j \in [[1, n]]}$

Remarque 29

Pour $f$ de classe $C^{2}$ , $Hess (f)_{a}$ est symétrique.

Théorème 30

On suppose $d f_{a} = 0$ . Alors :

Si $f$ admet un minimum (resp. maximum) relatif en $a$ , $Hess (f)_{a}$ est positive (resp. négative).
Si $Hess (f)_{a}$ définit une forme quadratique définie positive (resp. définie négative), $f$ admet un minimum (resp. maximum) relatif en $a$ .

Exemple 31

On suppose $d f_{a} = 0$ . On pose $(r, s, t) = (\frac{\partial ^{2}}{\partial x _{i} \partial x _{j}} f)_{i + j = 2}$ . Alors :

Si $r t - s^{2} > 0$ et $r > 0$ (resp. $r < 0$ ), $f$ admet une minimum (resp. maximum) relatif en $a$ .
Si $r t - s^{2} < 0$ , $f$ n’a pas d’extremum en $a$ .
Si $r t - s^{2} = 0$ , on ne peut rien conclure.

Exemple 32

La fonction $(x, y) \mapsto x^{4} + y^{2} - 2 (x - y)^{2}$ a trois points critiques qui sont des minimum locaux : $(0, 0)$ , $(2, - 2)$ et $(- 2, 2)$ .

Contre-exemple 33

$x \mapsto x^{3}$ a sa hessienne positive en $0$ , mais n’a pas d’extremum en $0$ .

Extrema liés

p. 337

Théorème 34

Extrema liésSoient $f, g_{1}, \dots, g_{r} : U \to R$ des fonctions de classe $C^{1}$ . On note $Γ = {x \in U ∣ g_{1} (x) = \dots = g_{r} (x) = 0}$ . Si $f_{∣Γ}$ admet un extremum relatif en $a \in Γ$ et si les formes linéaires $d (g_{1})_{a}, \dots, d (g_{r})_{a}$ sont linéairement indépendantes, alors il existe un unique $r$ -uplet $(λ_{1}, \dots, λ_{r})$ tel que $d f_{a} = λ_{1} d (g_{1})_{a} + \dots + λ_{r} d (g_{r})_{a}$

Définition 35

Les $λ_{1}, \dots, λ_{r}$ du théorème précédent sont appelés appelés multiplicateurs de Lagrange.

[BMP]
p. 21

Remarque 36

La relation finale du 34 équivaut à $i = 1 ⋂ n Ker (d (g_{i})_{a}) \subseteq Ker (d f_{a})$ et elle exprime que $d f_{a}$ est nulle sur l’espace tangent à $Γ$ en $a$ (ie. $\nabla f_{a}$ est orthogonal à l’espace tangent à $Γ$ en $a$ ).

Contre-exemple 37

On pose $g : (x, y) \mapsto x^{3} - y^{2}$ et on considère $f : (x, y) \mapsto x + y^{2}$ . On cherche à minimiser $f$ sous la contrainte $g (x, y) = 0$ .

Alors, le minimum (global) de $f$ sous cette contrainte est atteint en $(0, 0)$ , la différentielle de $g$ en $(0, 0)$ est nulle et la relation finale du 34 n’est pas vraie.

Application 38

Théorème spectralTout endomorphisme symétrique d’un espace euclidien se diagonalise dans une base orthonormée.

p. 35

Application 39

$SO_{n} (R) = {M \in M_{n} (R) ∣ ∥ M ∥^{2} = P \in SL_{n} (R) in f ∥ P ∥^{2}}$ où $∥.∥ : M \mapsto trace ((^{t} M M)$ (ie. $SO_{n} (R)$ est l’ensemble des matrices de $SL_{n} (R)$ qui minimisent la norme euclidienne canonique de $M_{n} (R)$ ).

[GOU20]
p. 339

Application 40

Inégalité arithmético-géométrique. $\forall (x_{1}, \dots, x_{n}) \in (R^{+})^{n}, (i = 1 \prod n x_{i})^{\frac{1}{n}} \leq \frac{1}{n} i = 1 \sum n x_{i}$

[ROU]
p. 409

Application 41

Inégalité d’Hadamard $\forall (x_{1}, \dots, x_{n}) \in (R^{n})^{n}, ∣ det (x_{1}, \dots, x_{n}) ∣ \leq ∥ x_{1} ∥ \dots ∥ x_{n} ∥$ avec égalité si et seulement si l’un des $x_{i}$ est nul ou si $(x_{1}, \dots, x_{n})$ est une famille orthogonale de $R^{n}$ .

Algorithmes d’optimisation numérique

Méthode de Newton

[ROU]
p. 152

methode-de-newton

Théorème 42

Méthode de NewtonSoit $f : [c, d] \to R$ une fonction de classe $C^{2}$ strictement croissante sur $[c, d]$ . On considère la fonction $φ : [c, d] x \to \mapsto R x - \frac{f ( x )}{f ^{'} ( x )}$ (qui est bien définie car $f^{'} > 0$ ). Alors :

$\exists! a \in [c, d]$ tel que $f (a) = 0$ .
$\exists α > 0$ tel que $I = [a - α, a + α]$ est stable par $φ$ .
La suite $(x_{n})$ des itérés (définie par récurrence par $x_{n + 1} = φ (x_{n})$ pour tout $n \geq 0$ ) converge quadratiquement vers $a$ pour tout $x_{0} \in I$ .

Corollaire 43

En reprenant les hypothèses et notations du théorème précédent, et en supposant de plus $f$ strictement convexe sur $[c, d]$ , le résultat du théorème est vrai sur $I = [a, d]$ . De plus :

$(x_{n})$ est strictement décroissante (ou constante).
$x_{n + 1} - a \sim \frac{f ^{''} ( a )}{2 f ^{'} ( a )} (x_{n} - a)^{2}$ pour $x_{0} > a$ .

Exemple 44

On fixe $y > 0$ . En itérant la fonction $F : x \mapsto \frac{1}{2} (x + \frac{y}{x})$ pour un nombre de départ compris entre $c$ et $d$ où $0 < c < d$ et $c^{2} < 0 < d^{2}$ , on peut obtenir une approximation du nombre $y$ .
En itérant la fonction $F : x \mapsto \frac{x ^{2} + 1}{2 x - 1}$ pour un nombre de départ supérieur à $2$ , on peut obtenir une approximation du nombre d’or $φ = \frac{1 + 5}{2}$ .

Lien avec les systèmes linéaires

[BMP]
p. 24

Proposition 45

Soient $A \in S_{n}^{++} (R)$ et $b \in R^{n}$ . On pose $f : x \mapsto \frac{1}{2} ⟨ A x, x ⟩ + ⟨ b, x ⟩$ . Alors, minimiser $f$ sur $R^{n}$ revient à résoudre le système linéaire $A x = b$ .