Chapitre 3 : Variables aléatoires

3.1 Variables aléatoires et leurs lois

Soient $(E, \mathcal E)$ et $(F, \mathcal F)$ deux espaces probabilisables ($E, F$ : ensembles, $\mathcal E, \mathcal F$ : tribus sur $E, F$).

Definition : Une application $f: E \to F$ est mesurable si pour tout $B \in \mathcal F$, on a $f^{-1}(B) \in \mathcal E$.

Si $(\Omega, \mathcal A, \mathbb P)$ est un espace de probabilité, alors une variable aléatoire à valeurs dans $(E, \mathcal E)$ est une application $X: (\Omega, \mathcal A) \to (E, \mathcal E)$. Autrement dit, une variable aléatoire est simplement une fonction mesurable définie sur un espace de probabilité.

Lemme : Soient $(E, \mathcal E), (F, \mathcal F), (G, \mathcal G)$ trois espaces probabilisables. Si $f: E \to F$ et $g: F \to G$ sont deux fonctions mesurables, alors $g \circ f: E \to G$ est aussi mesurable.

Preuve : Si $f$ et $g$ sont mesurables, alors $\forall C \in \mathcal G, g^{-1}(C) \in \mathcal F, \forall B \in \mathcal F, f^{-1}(B) \in \mathcal E$. Alors $(g \circ f)^{-1}(C) = \{ x \in E \mid g(f(x)) \in C \} = \{ x \in E \mid f(x) \in g^{-1}(C) \} = f^{-1}(g^{-1}(C))$. $B := g^{-1}(C) \in \mathcal F$, donc $f^{-1}(B) \in \mathcal E$. Donc $\forall C \in \mathcal G, (g \circ f)^{-1}(C) \in \mathcal E$. Càd $g \circ f$ est mesurable.

$\square$

Corollaire : Si $X: (\Omega, \mathcal A, \mathbb P) \to (E, \mathcal E)$ est une variable aléatoire, et $f: (E, \mathcal E) \to (F, \mathcal F)$ est une fonction mesurable, alors $f(X) := f \circ X$ est une variable aléatoire à valeurs dans $(F, \mathcal F)$.

Remarque : Si $X: (\Omega, \mathcal A, \mathbb P) \to (E, \mathcal E)$ est une variable aléatoire, alors pour tout ensemble mesurable $B \in \mathcal E$ ("question mesurable par rapport à la valeur de la variable aléatoire"), l'ensemble $\{ X \in B \} := \{ \omega \in \Omega \mid X(\omega) \in B \}$ est un événement (i.e. mesurable dans $\mathcal A$).

Remarque : Rappel : la tribu borélienne de $\mathbb R$ est définie par

$$ B(\mathbb R) := \sigma \left(\{ ]-\infty, t] \mid t \in \mathbb R \}\right). $$

Intuitivement, la tribu $B(\mathbb R)$ peut "répondre" à toutes les questions que vous pouvez construire à partir de "est-ce que $x \leqslant t$".

Definition : Lorsque $X$ est une variable aléatoire à valeurs dans $(\mathbb R, B(\mathbb R))$, on l'appelle une variable aléatoire réelle.

Proposition : Soit une application $X: (\Omega, \mathcal A, \mathbb P) \to (\mathbb R, B(\mathbb R))$, alors $X$ est mesurable (càd $X$ est une variable aléatoire réelle) ssi

$$ \{ X \leqslant t \} := \{ \omega \in \Omega \mid X(\omega) \leqslant t \} \in \mathcal A. $$

Preuve :

$\boxed{\Rightarrow}$ : Si $X$ est mesurable, alors

$$ \{ X \leqslant t \} = X^{-1}(]-\infty, t]) \in \mathcal A. $$

$\boxed{\Leftarrow}$ : Supposons $\{ X \leqslant t \} \in \mathcal A, \forall t \in \mathbb R$. Soit $\mathcal C = \{ B \subseteq \mathbb R \mid X^{-1}(B) \in \mathcal A \}$. Alors :

• $\mathcal A$ est une tribu sur $\Omega$, donc $\Omega \in \mathcal A \implies \mathbb R \in \mathcal C \implies X^{-1}(\mathbb R) = \Omega \in \mathcal A$.
• Soit $(B_n)$ une suite d'événements dans $\mathcal C$, donc pour tout $n$, $X^{-1}(B_n) \in \mathcal A$. Donc $\bigcap\limits_{n \in \mathbb N} X^{-1}(B_n) = X^{-1} \left(\bigcap\limits_{n \in \mathbb N} B_n\right) \in \mathcal A$, $\left(X^{-1}(B_n)\right)^C = X^{-1}(B_n^C) \in \mathcal A$. Donc $\bigcap\limits_{n \in \mathbb N} B_n \in \mathcal C$, $B_n^C \in \mathcal C$. Donc $\mathcal C$ est stable par intersection dénombrable et par complémentaire. $\mathcal C$ est une tribu sur $\mathbb R$. Mais puisque $\{ X \leqslant t \} = X^{-1}(]-\infty, t]) \in \mathcal A$, on a $\{ ]-\infty, t] \mid t \in \mathbb R \} \subseteq \mathcal C$. Donc $\sigma(\{ ]-\infty, t] \mid t \in \mathbb R \}) \subseteq \mathcal C$. Càd $B(\mathbb R) \subseteq \mathcal C \iff \forall B \in B(\mathbb R), X^{-1}(B) \in \mathcal A$ $\iff X$ est une variable aléatoire réelle.

$\square$

Exemple :

1. Toute application constante $X: \Omega \to E, \omega \mapsto c \in E$ (ne dépend pas de $\omega$) est une variable aléatoire. Une telle variable aléatoire est dite "déterministe".
2. Si $A \in \mathcal A$ est un événement dans l'espace de probabilité $(\Omega, \mathcal A, \mathbb P)$, alors $\mathbb I_A: \Omega \to \mathbb R, \omega \mapsto 1 \text{ si } \omega \in A, \omega \mapsto 0 \text{ si } \omega \notin A$ est une variable aléatoire réelle.
3. Si $([0, 1], B([0, 1]), \mathbb P)$ est un espace de probabilité sur $[0, 1]$, alors $\mathrm{id}_{[0, 1]}: ([0, 1], B([0,1])) \to ([0, 1], B([0, 1]))$ est une variable aléatoire. Cette variable aléatoire peut prendre une infinité non dénombrable de valeurs (i.e. $[0, 1]$).

Preuve :

1. Pour tout $B \subseteq E$, on a $X^{-1}(B) = \begin{cases} \varnothing, & \text{si } c \notin B \\ \Omega, & \text{si } c \in B \end{cases}$. $\varnothing$ et $\Omega$ appartiennent toujours à une tribu sur $\Omega$. Donc $X$ est mesurable.
2. Soit $t \in \mathbb R$,

$$ \mathbb I_A^{-1}(]-\infty, t]) = \begin{cases} \Omega, & \text{si } t \geqslant 1 \\ A^C, & \text{si } 0 \leqslant t < 1 \\ \varnothing, & \text{si } t < 0 \end{cases} \in \mathcal A $$

pour tout $t \in \mathbb R$. D'après la proposition précédente, $\mathbb I_A: (\Omega, \mathcal A, \mathbb P) \to (\mathbb R, B(\mathbb R))$ est mesurable, donc c'est une variable aléatoire réelle.

$\square$

Remarque (Notation) : Soit $X: (\Omega, \mathcal A, \mathbb P) \to (E, \mathcal E)$ une variable aléatoire à valeurs dans $(E, \mathcal E)$.

• Pour $B \in \mathcal E$, on écrit

$$ \{ X \in B \} := \{ \omega \in \Omega \mid X(\omega) \in B \} = X^{-1}(B). $$

• Pour une variable aléatoire réelle (i.e. $(E, \mathcal E) = (\mathbb R, B(\mathbb R))$), on écrit

$$\begin{align*} \{ X > x_0 \} & := \{ \omega \in \Omega \mid X(\omega) > x_0 \}, \\ \{ a < X \leqslant b \} & := \{ \omega \in \Omega \mid a < X(\omega) \leqslant b \}. \end{align*} $$

Definition : Soit $X: (\Omega, \mathcal A, \mathbb P) \to (E, \mathcal E)$ une variable aléatoire. Sa loi, notée $\mathbb P_X$, est l'application

$$\begin{align*} \mathbb P_X: \mathcal E &\to [0, 1] \\ B &\mapsto \mathbb P(X \in B) \end{align*} $$

($\mathbb P_X$ est bien définie car pour tout $B \in \mathcal E$, on a $\{ X \in B \} = X^{-1}(B) \in \mathcal A$. Donc $\mathbb P(X^{-1}(B))$ est bien définie.)

Théorème : La loi $\mathbb P_X$ est une mesure de probabilité sur $(E, \mathcal E)$.

Preuve :

1. $\mathbb P_X(E) = \mathbb P(X \in E) = \mathbb P(\Omega) = 1$.
2. Soit $(E_n)_{n \in \mathbb N}$ une suite d'éléments de $\mathcal E$ deux à deux disjoints. Alors $(X^{-1}(E_n))_{n \in \mathbb N}$ est une suite d'ensembles deux à deux disjoints dans $\mathcal A$. Donc par la $\sigma$-additivité de $\mathbb P$,

$$ \mathbb P \left(\bigcup\limits_{n \in \mathbb N} X^{-1}(E_n) \right) = \sum\limits_{n \in \mathbb N} \mathbb P(X^{-1}(E_n)). $$

Donc $\mathbb P_X \left(\bigcup\limits_{n \in \mathbb N} E_n\right) = \sum\limits_{n \in \mathbb N} \mathbb P_X(E_n)$. Càd $\mathbb P_X$ est aussi $\sigma$-additive (sur $(E, \mathcal E)$). Donc $\mathbb P_X$ est une probabilité sur $(E, \mathcal E)$.

$\square$

Remarque : Pour n'importe quelle mesure de probabilité $\mu$ sur l'espace probabilisable $(E, \mathcal E)$, il existe une variable aléatoire $X: (\Omega, \mathcal A, \mathbb P) \to (E, \mathcal E)$ telle que $\mu = \mathbb P_X$. Il suffit de considérer $(\Omega, \mathcal A, \mathbb P) = (E, \mathcal E, \mu)$ et $X = \mathrm{id}_E$. i.e. $X$ est une variable aléatoire à valeurs dans $(E, \mathcal E)$ et la loi de $X$ est $\mu$.

Definition : Soient $X, Y$ deux variables aléatoires à valeurs dans le même espace probabilisable $(E, \mathcal E)$. On dit que $X$ et $Y$ ont la même loi (ou : $X$ et $Y$ sont équiréparties) si $\mathbb P_X = \mathbb P_Y$. Dans ce cas, on écrit $X \overset{\text{loi}}{=} Y$ ("$X$ est égale à $Y$" en loi) ou $X \overset{\text{(d)}}{=} Y$ ("$X$ est égale à $Y$" en distribution).

Remarque : $X$ et $Y$ ne sont pas nécessairement définies sur le même espace de probabilité $(\Omega, \mathcal A, \mathbb P)$.

3.1.1 Variable aléatoire discrète

Definition : Une variable aléatoire $X: \Omega \to E$ est discrète, si son image $X(\Omega) = \{ X(\omega) \mid \omega \in \Omega \}$ est au plus dénombrable. Si $X(\Omega)$ est finie, $X$ est appelée une variable aléatoire finie.

Remarque (Hypothèse) : Dans la suite, on suppose que les singletons $\{ x \}$ ($x \in E$) dans l'espace d'arrivée $(E, \mathcal E)$ sont mesurables. (càd $\forall x \in E, \{ x \} \in \mathcal E$). En particulier, cette hypothèse est vraie si $E = \mathbb R^n$ et $\mathcal E = B(\mathbb R^n)$ ou $\mathcal E = \mathcal P(E)$.

Proposition : Soit $X$ une variable aléatoire discrète à valeurs dans $(E, \mathcal E)$. Alors $\forall B \in \mathcal E, \mathbb P(X \in B) = \sum\limits_{x \in B \cap X(\Omega)} \mathbb P(X = x)$.

Preuve : On a

$$ \{ X \in B \} = \{ \omega \in \Omega \mid X(\omega) \in B \} = \bigcup_{x \in B \cap X(\Omega)} \{ \omega \in \Omega \mid X(\omega) = x \}. $$

Les ensembles $\{ \omega \in \Omega \mid X(\omega) = x \}$ (pour $x \in B \cap X(\Omega)$) sont deux à deux disjoints, donc par la $\sigma$-additivité de $\mathbb P$,

$$ \mathbb P(X \in B) = \sum\limits_{x \in B \cap X(\Omega)} \mathbb P(X = x). $$

$\square$

Exemple : Si $X = \mathbb I_A$ (avec $A \in \mathcal A$), alors

• $\mathbb P(X = 1) = \mathbb P(A)$.
• $\mathbb P(X = 0) = \mathbb P(A^C) = 1 - \mathbb P(A)$.
• $X$ est une variable réelle et discrète.

3.1.2 Fonction de répartition

Definition : Soit $X$ une variable aléatoire réelle. La fonction de répartition de $X$ est l'application

$$\begin{align*} F_X: \mathbb R &\to [0, 1] \\ t &\mapsto \mathbb P(X \leqslant t) \end{align*} $$

Proposition : Toute fonction de répartition $F_X$ vérifie

1. $F_X$ est croissante. ($\forall x \leqslant y, F_X(x) \leqslant F_X(y)$)
2. $F_X$ est continue à droite. ($\forall t \in \mathbb R, \lim\limits_{s \to t^+} F_X(s) = F_X(t)$)
3. $\lim\limits_{x \to +\infty} F_X(x) = 1$ et $\lim\limits_{x \to -\infty} F_X(x) = 0$.

Preuve :

1. Pour $x \leqslant y$, $\{ X \leqslant x \} \subseteq \{ X \leqslant y \}$, donc $\mathbb P(X \leqslant x) \leqslant \mathbb P(X \leqslant y)$. i.e. $F_X(x) \leqslant F_X(y)$.
2. Soit $(x_n)$ une suite décroissante telle que $x_n \xrightarrow[n \to \infty]{} t$. Alors $\{ X \leqslant x_n \}$ est une suite décroissante d'événements. Par la continuité de la probabilité,

$$\begin{align*} \mathbb P(X \leqslant t) & = \lim\limits_{n \to \infty} \downarrow \mathbb P(X \leqslant x_n) = \mathbb P \left(\bigcap_{n \in \mathbb N} \{ X \leqslant x_n \}\right), \\ \bigcap_{n \in \mathbb N} \{ X \leqslant x_n \} & = \{ \forall n \in \mathbb N, X \leqslant x_n \} = \{ X \leqslant \inf_{n \in \mathbb N} x_n \} = \{ X \leqslant t \}. \end{align*} $$

Donc $F_X(t) = \lim\limits_{n \to \infty} \downarrow F_X(x_n)$. 3. On remplace la suite $(x_n)$ dans la partie 2 par une suite $x_n \to +\infty$ croissante, ou une suite $x_n \to -\infty$ décroissante.

• Si $(x_n)$ est croissante et $x_n \to \infty$,

$$ \lim\limits_{n \to \infty} \uparrow \mathbb P(X \leqslant x_n) = \mathbb P \left(\bigcup_{n \in \mathbb N} \{ X \leqslant x_n \}\right) = \mathbb P(\Omega) = 1. $$

• Si $(x_n)$ est décroissante et $x_n \to -\infty$,

$$ \lim\limits_{n \to \infty} \downarrow \mathbb P(X \leqslant x_n) = \mathbb P \left(\bigcap_{n \in \mathbb N} \{ X \leqslant x_n \}\right) = \mathbb P(\varnothing) = 0. $$

$\square$

Théorème (admis) : La fonction de répartition d'une variable aléatoire réelle détermine sa loi.

Preuve (Idée de la preuve) :

• $F_X$ détermine $\mathbb P(X \in ]-\infty, t])$.
• $B(\mathbb R) = \sigma(\{ ]-\infty, t]: t \in \mathbb R \})$.

$\square$

Proposition : Soit $X$ une variable aléatoire. Alors pour tout $x \in \mathbb R$,

$$ \mathbb P(X = x) = F_X(x) - \lim\limits_{y \to x^-} F_X(y). $$

Preuve :

$$ \{ X = x \} = \{ X \leqslant x \} \setminus \{ X < x \} = \{ X \leqslant x \} \setminus \left( \bigcup_{n \in \mathbb N} \{ X \leqslant x - \tfrac{1}{n} \} \right). $$

Donc

$$\begin{align*} \mathbb P(X = x) & = \mathbb P(X \leqslant x) - \lim\limits_{n \to \infty} \uparrow \mathbb P\left(X \leqslant x - \tfrac{1}{n}\right) \\ & = F_X(x) - \lim\limits_{n \to \infty} \uparrow F_X\left(x - \tfrac{1}{n}\right) \\ & = F_X(x) - \lim\limits_{y \to x^-} F_X(y). \end{align*} $$

$\square$

Remarque (Interprétation) : Pour tout $x \in \mathbb R$, la loi $\mathbb P_X$ donne une mesure non nulle au singleton $\{ x \}$ ssi $F_X$ a une discontinuité à $x$.

Remarque : Si $\mathbb P_X$ donne une mesure nulle à un intervalle $]a, b[$, alors $F_X$ est constante sur $]a, b[$. Pour tout $x < y$ et $x, y \in ]a, b[$,

$$ F_X(y) - F_X(x) = \mathbb P(x < X \leqslant y) \leqslant \mathbb P(X \in ]a, b[) = \mathbb P_X(]a, b[) = 0. $$

3.1.3 Fonction de répartition des variables aléatoires discrètes

Proposition : Soient $X, Y$ deux variables aléatoires à valeurs dans $(E, \mathcal E)$. Soit $f: (E, \mathcal E) \to (F, \mathcal F)$ une fonction mesurable. Si $X \overset{\text{loi}}{=} Y$, alors $f(X) \overset{\text{loi}}{=} f(Y)$.

Remarque : Autrement dit, la loi de $f(X)$ ne dépend que de la loi de $X$.

Preuve : Soit $C \in \mathcal F$. On a $f(X) = f \circ X$. Alors

$$\begin{align*} \mathbb P_{f(X)}(C) &= \mathbb P(f(X) \in C) \\ &= \mathbb P(\{ \omega \in \Omega \mid f(X(\omega)) \in C \}) \\ &= \mathbb P(\{ \omega \in \Omega \mid X(\omega) \in f^{-1}(C) \}) \\ &= \mathbb P_X(f^{-1}(C)). \end{align*} $$

$\square$

3.2 Lois discrètes usuelles

3.2.1 Loi uniforme discrète

Soit $E$ un ensemble non vide.

Definition : Une variable aléatoire $X$ à valeurs dans $(E, \mathcal P(E))$ suit la loi uniforme sur $E$, si $\forall x \in E, \mathbb P(X = x) = \frac{1}{|E|}$. Alors on note $X \sim \mathrm{unif}(E)$. ("$X$ suit la loi uniforme sur $E$.")

Exemple : Si $a, b \in \mathbb Z$ avec $a < b$ et si $X \sim \mathrm{unif}([\![ a, b ]\!])$, alors $\forall a \leqslant k \leqslant b, \mathbb P(X = k) = \frac{1}{|b - a + 1|}$.

3.2.2 Loi de Bernoulli

Soit $p \in [0, 1]$ (paramètre).

Definition : Une variable aléatoire à valeurs dans $\{ 0, 1 \}$ suit la loi de Bernoulli de paramètre $p$, si $\mathbb P(X = 1) = p, \mathbb P(X = 0) = 1 - p$. Alors on note $X \sim \mathrm{ber}(p)$. ("$X$ suit la loi de Bernoulli de paramètre $p$.")

Exemple : Si $A$ est un événement de probabilité $p$, alors $\mathbb I_A \sim \mathrm{ber}(p)$.

3.2.3 Loi binomiale

Soient $n \in \mathbb N^*$ et $p \in [0, 1]$.

Definition : Une variable aléatoire à valeurs dans $[\![ 0, n ]\!]$ suit la loi binomiale de paramètres $n$ et $p$, si $\forall k \in [\![ 0, n ]\!], \mathbb P(X = k) = \binom{n}{k} p^k(1 - p)^{n - k}$. Alors on note $X \sim \mathcal B(n, p)$.

Remarque : Cette loi est bien définie, car

$$ \sum\limits_{k = 0}^n \mathbb P(X = k) = \sum\limits_{k = 0}^n \binom{n}{k} p^k(1 - p)^{n - k} = 1. $$

Remarque (Interprétation) : La loi binomiale est la loi du nombre de "succès" dans $n$ épreuves / tests de Bernoulli indépendants qui ont la même probabilité de succès $p$. Càd : supposons $A_1, A_2, \ldots, A_n$ : $n$ événements mutuellement indépendants tels que $\forall k \in [\![ 1, n ]\!], \mathbb P(A_k) = p$, et

$$ X = \mathrm{card} \{ k \in [\![ 1, n ]\!] \mid A_k \text{ est réalisé} \} = \sum\limits_{k = 1}^n \mathbb I_{A_k}. $$

Alors $X \sim \mathcal B(n, p)$.

3.2.4 Loi géométrique

Soit $p \in ]0, 1[$.

Definition : Une variable aléatoire à valeurs dans $\mathbb N^*$ suit la loi géométrique de paramètre $p$, si $\forall k \in \mathbb N^*, \mathbb P(X = k) = p(1 - p)^{k - 1}$. Alors on note $X \sim \mathcal G(p)$.

Remarque (Interprétation) : $X$ représente le rang (l'indice) du premier succès dans une suite (infinie) d'épreuves de Bernoulli indépendantes de même probabilité de succès $p$. Càd si

• $A_1, A_2, \ldots$ suite d'événements indépendants.
• $\forall n \in \mathbb N^*, \mathbb P(A_n) = p$.
• $X = \inf \{ n \in \mathbb N^* \mid A_n \text{ est réalisée} \}$.

Alors $X \sim \mathcal G(p)$.

Proposition (Absence de mémoire de la loi géométrique) : Si $X \sim \mathcal G(p)$, alors pour tout $k, l \in \mathbb N$,

• $\mathbb P(X > k) = (1 - p)^k$.
• $\mathbb P(X > k + l \mid X > k) = \mathbb P(X > l)$.

Remarque (Interprétation) :

• $\{ X > k \}$ : le premier succès arrive après le temps $k$.
• $\{ X > k + l \}$ : le premier succès arrive après le temps $k + l$.

Preuve :

• $\mathbb P(X > k) = \mathbb P \left( \bigcup\limits_{n > k} \{ X = n \} \right) = \sum\limits_{n = k + 1}^\infty \mathbb P(X = n) = \sum\limits_{n = k + 1}^\infty p(1 - p)^{n - 1} = (1 - p)^k$.
• $\mathbb P(X > k + l \mid X > k) = \frac{\mathbb P(X > k + l)}{\mathbb P(X > k)} = \frac{(1 - p)^{k + l}}{(1 - p)^k} = (1 - p)^l = \mathbb P(X > l)$.

$\square$

3.2.5 Loi de Poisson

Soit $\lambda > 0$.

Definition : Une variable aléatoire à valeurs dans $\mathbb N$ suit la loi de Poisson de paramètre $\lambda$, si $\forall k \in \mathbb N, \mathbb P(X = k) = e^{-\lambda} \frac{\lambda^k}{k!}$. Alors on note $X \sim \mathcal P(\lambda)$.

Remarque : Cette loi est bien définie, car

$$ \sum\limits_{k = 0}^\infty e^{-\lambda} \frac{\lambda^k}{k!} = 1. $$

Remarque (Approximation de Poisson) : Une loi binomiale comportant un grand nombre de tests, et une faible probabilité de succès est approximativement une loi de Poisson.

Théorème : Soit $(p_n)_{n \geqslant 1}$ une suite telle que

$$ \forall n \in \mathbb N^*, p_n \in [0, 1], n \cdot p_n \xrightarrow[n \to \infty]{} \lambda > 0 $$

Soit $X_n$ une variable aléatoire avec $X_n \sim \mathcal B(n, p_n)$, alors $\forall k \in \mathbb N, \mathbb P(X_n = k) \xrightarrow[n \to \infty]{} e^{-\lambda} \frac{\lambda^k}{k!}$.

Preuve : Pour tout $n > k$, on a

$$ \mathbb P(X_n = k) = \binom{n}{k} p_n^k(1 - p_n)^{n - k} = \frac{n(n - 1) \cdots (n - k + 1)}{k!} p_n^k(1 - p_n)^{n - k}. $$

On peut réécrire

$$ \mathbb P(X_n = k) = \frac{1}{k!} \cdot \frac{(np_n)^k}{(1 - p_n)^{k}} \cdot (1 - p_n)^n \cdot \frac{n(n - 1) \cdots (n - k + 1)}{n^k}. $$

• $\ln\left((1 - p_n)^n\right) = n \cdot \ln(1 - p_n) \underset{n \to \infty}{\sim} -n \cdot p_n \xrightarrow[n \to \infty]{} -\lambda$, donc $(1 - p_n)^n \underset{n \to \infty}{\sim} e^{-\lambda}$.
• $\frac{n(n - 1) \cdots (n - k + 1)}{n^k} = \prod\limits_{j = 0}^{k - 1} \frac{n - j}{n} \xrightarrow[n \to \infty]{} 1$.

On en déduit que $\mathbb P(X_n = k) \xrightarrow[n \to \infty]{} \frac{1}{k!} \lambda^k e^{-\lambda}$.

$\square$

3.3 Vecteurs aléatoires et lois conjointes

Definition : Pour $n \geqslant 1$, on pose

$$ B(\mathbb R^n) = \sigma(\{ I_1 \times I_2 \times \cdots \times I_n \mid I_1, I_2, \ldots, I_n \text{ sont des intervalles de } \mathbb R \}). $$

On admet que $B(\mathbb R^n)$ contient tous les ensembles ouverts et tous les ensembles fermés de $\mathbb R^n$.

$B(\mathbb R^n)$ est appelée la tribu borélienne de $\mathbb R^n$.

Definition : Un vecteur aléatoire de dimension $n$ est une application mesurable

$$ V: (\Omega, \mathcal A, \mathbb P) \to (\mathbb R^n, B(\mathbb R^n)) $$

Théorème : Soit $X_1, X_2, \ldots, X_n: \Omega \to \mathbb R$. L'application $X: \Omega \to \mathbb R^n, \omega \mapsto \left(X_1(\omega), X_2(\omega), \ldots, X_n(\omega)\right)$ est un vecteur aléatoire ssi $X_1, X_2, \ldots, X_n$ sont des variables aléatoires réelles.

Remarque : Autrement dit : $X$ est mesurable par rapport à $B(\mathbb R^n)$ ssi les $X_i$ sont mesurables par rapport à $B(\mathbb R)$.

Lemme : Toute fonction continue $f: \mathbb R^n \to \mathbb R^m$ est mesurable par rapport aux $B(\mathbb R^n)$ et $B(\mathbb R^m)$.

Preuve : Par définition de la continuité,

$$ \forall U \text{ ouvert dans } \mathbb R^m, f^{-1}(U) \text{ est ouvert dans } \mathbb R^n. $$

Donc $f^{-1}(U) \in B(\mathbb R^n)$, car $B(\mathbb R^n) = \sigma(\{ U: \text{ouvert de } \mathbb R^n \})$. Et on a

$$\begin{align*} f^{-1}\left(\bigcap_{n \in \mathbb N} A_n\right) & = \bigcap_{n \in \mathbb N} f^{-1}(A_n), \\ f^{-1}\left(\bigcup_{n \in \mathbb N} A_n\right) & = \bigcup_{n \in \mathbb N} f^{-1}(A_n), \\ f^{-1}\left(A^C\right) & = \left(f^{-1}(A)\right)^C. \end{align*} $$

Donc $\{ A \subseteq \mathbb R^m \mid f^{-1}(A) \in B(\mathbb R^n) \}$ est une tribu, donc $B(\mathbb R^m) \subseteq \{ A \subseteq \mathbb R^m \mid f^{-1}(A) \in B(\mathbb R^n) \}$.

$\square$

Preuve (Démonstration du théorème) :

$\boxed{\Rightarrow}$ : Pour tout $k \in [\![ 1, n ]\!], \pi_k: \mathbb R^n \to \mathbb R, (x_1, x_2, \ldots, x_n) \mapsto x_k$ est une fonction continue, donc mesurable. Si $X: \Omega \to \mathbb R^n$ est mesurable (i.e. $X$ est un vecteur aléatoire), alors $\forall k \in \mathbb N^*, \pi_k \circ X: \Omega \to \mathbb R$ est mesurable, i.e. $X_k$ est une variable aléatoire réelle.

$\boxed{\Leftarrow}$ : Supposons que $X_1, X_2, \ldots, X_n: \Omega \to \mathbb R$ sont mesurables. Soit $\mathcal C = \{ B \subseteq \mathbb R^n \mid X^{-1}(B) \in \mathcal A \}$, alors $\mathcal C$ est une tribu. Donc pour montrer que $\mathcal C \supseteq B(\mathbb R^n)$, il suffit de montrer que pour tous les intervalles $I_1, I_2, \ldots, I_n \subseteq \mathbb R$, on a $I_1 \times I_2 \times \cdots \times I_n \in \mathcal C$. Mais

$$\begin{align*} X^{-1}(I_1 \times I_2 \times \cdots \times I_n) &= \{ \omega \in \Omega \mid \forall k \in [\![ 1, n ]\!], X_k(\omega) \in I_k \} \\ &= \bigcap\limits_{k = 1}^n \{ X_k \in I_k \} \\ &= \bigcap\limits_{k = 1}^n X_k^{-1}(I_k) \in \mathcal A. \end{align*} $$

Donc $I_1 \times I_2 \times \cdots \times I_n \in \mathcal C$. Puisque $B(\mathbb R^n) = \sigma(\{ I_1 \times I_2 \times \cdots \times I_n \mid I_1, I_2, \ldots, I_n \text{ sont des intervalles} \})$, on en déduit $\mathcal C \supseteq B(\mathbb R^n)$. Donc $X: (\Omega, \mathcal A) \to (\mathbb R^n, B(\mathbb R^n))$ est mesurable.

$\square$

Corollaire : Si $X_1, X_2, \ldots, X_n$ sont des variables aléatoires réelles et $f: \mathbb R^n \to \mathbb R^m$ est continue, alors $f(X_1, X_2, \ldots, X_n): \Omega \to \mathbb R^m, \omega \mapsto f(X_1(\omega), X_2(\omega), \ldots, X_n(\omega))$ est un vecteur aléatoire.

Preuve : Parce que la composée de deux fonctions mesurables est mesurable, $$\Omega \xrightarrow{X = (X_1, X_2, \ldots, X_n)} \mathbb R^n \xrightarrow{f}\mathbb R^m.$$

$\square$

Remarque : Si $X, Y$ sont deux variables aléatoires réelles, alors $X + Y, X - Y, XY, |X|, \min(X, Y), \max(X, Y)$ sont des variables aléatoires réelles.

Definition : Deux variables aléatoires $X, Y$ définies sur le même espace de probabilité sont dites égales presque sûrement, si $\mathbb P(X = Y) = 1$.

Remarque : Càd $X, Y: (\Omega, \mathcal A, \mathbb P) \to E$, on dit $X = Y$ presque sûrement si $\mathbb P(\{ \omega \mid X(\omega) = Y(\omega) \}) = 1$.

Proposition : Si $X = Y$ presque sûrement, alors $X \overset{\text{loi}}{=} Y$.

Preuve : Soit $N = \{ X \neq Y \} = \{ \omega \in \Omega \mid X(\omega) \neq Y(\omega) \}$. Soit $B \in \mathcal E$.

Alors $\mathbb P_X(B) = \mathbb P(\{ X \in B \}) = \mathbb P(\{ X \in B \} \setminus N) + \mathbb P(\{ X \in B \} \cap N)$.

D'une part,

$$\begin{align*} \{ X \in B \} \setminus N &= \{ X \in B \} \cap \{ X = Y \} \\ &= \{ Y \in B \} \cap \{ X = Y \} \\ &= \{ Y \in B \} \setminus N, \end{align*} $$

donc $\mathbb P(\{ X \in B \} \setminus N) = \mathbb P(\{ Y \in B \} \setminus N)$.

D'autre part, $\{ X \in B \} \cap N \subseteq N$, et $\mathbb P(N) = \mathbb P(X \neq Y) = 0$.

Donc

$$ \mathbb P_X(B) = \mathbb P(\{ X \in B \} \setminus N) = \mathbb P(\{ Y \in B \} \setminus N) = \mathbb P_Y(B). $$

Donc $\mathbb P_X = \mathbb P_Y$, càd $X \overset{\text{loi}}{=} Y$.

$\square$

Remarque : Problème : en général, $\{ X = Y \}$ n'est pas nécessairement mesurable.

• Cas réel : si $X, Y$ sont à valeurs dans $(\mathbb R^n, B(\mathbb R^n))$, alors $\{ X = Y \} = \{ X - Y \in \{0_{\mathbb R^n}\} \}$.
• Cas général : on définit $X = Y$ presque sûrement ssi

$$ \exists A \in \mathcal A, A \subseteq \{ X = Y \}, \mathbb P(A) = 1. $$

Definition : La loi conjointe des variables aléatoires réelles $X_1, X_2, \ldots, X_n$ est la loi du vecteur aléatoire $(X_1, X_2, \ldots, X_n)$. Elle est notée $\mathbb P_{(X_1, X_2, \ldots, X_n)}$ (mesure de probabilité sur $\mathbb R^n$). Dans ce contexte, les lois de $X_1, X_2, \ldots, X_n$ (i.e. $\mathbb P_{X_1}, \mathbb P_{X_2}, \ldots, \mathbb P_{X_n}$) sont appelées les lois marginales du vecteur aléatoire.

Exercice : Pour $A, B \in B(\mathbb R)$, et $X, Y$ deux variables aléatoires réelles, on a

$$\begin{align*} \mathbb P_{(X, Y)} (A \times B) & = \mathbb P(X \in A \text{ et } Y \in B), \\ \mathbb P_X(A) & = \mathbb P_{(X, Y)}(A \times \mathbb R), \\ \mathbb P_Y(B) & = \mathbb P_{(X, Y)}(\mathbb R \times B). \end{align*} $$

Remarque (Cas discret) : Soient $X, Y$ deux variables discrètes. Soient $D = X(\Omega), D' = Y(\Omega)$ ($D, D'$ sont au plus dénombrables). Soit $p_{xy} = \mathbb P(X = x, Y = y), \forall (x, y) \in D \times D'$. Alors on a

$$\begin{align*} & \sum\limits_{(x, y) \in D \times D'} p_{xy} = 1, \\ & \forall x \in D, \quad \mathbb P(X = x) = \sum\limits_{y \in D'} p_{xy}, \\ & \forall y \in D', \quad \mathbb P(Y = y) = \sum\limits_{x \in D} p_{xy}. \end{align*} $$

Preuve :

$$ \mathbb P(Y = y) = \mathbb P \left(\bigsqcup_{x \in D} \{ X = x, Y = y \}\right) = \sum\limits_{x \in D} \mathbb P(X = x, Y = y). $$

$\square$

3.3.1 Loi conditionnelle sachant une valeur de probabilité positive

Soient $X, Y$ deux variables aléatoires, et $y$ une valeur de $Y$ telle que $\mathbb P(Y = y) > 0$.

Definition : La loi conditionnelle de $X$ sachant $Y = y$ est définie par

$$ \forall A \in \mathcal E, \mathbb P_{X \mid Y = y}(A) = \mathbb P(X \in A \mid Y = y) $$

Remarque : Càd

$$ \mathbb P_{X \mid Y = y}(A) = \frac{\mathbb P(\{ X \in A \} \cap \{ Y = y \})}{\mathbb P(Y = y)} $$

Exemple : On lance deux dés équilibrés. Soient $X = \text{résultat du premier dé} \in [\![ 1, 6 ]\!]$, $S = \text{la somme des résultats des deux dés} \in [\![ 2, 12 ]\!]$. On considère l'événement $\{ S = 7 \}$.

Pour tout $k \in [\![ 1, 6 ]\!]$,

$$ \mathbb P(X = k, S = 7) = \mathbb P(X = k) \cdot \mathbb P(S - X = 7 - k) = \left(\frac{1}{6}\right)^2. $$

Donc $\mathbb P(S = 7) = \sum\limits_{k = 1}^6 \mathbb P(X = k, S = 7) = \frac{1}{6}$, et

$$ \mathbb P(X = k \mid S = 7) = \frac{\frac{1}{36}}{\frac{1}{6}} = \frac{1}{6}. $$

Càd la loi conditionnelle $\mathbb P_{X \mid S = 7}$ est la même que la loi de $X$, càd la loi uniforme sur $[\![ 1, 6 ]\!]$ :

$$ \mathbb P_{X \mid S = 7} = \mathbb P_X = \mathrm{unif}([\![ 1, 6 ]\!]). $$

3.4 Indépendance de variables aléatoires

Soit $(\Omega, \mathcal F, \mathbb P)$ un espace de probabilité.

Definition (Indépendance de deux événements) :

• On dit que $A, B$ sont indépendants, si

$$ \mathbb P(A \cap B) = \mathbb P(A) \mathbb P(B). $$

• On dit que $n$ événements $A_1, A_2, \ldots, A_n$ sont mutuellement indépendants, si

$$ \forall I \subseteq [\![ 1, n ]\!], \mathbb P \left(\bigcap_{i \in I} A_i\right) = \prod_{i \in I} \mathbb P(A_i). $$

Definition (Indépendance de deux variables aléatoires) : Soit $X: (\Omega, \mathcal F) \to (\mathbb R^n, \mathcal B(\mathbb R^n))$ et $Y: (\Omega, \mathcal F) \to (\mathbb R^m, \mathcal B(\mathbb R^m))$. On dit que $X$ et $Y$ sont indépendantes si pour tous $A \in \mathcal B(\mathbb R^n), B \in \mathcal B(\mathbb R^m)$,

$$ \mathbb P(X \in A, Y \in B) = \mathbb P(X \in A) \mathbb P(Y \in B). $$

On note $X \perp\!\!\!\perp Y$.

Remarque (Conséquence) : Si $X \perp\!\!\!\perp Y$, alors $\mathbb P(X \in A \mid Y \in B) = \mathbb P(X \in A), (\mathbb P(Y \in B) > 0)$.

Proposition : Si $X, Y$ sont discrètes, alors $X \perp\!\!\!\perp Y$ ssi

$$ \forall x \in X(\Omega), y \in Y(\Omega), \mathbb P(X = x, Y = y) = \mathbb P(X = x) \mathbb P(Y = y) $$

Preuve :

$\boxed{\Rightarrow}$ : Ce sens s'obtient en prenant $A = \{ x \}, B = \{ y \}$.

$\boxed{\Leftarrow}$ : Réciproquement, posons $D = X(\Omega), D' = Y(\Omega)$, $D, D'$ sont au plus dénombrables. Pour tous ensembles mesurables $A, B$, on a

$$\begin{align*} \mathbb P(X \in A, Y \in B) &= \sum\limits_{\substack{x \in D \\ y \in D'}} \mathbb P(X = x, Y = y) \\ &= \sum\limits_{\substack{x \in D \\ y \in D'}} \mathbb P(X = x) \mathbb P(Y = y) \\ &= \left(\sum\limits_{x \in D} \mathbb P(X = x)\right)\left(\sum\limits_{y \in D'} \mathbb P(Y = y)\right) \\ &= \mathbb P(X \in A) \mathbb P(Y \in B). \end{align*} $$

$\square$

Proposition (Indépendance par les fonctions de répartition) : Deux variables $X, Y$ (à valeurs réelles) sont indépendantes ssi

$$ F_{X, Y}(x, y) = F_X(x) F_Y(y), \quad \forall x, y \in \mathbb R, $$

c'est-à-dire

$$ \mathbb P(X \leqslant x, Y \leqslant y) = \mathbb P(X \leqslant x) \mathbb P(Y \leqslant y). $$

Proposition (Indépendance par transformation) : Soient $X, Y$ deux variables aléatoires indépendantes. Soit $f, g: \mathbb R^n \to \mathbb R$ deux applications mesurables. Alors $f(X)$ et $g(Y)$ sont indépendantes.

Preuve : Pour tous ensembles mesurables $A, B \in \mathcal B(\mathbb R^n)$,

$$\begin{align*} \mathbb P(f(X) \in A, g(Y) \in B) &= \mathbb P(X \in f^{-1}(A), Y \in g^{-1}(B)) \\ &= \mathbb P(X \in f^{-1}(A)) \mathbb P(Y \in g^{-1}(B)) \\ &= \mathbb P(f(X) \in A) \mathbb P(g(Y) \in B). \end{align*} $$

Donc $f(X)$ et $g(Y)$ sont indépendantes.

$\square$

3.4.1 Indépendance d'une famille de variables

Soit $I$ un ensemble d'indices.

Definition : Soit $(X_i)_{i \in I}$ une famille de variables aléatoires. On dit que $(X_i)_{i \in I}$ sont mutuellement indépendantes, si pour toute partie finie $J \subseteq I$, pour tous ensembles mesurables $A_j$, on a

$$ \mathbb P \left(\bigcap_{j \in J} \{X_j \in A_j\}\right) = \prod_{j \in J} \mathbb P(X_j \in A_j) $$

Remarque : $(X_i)_{i \in I}$ sont indépendantes deux à deux, si pour tout $i \neq j$, $X_i$ et $X_j$ sont indépendantes.

Exemple : Soit $\Omega = \{ 0, 1 \}$.

$X \setminus Y$	0	1
0	$\frac{1}{4}$	$\frac{1}{4}$
1	$\frac{1}{4}$	$\frac{1}{4}$

$$ \mathbb P(X = i, Y = j) = \frac{1}{2^2}, \quad i, j \in \{ 0, 1 \}. $$

Les lois marginales sont

$$ \mathbb P(X = 0) = \mathbb P(X = 1) = \mathbb P(Y = 0) = \mathbb P(Y = 1) = \frac{1}{2}. $$

Donc $X \perp\!\!\!\perp Y$.

On définit $Z = \mathbb I_{X = Y}$, alors

$$ \mathbb P(Z = 1) = \mathbb P(Z = 0) = \frac{1}{2}. $$

Et

$$\begin{align*} \mathbb P(X = 0, Z = 0) & = \mathbb P(X = 0, Y = 1) = \frac{1}{4}, & \mathbb P(X = 0, Z = 1) & = \mathbb P(X = 0, Y = 0) = \frac{1}{4}, \\ \mathbb P(X = 1, Z = 0) & = \mathbb P(X = 1, Y = 0) = \frac{1}{4}, & \mathbb P(X = 1, Z = 1) & = \mathbb P(X = 1, Y = 1) = \frac{1}{4}. \end{align*} $$

Donc $X \perp\!\!\!\perp Z$, par symétrie, $Y \perp\!\!\!\perp Z$. Mais $X, Y, Z$ ne sont pas mutuellement indépendantes.

Proposition : Soient $X_1, X_2, \ldots, X_n$ variables aléatoires réelles mutuellement indépendantes. Si $f: \mathbb R^p \to \mathbb R$, et $g: \mathbb R^{n - p} \to \mathbb R$ sont mesurables, alors les deux variables aléatoires

$$ f(X_1, X_2, \ldots, X_p), g(X_{p + 1}, X_{p + 2}, \ldots, X_n) $$

sont indépendantes.

Preuve : Posons $U = (X_1, X_2, \ldots, X_p) \in \mathbb R^p, V = (X_{p + 1}, X_{p + 2}, \ldots, X_n) \in \mathbb R^{n - p}$. On va démontrer que $U \perp\!\!\!\perp V$. On prend $A = I_1 \times I_2 \times \cdots \times I_p, B = I_{p + 1} \times I_{p + 2} \times \cdots \times I_n$, où $I_j$ sont des intervalles dans $\mathbb R$. Par l'indépendance,

$$\begin{align*} \mathbb P(U \in A, V \in B) & = \mathbb P(X_1 \in I_1, \ldots, X_p \in I_p, X_{p + 1} \in I_{p + 1}, \ldots, X_n \in I_n) \\ & = \mathbb P(X_1 \in I_1, \ldots, X_p \in I_p) \cdot \mathbb P(X_{p + 1} \in I_{p + 1}, \ldots, X_n \in I_n) \\ & = \mathbb P(U \in A) \mathbb P(V \in B). \end{align*} $$

Comme les produits d'intervalles engendrent les tribus boréliennes, cette égalité se généralise à tous $A \in \mathcal B(\mathbb R^p), B \in \mathcal B(\mathbb R^{n - p})$. Donc $U \perp\!\!\!\perp V$.

$\square$

Dans la suite de cours, nous admettons le théorème suivant.

Théorème (Existence d'une suite de variables aléatoires indépendantes) : Pour toute suite $(P_n)$ de lois de probabilité, il existe un espace de probabilité $(\Omega, \mathcal F, \mathbb P)$, et une suite $(X_n)$ de variables aléatoires indépendantes sur $(\Omega, \mathcal F, \mathbb P)$, telle que pour tout $n$, la loi de $X_n$ soit $P_n$.

Remarque : En pratique, si $P_n = P$, pour tout $n$, (on dit que $(X_n)$ est une suite de variables aléatoires indépendantes, identiquement distribuées ($(X_n)$ i.i.d.)), une telle suite modélise une suite d'épreuves identiques aux résultats indépendants.

3.4.2 Applications

Convolution dans le cas discret

Soient $f, g: \mathbb Z \to \mathbb R$. La convolution discrète est définie par

$$ (f * g)(n) = \sum\limits_{k \in \mathbb Z} f(n - k) g(k). $$

convolution discrète pour $f, g$ telles que

$$ \sum\limits_{n} |f(n)| < +\infty, \sum\limits_{n} |g(n)| < +\infty $$

Soient $X, Y$ deux variables aléatoires indépendantes à valeurs dans $\mathbb Z$, avec $\mathrm{Loi}(X) = p$ et $\mathrm{Loi}(Y) = q$, c'est-à-dire $\mathbb P(X = n) = p(n)$ et $\mathbb P(Y = n) = q(n)$, où $p, q: \mathbb Z \to [0, +\infty[$ satisfont $\sum\limits_{n \in \mathbb Z} p(n) = \sum\limits_{n \in \mathbb Z} q(n) = 1$.

Question : $\mathrm{Loi}(X + Y) = ?$

On a

$$ \mathbb P(X + Y = n) = \sum\limits_{k \in \mathbb Z} \mathbb P(X = n - k, Y = k) = \sum\limits_{k \in \mathbb Z} p(n - k) q(k) = (p * q)(n). $$

Donc $\mathrm{Loi}(X + Y) = p * q$, la convolution discrète de $\mathrm{Loi}(X)$ et $\mathrm{Loi}(Y)$.

Loi binomiale

Proposition : Soient $X_1, X_2, \ldots, X_n$ des variables indépendantes telles que $X_i \sim \mathrm{ber}(p)$ avec $p \in ]0, 1[$. Alors $Y = \sum\limits_{k = 1}^n X_k \sim \mathcal B(n, p)$. Plus précisément, $\mathbb P(Y = k) = \binom{n}{k} p^k (1-p)^{n-k}, \forall k \in [\![ 0, n ]\!]$.

Preuve : $\mathbb P(X_i = 1) = p, \mathbb P(X_i = 0) = 1 - p$. La somme $\sum\limits_{k = 1}^n X_k$ compte le nombre de succès, pour $k \in [\![ 1, n ]\!], \{ Y = k \} = \{ X_1 + X_2 + \cdots + X_n = k \}$ est l'union disjointe sur les parties $J \subseteq [\![ 1, n ]\!]$ de cardinal $k$ des événements $\left(\bigcap\limits_{i \in J} \{ X_i = 1 \}\right) \cap \left(\bigcap\limits_{i \notin J} \{ X_i = 0 \}\right)$ pour chaque $J$, on a $\# J = k, \mathbb P\left(\left(\bigcap\limits_{i \in J} \{ X_i = 1 \}\right) \cap \left(\bigcap\limits_{i \notin J} \{ X_i = 0 \}\right)\right) = p^k q^{n-k}$. Donc $\mathbb P(Y = k) = \binom{n}{k} p^k q^{n - k} = \binom{n}{k} p^k (1-p)^{n-k}$.

$\square$

Preuve (par récurrence) : Il s'agit d'une propriété $\mathcal P(n)$, on procède en deux étapes.

Étape 1 (Initialisation) : $\mathcal P(n)$ est vraie pour $n = n_0$.

Étape 2 (Hérédité) : sachant que $\mathcal P(n)$ est vraie, on en déduit que $\mathcal P(n + 1)$ est vraie.

Conclusion : $\mathcal P(n)$ est vraie pour tout $n$ entier, $n \geqslant n_0$.

Pour notre exemple.

$$ \mathcal P(n): \mathbb P(Y_n = k) = \binom{n}{k} p^k (1 - p)^{n - k}, \forall k \in [\![ 0, n ]\!] $$

Initialisation : $n = 1, k \in \{ 0, 1 \}$.

$$ \mathbb P(Y_1 = 0) = \mathbb P(X_1 = 0) = q, \mathbb P(Y_1 = 1) = \mathbb P(X_1 = 1) = p $$

Donc $\mathcal P(1)$ est vraie.

Hérédité : supposons que $\mathcal P(n)$ est vraie,

$$ Y_{n + 1} = Y_n + X_{n + 1} $$

où $Y_n$ et $X_{n + 1}$ sont indépendantes. Pour $1 \leqslant k \leqslant n + 1$, on a

$$\begin{align*} \mathbb P(Y_{n + 1} = k) & = \mathbb P(Y_n = k - 1) \mathbb P(X_{n + 1} = 1) + \mathbb P(Y_n = k) \mathbb P(X_{n + 1} = 0) \\ & = \binom{n}{k - 1} p^{k - 1} q^{n - k + 1} p + \binom{n}{k} p^k q^{n - k} q \\ & = \left(\binom{n}{k - 1} + \binom{n}{k}\right) p^k q^{n - k} \\ & = \binom{n + 1}{k} p^k q^{n - k}. \end{align*} $$

Et

$$ \mathbb P(Y_{n + 1} = 0) = \mathbb P(X_1 = 0, X_2 = 0, \ldots, X_{n + 1} = 0) = q^{n + 1} $$

Par conséquent, $\mathcal P(n + 1)$ est vraie.

En conclusion, $\mathcal P(n)$ est vraie pour tout $n \in \mathbb N^*$.

$\square$

3.5 Espérance, Variance, et Convergence

Soit $(\Omega, \mathcal F, \mathbb P)$ un espace de probabilité.

3.5.1 Construction de l'espérance

On admet la construction de l'intégrale (cours de mesures et intégrales) pour toute variable aléatoire, non négative : $X: \Omega \to [0, +\infty[$,

$$ X \mapsto \int_\Omega X \, \mathrm{d} \mathbb P \in [0, +\infty] $$

On note $\mathbb E[X]$ l'espérance de la variable aléatoire $X$.

Esquisse de la construction de l'intégrale.

Étape 1. Intégrale pour des variables étagées positives.

$$ X(\omega) = \sum\limits_{j = 1}^n a_j \mathbb I_{A_j}(\omega) $$

où $a_j \geqslant 0$, $A_j$ sont deux à deux disjoints.

$$ \mathbb E[X] = \int_\Omega X \, \mathrm{d} \mathbb P := \sum\limits_{j = 1}^n a_j \mathbb P(A_j) $$

L'espérance vérifie la propriété de linéarité : pour $X, Y$ variables aléatoires étagées positives, pour tout $a, b \geqslant 0$, $\mathbb E[aX + bY] = a \mathbb E[X] + b \mathbb E[Y]$.

Étape 2. Intégrales pour des variables aléatoires bornées, non négatives.

Pour $X \geqslant 0$, bornée,

$$ \mathbb E[X] := \sup_{\substack{\tilde{X} \geqslant 0, \text{étagée} \\ \tilde{X} \leqslant X}} \mathbb E[\tilde{X}] $$

Étape 3. Intégrales pour des variables aléatoires non négatives.

Pour $X \geqslant 0$,

$$ \mathbb E[X] = \lim\limits_{n \to \infty} \mathbb E[\min(X, n)] $$

grâce au théorème de convergence monotone de Lévy.

Remarque : $\mathbb E[X] = +\infty$ est permise.

Étape 4. Le cas général.

Pour $X: \Omega \to \mathbb R$, on note $X^+ = \max \{ X, 0 \}, X^- = -\min \{ X, 0 \}$. Donc on a $X = X^+ - X^-, |X| = X^+ + X^-$. Si au moins l'un des deux nombres $\mathbb E[X^+], \mathbb E[X^-]$ est fini, on définit

$$ \mathbb E[X] = \mathbb E[X^+] - \mathbb E[X^-] \in [-\infty, +\infty] $$

Remarque : On ne peut pas définir $\mathbb E[X]$, si $\mathbb E[X^+] = \mathbb E[X^-] = +\infty$.

Exemple : Soit $X$ une variable aléatoire telle que

$$ X, \mathbb P(X = n) = \mathbb P(X = -n) = \frac{1}{2n(n + 1)}, n \in \mathbb N^* $$

On a

$$ \mathbb E[X^+] = \sum\limits_{n = 1}^\infty \frac{n}{2n(n + 1)} = +\infty, \mathbb E[X^-] = +\infty $$

3.5.2 Propriétés des variables intégrables

Definition : On dit qu'une variable aléatoire $X$ est intégrable, ou d'espérance finie, si

$$ \mathbb E[|X|] < +\infty $$

On note $\mathbb E[X]$ l'espérance de $X$, et $X \in L^1(\Omega, \mathcal F, \mathbb P)$, ou $L^1(\Omega, \mathcal F, \mathbb P) = \{ Y \text{ variable aléatoire} : \mathbb E[|Y|] < +\infty \}$.

Remarque : $X \in L^1(\Omega), X \in L^1$.

Proposition :

1. Pour tout $A \in \mathcal F$, on a $\mathbb E[\mathbb I_A] = \mathbb P(A)$.
2. Linéarité : Si $X, Y \in L^1(\Omega), a, b \in \mathbb R$, alors

$$ \mathbb E[aX + bY] = a \mathbb E[X] + b \mathbb E[Y] $$

3. Si $X \geqslant 0$ presque sûrement, on a $\mathbb E[X] \geqslant 0$. De plus, si $\mathbb E[X] = 0$, alors $X = 0$ presque sûrement.
4. Si $X, Y \in L^1(\Omega)$ et $X \leqslant Y$ presque sûrement, alors

$$ \mathbb E[X] \leqslant \mathbb E[Y] $$

5. Si $X \in L^1(\Omega)$, alors

$$ |\mathbb E[X]| \leqslant \mathbb E[|X|] $$

Question : Comment calculer l'espérance ?

Le cas discret. Soit $X$ variable aléatoire, $X(\Omega) \in \mathbb Z$. $f: \mathbb R \to \mathbb R$ mesurable telle que $\mathbb E[|f(X)|] < +\infty$.

$$ \mathbb E[f(X)] = \sum\limits_{n \in \mathbb Z} f(n) \mathbb P(X = n) $$

En particulier, $f = \mathrm{id}$, alors $\mathbb E[X] = \sum\limits_{n \in \mathbb Z} n \mathbb P(X = n)$.

$F_X(t) = \mathbb P(X \leqslant t)$ est fonction de répartition de $X$, alors $\mathbb P(X = n) = F_X(n) - F_X(n^-)$, donc $\mathbb E[f(X)] = \int\limits_{-\infty}^{+\infty} f(x) \, \mathrm{d} F_X(x)$.

Proposition : Soit $X: (\Omega, \mathcal F, \mathbb P) \to (\mathbb R, \mathcal B(\mathbb R))$ une variable aléatoire. Soit $f: \mathbb R \to \mathbb R$ une fonction mesurable. Si $f(X)$ est intégrable, alors

$$ \mathbb E[f(X)] = \int_{-\infty}^{+\infty} f(x) \, \mathrm{d} F_X(x) $$

où $F_X(x)$ est la fonction de répartition de $X$.

Le cas continu. Soit $x \mapsto F_X(x), F_X \in \mathcal C^1, F_X'(x) = p_X(x)$, densité

$$ \mathbb P(X \in [x, x + \mathrm{d} x]) = p_X(x) \, \mathrm{d} x = \mathrm{d} F_X(x) $$

Donc

$$ \mathbb E[f(X)] = \int_{-\infty}^{+\infty} f(x) p_X(x) \, \mathrm{d} x $$

Espérance d'un produit de variables aléatoires indépendantes

Proposition : Soient $X, Y \in L^1(\Omega)$ deux variables aléatoires indépendantes. Alors $XY \in L^1(\Omega)$ et

$$ \mathbb E[XY] = \mathbb E[X] \mathbb E[Y] $$

Remarque (Esquisse de la preuve) : On note $F_{X, Y}(x, y)$ fonction de répartition de $(X, Y)$. Puisque $X$ et $Y$ sont indépendantes, $F_{X, Y}(x, y) = F_X(x) F_Y(y)$. Donc

$$\begin{align*} \mathbb E[|XY|] & = \iint_{\mathbb R^2} |xy| \, \mathrm{d} F_{X, Y}(x, y) = \iint_{\mathbb R^2} |xy| \, \mathrm{d} F_X(x) \, \mathrm{d} F_Y(y) \\ & = \left(\int_\mathbb R |x| \, \mathrm{d} F_X(x)\right) \left(\int_\mathbb R |y| \, \mathrm{d} F_Y(y)\right) < +\infty \end{align*} $$

Donc

$$\begin{align*} \mathbb E[XY] & = \iint_{\mathbb R^2} xy \, \mathrm{d} F_X(x) \, \mathrm{d} F_Y(y) = \left(\int_\mathbb R x \, \mathrm{d} F_X(x)\right) \left(\int_\mathbb R y \, \mathrm{d} F_Y(y)\right) = \mathbb E[X] \mathbb E[Y]. \end{align*} $$

3.5.3 Moments et variance

Definition : Soit $r \in \mathbb N^*$ et $X$ une variable aléatoire réelle. On dit que $X$ admet un moment d'ordre $r$, si $X^r$ est d'espérance finie :

$$ \mathbb E[|X|^r] < +\infty $$

Le moment d'ordre $r$ de $X$ est $\mathbb E[X^r]$.

Il s'avère que le moment d'ordre 2 est le plus fréquemment utilisé. Il s'agit de la notion de variance.

Definition : Soit $X$ une variable aléatoire d'espérance finie, et si la variable aléatoire $X - \mathbb E[X]$ admet un moment d'ordre 2, on appelle variance de $X$ le nombre défini par

$$ \mathrm{var}(X) := \mathbb E[|X - \mathbb E[X]|^2] $$

Remarque :

1. On dit qu'une variable aléatoire intégrable $X$ est centrée, si $\mathbb E[X] = 0$. Donc la variance est aussi appelée moment centré d'ordre 2.
2. $\mathrm{var}(X) = \mathbb E[X^2] - (\mathbb E[X])^2$.

Proposition (Inégalité de Cauchy-Schwarz) : Si $X, Y \in L^2(\Omega)$, alors $X, Y \in L^1(\Omega)$ et

$$ |\mathbb E[XY]| \leqslant \sqrt{\mathbb E[X^2] \mathbb E[Y^2]} $$

Remarque : Pour $r \in [1, +\infty[$, on note

$$ L^r(\Omega) = \{ X: \mathbb E(|X|^r) < +\infty \} $$

Et

$$ \|X\|_{L^r(\Omega)} = \left(\mathbb E[|X|^r]\right)^{\frac{1}{r}} $$

Plus généralement, on a

Proposition (Inégalité de Hölder) : Soient $p, q \in ]1, +\infty[$ vérifiant la relation de conjugaison

$$ \frac{1}{p} + \frac{1}{q} = 1 $$

Soient $X \in L^p(\Omega), Y \in L^q(\Omega)$, alors $XY \in L^1(\Omega)$, et

$$\begin{align*} \|XY\|_{L^1(\Omega)} & \leqslant \|X\|_{L^p(\Omega)} \|Y\|_{L^q(\Omega)}, \\ \mathbb E[|XY|] & \leqslant \left(\mathbb E[|X|^p]\right)^{\frac{1}{p}} \left(\mathbb E[|Y|^q]\right)^{\frac{1}{q}}. \end{align*} $$

Preuve : On rappelle que pour tout $a, b \geqslant 0, \frac{1}{p} + \frac{1}{q} = 1$, on a

$$ (*) \quad ab \leqslant \frac{a^p}{p} + \frac{b^q}{q} \quad (\text{conséquence de Jensen}) $$

Supposons que $\|X\|_{L^p(\Omega)} > 0$ et $\|Y\|_{L^q(\Omega)} > 0$, sinon, l'inégalité est automatique.

On pose

$$ X_1 = \frac{|X|}{\|X\|_{L^p(\Omega)}}, Y_1 = \frac{|Y|}{\|Y\|_{L^q(\Omega)}} $$

par conséquent,

$$ \|X_1\|_{L^p(\Omega)} = \|Y_1\|_{L^q(\Omega)} = 1 $$

Appliquer $(*)$ aux $a = X_1(\omega), b = Y_1(\omega)$, on obtient

$$ |X_1(\omega)Y_1(\omega)| \leqslant \frac{1}{p} |X_1(\omega)|^p + \frac{1}{q} |Y_1(\omega)|^q $$

pour tout $\omega \in \Omega$.

En prenant l'espérance, on obtient

$$ \mathbb E[|X_1 Y_1|] \leqslant \frac{1}{p} \mathbb E[|X_1|^p] + \frac{1}{q} \mathbb E[|Y_1|^q] = \frac{1}{p} + \frac{1}{q} = 1 $$

Donc

$$ \mathbb E \left[\frac{|XY|}{\|X\|_{L^p(\Omega)} \|Y\|_{L^q(\Omega)}}\right] \leqslant 1 \implies \mathbb E[|XY|] = \|XY\|_{L^1(\Omega)} \leqslant \|X\|_{L^p(\Omega)} \|Y\|_{L^q(\Omega)}. $$

$\square$

Remarque : Pour $A_1, A_2, \ldots, A_n, \mathbb P(A_j) = \frac{1}{n}, A_i \cap A_j = \varnothing, \forall i \neq j$. Posons $X = \sum\limits_{j = 1}^n a_j \mathbb I_{A_j}, Y = \sum\limits_{j = 1}^n b_j \mathbb I_{A_j}$.

$$\begin{align*} \mathbb E[XY] & = \sum\limits_{j = 1}^n a_jb_j \mathbb P(A_j) = \frac{1}{n} \sum\limits_{j = 1}^n a_jb_j, \\ \|X\|_{L^p(\Omega)}^p & = \mathbb E[|X|^p] = \sum\limits_{j = 1}^n a_j^p \mathbb P(A_j) = \frac{1}{n} \sum\limits_{j = 1}^n a_j^p, \\ \|Y\|_{L^q(\Omega)}^q & = \mathbb E[|Y|^q] = \sum\limits_{j = 1}^n b_j^q \mathbb P(A_j) = \frac{1}{n} \sum\limits_{j = 1}^n b_j^q. \end{align*} $$

Donc

$$ \frac{1}{n} \left(\sum\limits_{j = 1}^n a_jb_j\right) \leqslant \left(\frac{1}{n}\sum\limits_{j = 1}^n a_j^p\right)^{\frac{1}{p}} \left(\frac{1}{n}\sum\limits_{j = 1}^n b_j^q\right)^{\frac{1}{q}} = \frac{1}{n} \left(\sum\limits_{j = 1}^n a_j^p\right)^{\frac{1}{p}} \left(\sum\limits_{j = 1}^n b_j^q\right)^{\frac{1}{q}}. $$

Corollaire : Soit $X \in L^p(\Omega), p \in [1, +\infty[$, alors $X \in L^r(\Omega), \forall 1 \leqslant r \leqslant p$. En particulier, si $X \in L^2(\Omega)$, alors $\mathrm{var}(X)$ existe et

$$ \mathrm{var}(X) = \mathbb E[X^2] - \left(\mathbb E[X]\right)^2 $$

Preuve : On suppose que $1 \leqslant r < p$.

$$ \mathbb E[|X|^r] = \mathbb E[|X|^r \cdot 1] \leqslant \||X|^r\|_{L^{\frac{p}{r}}(\Omega)} \|1\|_{L^q(\Omega)} = \|X\|_{L^p(\Omega)}^r \mathbb P(\Omega)^{\frac{1}{q}} = \|X\|_{L^p(\Omega)}^r < +\infty $$

où $q \in ]1, +\infty[$, tel que $\frac{1}{q} + \frac{r}{p} = 1$.

$\square$

Definition : Soit $X \in L^2(\Omega)$, l'écart-type de $X$ est le réel

$$ \sigma(X) = \sqrt{\mathrm{var}(X)} $$

Remarque : Pour une variable aléatoire $X \in L^2(\Omega)$, si $\mathbb E[X] = 0, \sigma(X) = 1$, la variable aléatoire $X$ est dite centrée réduite. Plus généralement, pour tout $X \in L^2(\Omega), \sigma(X) \neq 0$, la variable

$$ X^* = \frac{X - \mathbb E[X]}{\sigma(X)} $$

est centrée réduite.

Soit $X_1, X_2, \ldots, X_n$ i.i.d.

Loi des grands nombres

$$ \frac{X_1 + X_2 + \cdots + X_n}{n} \xrightarrow[n \to \infty]{} \mathbb E[X_1], \qquad \frac{1}{n} \sum\limits_{j = 1}^n (X_j - \mathbb E[X_j]) \xrightarrow[n \to \infty]{} 0. $$

Théorème de limite centrale. Si $X_j \in L^2(\Omega)$, alors

$$ \frac{1}{\sqrt{n}} \sum\limits_{j = 1}^n \frac{X_j - \mathbb E[X_j]}{\sigma(X_j)} \xrightarrow[n\to\infty]{\text{en loi}} \mathbb U_\mathbb R(0, 1). $$

Definition : Soient $X$ et $Y$ deux variables aléatoires réelles d'espérance finie. Si la variable

$$ (X - \mathbb E[X])(Y - \mathbb E[Y]) \in L^1(\Omega) $$

on appelle covariance de $X$ et $Y$ (ou du couple $(X, Y)$) le réel noté $\mathrm{cov}(X, Y)$, défini par

$$ \mathrm{cov}(X, Y) = \mathbb E[(X - \mathbb E[X])(Y - \mathbb E[Y])] $$

Remarque : Si $\mathrm{cov}(X, Y) = 0$, on dit que $X$ et $Y$ sont non corrélées. Si $X$ et $Y$ sont indépendantes, alors $\mathrm{cov}(X, Y) = 0$. Réciproquement, non corrélées n'implique pas indépendance.

Exemple : Pour le clarifier, on considère

$$ \Omega = \{ -1, 0, 1 \}, X \text{ variable aléatoire sur } \Omega $$

$$ \mathbb P(X = -1) = \mathbb P(X = 0) = \mathbb P(X = 1) = \frac{1}{3}, X \sim \mathrm{unif}(\{ -1, 0, 1 \}) $$

On pose $Y = X^2 \in \{ 0, 1 \}$, $X$ et $Y$ ne sont pas indépendantes, mais

$$ \mathrm{cov}(X, Y) = \mathbb E[(X - \mathbb E[X])(Y - \mathbb E[Y])] = \mathbb E[X(X^2 - \mathbb E[X^2])] = 0 $$

Proposition : Soient $X_1, X_2, \ldots, X_n$ variables aléatoires appartenant à $L^2(\Omega)$. Alors

$$ \mathrm{var} \left(\sum\limits_{k = 1}^n X_k\right) = \sum\limits_{k = 1}^n \mathrm{var}(X_k) + 2 \sum\limits_{1 \leqslant i < j \leqslant n} \mathrm{cov}(X_i, X_j) $$

En particulier, si $X_i$ et $X_j$ sont non corrélées pour tous $i \neq j$, on a

$$ \mathrm{var} \left(\sum\limits_{k = 1}^n X_k\right) = \sum\limits_{k = 1}^n \mathrm{var}(X_k) $$

Preuve : Note $m_k = \mathbb E[X_k], m = \sum\limits_{k = 1}^n m_k$.

$$\begin{align*} \mathrm{var} \left(\sum\limits_{k = 1}^n X_k\right) & = \mathbb E\left[\left(\sum\limits_{k = 1}^n (X_k - m_k)\right)^2\right] \\ & = \mathbb E\left[\sum\limits_{k, l = 1}^n(X_k - m_k)(X_l - m_l)\right] \\ & = \sum\limits_{k, l = 1}^n \mathbb E[(X_k - m_k)(X_l - m_l)] \\ & = \sum\limits_{k = l = 1}^n \mathbb E[(X_k - m_k)(X_l - m_l)] + \sum\limits_{k \neq l} \mathbb E[(X_k - m_k)(X_l - m_l)] \\ & = \sum\limits_{k = 1}^n \mathrm{var}(X_k) + 2 \sum\limits_{1 \leqslant k < l \leqslant n} \mathrm{cov}(X_k, X_l). \end{align*} $$

$\square$

Exemple :

1. $X \sim \mathrm{unif}([\![ 1, n ]\!])$.
   • Espérance :

     $$ \mathbb E[X] = \sum\limits_{k = 1}^n k \mathbb P(X = k) = \sum\limits_{k = 1}^n k \cdot \frac{1}{n} = \frac{1}{n} \cdot \frac{n(n + 1)}{2} = \frac{n + 1}{2}. $$

   • Variance :

     $$ \mathrm{var}(X) = \sum\limits_{k = 1}^n \left(k - \frac{n + 1}{2}\right)^2 \mathbb P(X = k) = \frac{1}{n} \sum\limits_{k = 1}^n \left(k - \frac{n + 1}{2}\right)^2. $$

2. $X \sim \mathrm{unif}([0, 1])$.
   • Espérance :

     $$ F_X(x) = \begin{cases} 0, & x \leqslant 0 \\ x, & 0 < x < 1 \\ 1, & x \geqslant 1 \end{cases} $$

     $$ \mathbb E[X] = \int_{-\infty}^{+\infty} x \, \mathrm{d} F_X(x) = \int_0^1 x \, \mathrm{d} x = \frac{1}{2} $$

   • Variance :

     $$ \mathrm{var}(X) = \mathbb E\left[\left(X - \frac{1}{2}\right)^2\right] = \int_0^1 \left(x - \frac{1}{2}\right)^2 \, \mathrm{d} x = \frac{1}{12}. $$

3. $X \sim \mathrm{ber}(p), p \in ]0, 1[$.

   $$ \mathbb E[X] = p, \quad \mathbb E[(X - p)^2] = pq. $$

4. $X \sim \mathcal B(n, p), \mathbb P(X = k) = \binom{n}{k} p^k q^{n - k}, 0 \leqslant k \leqslant n$. Soient $X_1, X_2, \ldots, X_n$ i.i.d. et $X_i \sim \mathrm{ber}(p)$.

   $$ X \overset{\text{loi}}{=} X_1 + X_2 + \cdots + X_n, \quad \mathbb E[X] = n \mathbb E[X_1] = np, \quad \mathrm{var}(X) = n \mathrm{var}(X_1) = npq. $$

5. $X \sim \mathcal G(p)$.

   $$\begin{align*} \mathbb E[X] & = \sum\limits_{k = 1}^\infty k \mathbb P(X = k) = \sum\limits_{k = 1}^\infty kpq^{k - 1} = p \sum\limits_{k = 1}^\infty k q^{k - 1} = \frac{p}{(1 - q)^2} = \frac{1}{p}. \end{align*} $$

   En effet, pour $0 < x < 1$, $\varphi(x) = \sum\limits_{k = 1}^\infty x^k = \frac{x}{1 - x}$, d'où $\varphi'(x) = \sum\limits_{k = 1}^\infty kx^{k - 1} = \frac{1}{(1 - x)^2}$.
6. $X \sim \mathcal P(\lambda), \mathbb P(X = n) = e^{-\lambda} \frac{\lambda^n}{n!}$

   $$ \mathbb E[X] = \sum\limits_{n = 0}^\infty ne^{-\lambda}\frac{\lambda^n}{n!} = \sum\limits_{n = 1}^\infty e^{-\lambda} \frac{\lambda \cdot \lambda^{n - 1}}{(n - 1)!} = \lambda e^{-\lambda} \sum\limits_{k = 0}^\infty \frac{\lambda^k}{k!} = \lambda. $$

Loi gaussienne

Soit $X: \Omega \to \mathbb R, m \in \mathbb R, \sigma > 0$.

$$ F_X(x) = \mathbb P(X \leqslant x) = \frac{1}{\sqrt{2 \pi} \sigma} \int_{-\infty}^x e^{-\frac{(t - m)^2}{2 \sigma^2}} \, \mathrm{d} t $$

densité de $X : p_X(x) = \frac{1}{\sqrt{2 \pi} \sigma} e^{-\frac{(x - m)^2}{2 \sigma^2}}$. $X \sim \mathcal N(m, \sigma)$, loi gaussienne avec les paramètres $m, \sigma$.

$$\begin{align*} \mathbb E[X] & = \int_{-\infty}^{+\infty} x p_X(x) \, \mathrm{d} x \\ & = \frac{1}{\sqrt{2 \pi} \sigma} \int_{-\infty}^{+\infty} x e^{-\frac{(x - m)^2}{2 \sigma^2}} \, \mathrm{d} x \\ & = \frac{1}{\sqrt{2 \pi} \sigma} \int_{-\infty}^{+\infty} (y + m) e^{-\frac{y^2}{2 \sigma^2}} \, \mathrm{d} y \\ & = m. \end{align*} $$

$$\begin{align*} \mathrm{var}(X) & = \mathbb E[(X - m)^2] \\ & = \frac{1}{\sqrt{2 \pi} \sigma} \int_{-\infty}^{+\infty} (x - m)^2 e^{-\frac{(x - m)^2}{2 \sigma^2}} \, \mathrm{d} x \\ & = \frac{1}{\sqrt{2 \pi} \sigma} \int_{-\infty}^{+\infty} y^2 e^{-\frac{y^2}{2 \sigma^2}} \, \mathrm{d} y \\ & = \frac{\sigma^2}{\sqrt{2 \pi}} \int_{-\infty}^{+\infty} z^2 e^{-\frac{z^2}{2}} \, \mathrm{d} z \\ & = \frac{2 \sigma^2}{\sqrt{2 \pi}} \int_0^{+\infty} t^{\frac{1}{2}} e^{-\frac{t}{2}} \frac{1}{2} \, \mathrm{d} t \\ & = \frac{\sigma^2}{\sqrt{2 \pi}} \int_0^{+\infty} t^{\frac{1}{2}} e^{-\frac{t}{2}} \, \mathrm{d} t \\ & = \frac{\sigma^2}{\sqrt{2 \pi}} \int_0^{+\infty} \left(\frac{t}{2}\right)^{\frac{1}{2}} e^{-\frac{t}{2}} 2^{\frac{3}{2}} \, \mathrm{d} \left(\frac{t}{2}\right) \\ & = \frac{\sigma^2}{\sqrt{2 \pi}} 2^{\frac{3}{2}} \Gamma\left(\frac{3}{2}\right) = \frac{\sigma^2}{\sqrt{2 \pi}} 2^{\frac{3}{2}} \frac{1}{2} \Gamma\left(\frac{1}{2}\right) = \sigma^2. \end{align*} $$