Revenir
Revenir

Loi des grands nombres

PropriétéInégalité de Bienaymé-Tchebychev

Sommaire

Inégalité de Bienaymé-TchebychevInégalité de concentrationLoi faible des grands nombres

Inégalité de Bienaymé-Tchebychev

PropriétéInégalité de Bienaymé-Tchebychev
Soit 
XXX
 une variable aléatoire définie sur un univers fini 
Ω\OmegaΩ
.
Alors, pour tout réel 
δ\deltaδ
 strictement positif, on a
P(∣X−E(X)∣⩾δ)⩽V(X)δ2P(|X-E(X)|\geqslant \delta)\leqslant \dfrac{V(X)}{\delta ^2}P(∣X−E(X)∣⩾δ)⩽δ2V(X)​
.
Remarque
Cette inégalité illustre le fait que la variance permet de mesurer l'écart d'une variable aléatoire par rapport à son espérance.
Exemple 1
Soit 
XXX
 une variable aléatoire d'espérance 10 et de variance 1.
D'après l'inégalité de Bienaymé-Tchebychev, on a
P(∣X−10∣⩾4)⩽142P(|X-10|\geqslant 4) \leqslant \dfrac{1}{4^2}P(∣X−10∣⩾4)⩽421​
(en prenant \(\delta=4\)), ce qui peut également s'écrire 
P(X∉]6;14[)⩽116P(X \not\in ]6;14[)\leqslant \dfrac{1}{16}P(X∈]6;14[)⩽161​
. 
En passant au complémentaire, on a alors 
P(X∈]6;14[)⩾1516P(X \in ]6;14[) \geqslant \dfrac{15}{16}P(X∈]6;14[)⩾1615​
.
Exemple 2
On lance 180 fois un dé équilibré à 6 faces, numérotées de 1 à 6.
On appelle 
XXX
la variable aléatoire qui compte le nombre de 1 obtenus.
XXX
suit une loi binomiale de paramètres 
n=180n=180n=180
 et 
p=16p=\dfrac{1}{6}p=61​
.
Ainsi, 
E(X)=180×16=30E(X)=180 \times \dfrac{1}{6}=30E(X)=180×61​=30
 et 
V(X)=180×16×(1−16)=25V(X)=180 \times \dfrac{1}{6} \times \left(1-\dfrac{1}{6}\right)=25V(X)=180×61​×(1−61​)=25
.
L'espérance s'interprète comme une moyenne si l'on répète un grand nombre de fois une expérience aléatoire. Ainsi, si on lance 180 fois un dé, on s'attend en moyenne àobtenir30 fois le numéro 1.
Seulement, tout ceci n'est qu'une moyenne, et il est rare de tomber exactement 30 fois sur la face numéro 6. Ce que l'on peut affirmer toutefois, c'est qu'il y a une grande probabilité que le nombre de fois que nous obtenons ce numéro 1 soit proche de 30, et l'inégalité de Bienaymé-Tchebychev peut nous fournir une minoration de cette probabilité.
On souhaite par exemple minorer la probabilité que 
XXX
soit compris entre 21 et 39. 
Or, 
X∈[21;39]⇔X∈[30−9;30+9]⇔∣X−30∣⩽9X\in[21;39] \Leftrightarrow X\in [30-9;30+9]\Leftrightarrow|X-30|\leqslant 9X∈[21;39]⇔X∈[30−9;30+9]⇔∣X−30∣⩽9
.
Puisque la variable aléatoire 
XXX
 prend uniquement des valeurs entières, ceci est équivalent à 
∣X−30∣<10|X-30|<10∣X−30∣<10
.
D'après l'inégalité de Bienaymé-Tchebychev, on a 
P(∣X−E(X)∣⩾10)⩽V(X)102=25100=14P( |X-E(X)| \geqslant 10) \leqslant \dfrac{V(X)}{10^2} =\dfrac{25}{100}=\dfrac{1}{4}P(∣X−E(X)∣⩾10)⩽102V(X)​=10025​=41​
.
Ainsi, puisque 
P(∣X−E(X)∣<10)+P(∣X−E(X)∣⩾10)=1P( |X-E(X)| <10)+P( |X-E(X)|\geqslant 10)=1P(∣X−E(X)∣<10)+P(∣X−E(X)∣⩾10)=1
, on a que 
P(∣X−E(X)∣<10)=1−P(∣X−E(X)∣⩾10)P( |X-E(X)| < 10)=1-P( |X-E(X)| \geqslant 10)P(∣X−E(X)∣<10)=1−P(∣X−E(X)∣⩾10)
  et donc 
P(∣X−E(X)∣<10)⩾34P( |X-E(X)| < 10) \geqslant \dfrac{3}{4}P(∣X−E(X)∣<10)⩾43​
.
Si l'on lance 180 dés, la probabilité d'obtenir entre 21 et 39 fois le numéro1 est supérieure à 0,75.
Remarque
Cette borne n'est pas optimale. En l'occurrence, en réalisant les calculs avec un tableau par exemple, on s'aperçoit que
P(∣X−E(X)∣<10)≃0,9434P( |X-E(X)| < 10) \simeq 0,9434P(∣X−E(X)∣<10)≃0,9434
.

Inégalité de concentration

PropriétéInégalité de concentration
Soit
(X1,…,Xn)(X_1,\ldots,X_n)(X1​,…,Xn​)
un échantillon de 
nnn
variables aléatoires indépendantes et 
MnM_nMn​
la variable aléatoire moyenne de cette échantillon.
Alors, pour tout réel 
δ\deltaδ
strictement positif, 
P(∣Mn−E(X1)∣⩾δ)⩽V(X1)nδ2P(|M_n-E(X_1)|\geqslant \delta ) \leqslant \dfrac{V(X_1)}{n\delta^2}P(∣Mn​−E(X1​)∣⩾δ)⩽nδ2V(X1​)​
.
Démonstration
On applique l'inégalité de Bienaymé-Tchebychev à la variable aléatoire 
MnM_nMn​
.
Pour tout réel strictement positif 
δ\deltaδ
, on a alors 
P(∣M(n)−E(Mn)∣⩾δ)⩽V(Mn)δ2P(|M(_n)-E(M_n)|\geqslant \delta) \leqslant \dfrac{V(M_n)}{\delta ^2}P(∣M(n​)−E(Mn​)∣⩾δ)⩽δ2V(Mn​)​
.
Or, 
E(Mn)=E(X1)E(M_n)=E(X_1)E(Mn​)=E(X1​)
 et 
V(Mn)=V(X1)nV(M_n)=\dfrac{V(X_1)}{n}V(Mn​)=nV(X1​)​
.
On a donc bien
P(∣Mn−E(X1)∣⩾δ)⩽V(X1)nδ2P(|M_n-E(X_1)|\geqslant \delta ) \leqslant \dfrac{V(X_1)}{n\delta^2}P(∣Mn​−E(X1​)∣⩾δ)⩽nδ2V(X1​)​
Exemple
Soit 
XXX
une variable aléatoire d'espérance 3 et de variance 100.
Soit
nnn
 un entier naturel non nul.
On considère un échantillon
(X1,…,Xn)(X_1, \ldots, X_{n})(X1​,…,Xn​)
 de variables aléatoires indépendantes de même loi que 
XXX
et on note
Mn=1n(X1+X2+…+Xn)M_{n} = \dfrac{1}{n} (X_1+X_2+\ldots + X_{n})Mn​=n1​(X1​+X2​+…+Xn​)
.
Pour tout réel 
δ\deltaδ
strictement positif, on a alors 
P(∣Mn−E(X1)∣⩾δ)⩽V(X1)nδ2P(|M_n-E(X_1)|\geqslant \delta ) \leqslant \dfrac{V(X_1)}{n\delta ^2}P(∣Mn​−E(X1​)∣⩾δ)⩽nδ2V(X1​)​
.
C'est-à-dire, 
P(∣Mn−3∣⩾δ)⩽100nδ2P(|M_n-3|\geqslant \delta ) \leqslant \dfrac{100}{n\delta ^2}P(∣Mn​−3∣⩾δ)⩽nδ2100​
.
En particulier, pour
n=100 000n=100\,000n=100000
et \(\delta=0,1\), on a 
P(∣Mn−3∣⩾0,1)⩽100100 000×0,12P(|M_n-3|\geqslant 0,1 ) \leqslant \dfrac{100}{100\,000\times 0,1^2}P(∣Mn​−3∣⩾0,1)⩽100000×0,12100​
 c'est-à-dire 
P(∣Mn−3∣⩾0,1)⩽0,1P(|M_n-3|\geqslant 0,1 ) \leqslant 0,1P(∣Mn​−3∣⩾0,1)⩽0,1
.
En passant par le complémentaire, on obtient : 
P(∣Mn−3∣<0,1)=1−P(∣Mn−3∣⩾0,1)⩾0,9P(|M_n-3| < 0,1 ) = 1 - P(|M_n-3|\geqslant 0,1 ) \geqslant 0,9P(∣Mn​−3∣<0,1)=1−P(∣Mn​−3∣⩾0,1)⩾0,9
.
Bien que la variable aléatoire 
XXX
ait une grande variance, si l'on répète un grand nombre de fois l'expérience aléatoire, la moyenne des résultats est très proche de l'espérance de 
XXX
: avec une probabilité supérieure à 0,9, la moyenne se situe entre 2,9 et 3,1.

Loi faible des grands nombres

ThéorèmeLoi faible des grands nombres
Soit
(X1,...,Xn)(X_1,...,X_n)(X1​,...,Xn​)
un échantillon de 
nnn
variables aléatoires indépendantes et 
MnM_nMn​
la variable aléatoire moyenne de cet échantillon.
Pour tout réel 
δ\deltaδ
strictement positif, on a 
lim⁡n→+∞P(∣Mn−E(X1)∣⩾δ)=0\displaystyle \lim_{n \to + \infty} P(|M_n-E(X_1)|\geqslant \delta )=0n→+∞lim​P(∣Mn​−E(X1​)∣⩾δ)=0
.
Démonstration
On applique l'inégalité de concentration à cet échantillon : 
P(∣Mn−E(X1)∣⩾δ)⩽V(X1)nδ2P(|M_n-E(X_1)|\geqslant \delta ) \leqslant \dfrac{V(X_1)}{n\delta^2}P(∣Mn​−E(X1​)∣⩾δ)⩽nδ2V(X1​)​
.
Or,
lim⁡n→+∞V(X1)nδ2=0\displaystyle \lim _{n \to + \infty} \dfrac{V(X_1)}{n\delta^2}=0n→+∞lim​nδ2V(X1​)​=0
. De plus,
P(∣Mn−E(X1)∣⩾δ)⩾0P(|M_n-E(X_1)|\geqslant \delta ) \geqslant 0P(∣Mn​−E(X1​)∣⩾δ)⩾0
.D'après le théorème des gendarmes, on a donc
lim⁡n→+∞P(∣Mn−E(X1)∣⩾δ)=0\displaystyle \lim_{n \to + \infty} P(|M_n-E(X_1)|\geqslant \delta )=0n→+∞lim​P(∣Mn​−E(X1​)∣⩾δ)=0
.