Partie 3 · Probabilités · Chapitre 19

La loi des grands nombres

Inégalité de Bienaymé-Tchebychev, inégalité de concentration.

Le chapitre précédent a montré que la moyenne $M_n$ d’un échantillon vise toujours $\mu$ , avec une dispersion $\dfrac{\sigma}{\sqrt{n}}$ qui diminue. Reste à transformer cette intuition en garantie chiffrée : à quel point peut-on faire confiance à une moyenne calculée sur $1\,000$ observations ? C’est tout l’objet de ce chapitre, et c’est le fondement mathématique des sondages, des contrôles qualité et des tests cliniques.

La fréquence se stabilise

Chacun a l’intuition qu’en lançant une pièce équilibrée un très grand nombre de fois, la fréquence de « pile » finit par s’approcher de $0{,}5$ . Une simulation le montre bien : après quelques lancers, la fréquence est erratique ; après quelques centaines, elle ne bouge presque plus.

Fréquence de pile au fil de 300 lancers simulés : très instable au début, elle s’installe autour de 0,5 sans jamais y être exactement égale.

Remarque : ce que la figure ne dit pas

Une simulation ne démontre rien : elle suggère. Rien n’interdit à une pièce équilibrée de tomber mille fois de suite sur pile, cet événement a simplement une probabilité minuscule. Tout le chapitre consiste à majorer proprement ce genre de probabilité.

L’inégalité de Bienaymé-Tchebychev

Le premier outil majore la probabilité qu’une variable aléatoire s’écarte de son espérance, sans rien savoir de sa loi : il suffit de connaître sa variance.

Théorème : Inégalité de Bienaymé-Tchebychev

Soit $X$ une variable aléatoire d’espérance $\mu$ et de variance $V$ . Pour tout réel $\delta > 0$ :

P\big(|X - \mu| \geqslant \delta\big) \leqslant \frac{V}{\delta^{2}}

Ce résultat est admis.

Méthode : lire l’inégalité

$|X - \mu| \geqslant \delta$ signifie « $X$ s’écarte de son espérance d’au moins $\delta$ » : c’est l’événement que l’on veut rendre rare.
Le membre de droite est un majorant, jamais la valeur exacte de la probabilité.
Au dénominateur, $\delta$ est au carré, comme la variance : les deux membres sont ainsi homogènes.
Plus $\delta$ est grand, plus le majorant est petit : s’écarter beaucoup est peu probable.

Loi binomiale de paramètres 20 et 0,5, d’espérance 10 : en rouge, les valeurs qui s’écartent d’au moins δ = 4 de l’espérance, dont l’inégalité majore la probabilité totale.

Exemple

Soit $X$ une variable aléatoire d’espérance $\mu = 100$ et d’écart type $\sigma = 5$ , donc de variance $V = 25$ . Avec $\delta = 15$ :

P\big(|X - 100| \geqslant 15\big) \leqslant \frac{25}{15^{2}} = \frac{25}{225} \approx 0{,}111

Il y a donc au plus $11{,}1\ \%$ de chances que $X$ s’éloigne de $100$ de $15$ unités ou plus, et cela sans rien connaître de la loi de $X$ .

Remarque : un majorant souvent large

L’inégalité vaut pour toutes les lois : elle est donc nécessairement prudente. Pour $X \sim \mathcal{B}(20\,;\, 0{,}5)$ , d’espérance $10$ et de variance $5$ , le majorant obtenu avec $\delta = 4$ vaut $\dfrac{5}{16} = 0{,}3125$ , alors que la probabilité réelle vaut environ $0{,}115$ . Le majorant est près de trois fois trop grand : c’est le prix à payer pour une formule qui ne demande aucune hypothèse.

Propriété : Écart exprimé en écarts types

En choisissant $\delta = k\sigma$ avec $k > 0$ , l’inégalité prend une forme facile à retenir :

P\big(|X - \mu| \geqslant k\sigma\big) \leqslant \frac{\sigma^{2}}{k^{2}\sigma^{2}} = \frac{1}{k^{2}}

S’écarter de plus de $2$ écarts types a une probabilité d’au plus $\dfrac{1}{4}$ , et de plus de $3$ écarts types, d’au plus $\dfrac{1}{9} \approx 0{,}11$ .

L’inégalité de concentration

Appliquons maintenant l’inégalité précédente non pas à une observation isolée, mais à la moyenne d’un échantillon. C’est là que le nombre $n$ entre en jeu, et tout change.

Théorème : Inégalité de concentration

Soit $(X_1,\, \dots,\, X_n)$ un échantillon de taille $n$ d’une loi d’espérance $\mu$ et de variance $V$ , et soit $M_n$ la moyenne de cet échantillon. Pour tout réel $\delta > 0$ :

P\big(|M_n - \mu| \geqslant \delta\big) \leqslant \frac{V}{n\,\delta^{2}}

Démonstrationexigible au bac

La moyenne $M_n$ est elle-même une variable aléatoire. D’après le chapitre précédent, son espérance vaut $\mu$ et sa variance vaut :

V(M_n) = \frac{V}{n}

On applique alors l’inégalité de Bienaymé-Tchebychev **à la variable $M_n$ **, dont l’espérance est $\mu$ et la variance $\dfrac{V}{n}$ :

P\big(|M_n - \mu| \geqslant \delta\big) \leqslant \frac{V(M_n)}{\delta^{2}} = \frac{V}{n\,\delta^{2}}

C’est exactement l’inégalité annoncée. Tout le travail a été fait au chapitre précédent : il ne restait qu’à l’appliquer au bon endroit.

Remarque : ce que le facteur $n$ apporte

C’est la seule différence avec Bienaymé-Tchebychev, et elle est décisive : le majorant est divisé par $n$ . En prenant l’échantillon assez grand, on rend aussi petite que voulue la probabilité que la moyenne s’écarte de $\mu$ de plus de $\delta$ .

Exemple

On lance $10\,000$ fois un dé équilibré et on note $M_{10\,000}$ la moyenne des résultats. Ici $\mu = 3{,}5$ et $V = \dfrac{35}{12}$ . Avec $\delta = 0{,}1$ :

P\big(|M_{10\,000} - 3{,}5| \geqslant 0{,}1\big) \leqslant \frac{35/12}{10\,000 \times 0{,}01} \approx 0{,}029

Autrement dit, la moyenne des $10\,000$ lancers a **plus de $97\ \%$ ** de chances de tomber entre $3{,}4$ et $3{,}6$ .

Loi de la fréquence de pile pour 10 lancers puis pour 40 lancers, sur la même échelle : les valeurs se resserrent autour de 0,5 quand la taille de l’échantillon augmente.

La loi des grands nombres

Théorème : Loi des grands nombres

Soit $M_n$ la moyenne d’un échantillon de taille $n$ d’une loi d’espérance $\mu$ et de variance $V$ . Pour tout réel $\delta > 0$ :

\lim_{n \to +\infty} P\big(|M_n - \mu| \geqslant \delta\big) = 0

Démonstration

Fixons $\delta > 0$ . L’inégalité de concentration encadre la probabilité étudiée, qui est positive :

0 \leqslant P\big(|M_n - \mu| \geqslant \delta\big) \leqslant \frac{V}{n\,\delta^{2}}

Les nombres $V$ et $\delta^2$ étant fixes, $\dfrac{V}{n\delta^{2}}$ tend vers $0$ quand $n$ tend vers $+\infty$ . Le théorème des gendarmes permet de conclure.

Remarque : ce que dit exactement ce théorème

La loi des grands nombres ne dit pas que $M_n$ atteint $\mu$ , ni qu’elle s’en approche à coup sûr. Elle dit que la probabilité de s’en écarter d’au moins $\delta$ tend vers zéro, et ce pour tout $\delta$ , aussi petit soit-il. C’est ce qui justifie qu’une fréquence observée sur un grand échantillon serve d’estimation d’une probabilité inconnue.

Remarque : la loi des séries n’existe pas

Après dix « face » consécutifs, « pile » n’est pas devenu plus probable : les lancers sont indépendants, la probabilité reste $0{,}5$ . Ce qui rétablit la fréquence, ce n’est pas une compensation, c’est la dilution : ces dix lancers pèsent de moins en moins lourd à mesure que $n$ grandit.

Déterminer une taille d’échantillon

C’est l’application la plus fréquente au baccalauréat : on se donne une précision $\delta$ et un risque maximal, et on cherche la taille $n$ qui les garantit.

Propriété : Cas d’une fréquence

Lorsque l’on estime une proportion inconnue $p$ , la variance d’une épreuve vaut $V = p(1-p)$ . Ce produit est **maximal pour $p = 0{,}5$ **, où il vaut $0{,}25$ . On peut donc toujours écrire $V \leqslant \dfrac{1}{4}$ , et majorer sans connaître $p$ :

P\big(|F_n - p| \geqslant \delta\big) \leqslant \frac{p(1-p)}{n\,\delta^{2}} \leqslant \frac{1}{4n\,\delta^{2}}

où $F_n$ désigne la fréquence de succès observée sur les $n$ épreuves.

Méthode : trouver la taille d’échantillon

Repérer la précision $\delta$ voulue et le risque maximal $r$ accepté.
Écrire l’inégalité de concentration, en majorant la variance si elle est inconnue.
Poser la condition $\dfrac{V}{n\delta^{2}} \leqslant r$ , ce qui suffit à garantir le risque voulu.
Isoler $n$ : la condition devient $n \geqslant \dfrac{V}{r\,\delta^{2}}$ .
Conclure sur le plus petit entier convenable.

Exemple : un sondage

On veut estimer la proportion $p$ d’électeurs favorables à une mesure, avec une précision de $2$ points de pourcentage et un risque d’au plus $5\ \%$ . On cherche donc $n$ tel que $P\big(|F_n - p| \geqslant 0{,}02\big) \leqslant 0{,}05$ . Il suffit que :

\frac{1}{4n \times 0{,}02^{2}} \leqslant 0{,}05 \iff n \geqslant \frac{1}{4 \times 0{,}0004 \times 0{,}05} = 12\,500

Il faudrait interroger au moins 12 500 personnes. Ce chiffre, bien supérieur aux $1\,000$ personnes des sondages réels, rappelle que l’inégalité de Bienaymé-Tchebychev est volontairement prudente : les instituts utilisent des majorations plus fines, hors programme.

Exemple

Avec un échantillon de $n = 1\,000$ personnes et une précision $\delta = 0{,}05$ , le risque garanti est :

P\big(|F_n - p| \geqslant 0{,}05\big) \leqslant \frac{1}{4 \times 1\,000 \times 0{,}0025} = 0{,}1

La fréquence observée est donc à moins de $5$ points de la vraie proportion avec une probabilité d’au moins $0{,}9$ .

Erreurs classiques à éviter

Lire l’inégalité comme une égalité.
Elle fournit un majorant, souvent large. Écrire $P(|X - \mu| \geqslant \delta) = \frac{V}{\delta^2}$ est faux : le bon symbole est $\leqslant$ .
Oublier le carré au dénominateur.
Le majorant est $\dfrac{V}{\delta^{2}}$ , et non $\dfrac{V}{\delta}$ . Ce carré rend les deux membres homogènes, la variance étant déjà un carré.
Utiliser l’écart type au numérateur.
C’est la variance $V$ qui figure dans la formule. Si l’énoncé donne $\sigma$ , il faut commencer par calculer $V = \sigma^2$ .
Oublier le facteur $n$ dans l’inégalité de concentration.
Le majorant est $\dfrac{V}{n\delta^{2}}$ . C’est précisément ce $n$ qui fait tendre la probabilité vers $0$ , donc toute la force du résultat.
Conclure alors que le majorant dépasse $1$ .
Une probabilité est toujours inférieure à $1$ : un majorant supérieur à $1$ est vrai mais ne donne aucune information. Il faut alors augmenter $n$ ou $\delta$ .
Croire que la loi des grands nombres garantit que $M_n$ atteint $\mu$ .
Elle affirme que la probabilité de s’écarter de $\mu$ d’au moins $\delta$ tend vers $0$ . Un écart reste toujours possible, il devient seulement de plus en plus improbable.
Appliquer la loi des grands nombres à la somme $S_n$ .
Elle concerne la moyenne. L’écart type de la somme vaut $\sigma\sqrt{n}$ : il augmente avec $n$ , la somme ne se concentre donc pas.
Croire à la loi des séries.
Les épreuves sont indépendantes : une série de « face » ne rend pas « pile » plus probable au lancer suivant. La fréquence se rétablit par dilution, pas par compensation.
Écrire $p(1-p) = \dfrac{1}{4}$ .
C’est une majoration : $p(1-p) \leqslant \frac{1}{4}$ , avec égalité seulement pour $p = 0{,}5$ . Elle sert quand $p$ est inconnu.

Et maintenant

Le cours est lu ? Vérifie qu’il est acquis : le QCM repère les trous, les exercices confirment en conditions réelles, les flashcards ancrent les formules.

Faire le QCM Voir les exercices