Maîtrisez le théorème central limite

Un logiciel de caisse arrondit chaque montant à l’euro le plus proche. Sur une journée de 300 ventes, l’erreur totale sur le chiffre d’affaires peut-elle dépasser 15 € ? Chaque erreur d’arrondi est comprise entre −0,50 € et +0,50 €, donc l’erreur totale est en théorie comprise entre −150 € et +150 €. Mais en pratique ? La loi des grands nombres du chapitre 7 dit que l’erreur moyenne tend vers 0 ; elle ne dit pas comment l’erreur totale se répartit autour de 0.

C’est le rôle du théorème central limite (TCL) : il donne la loi approximative d’une somme ou d’une moyenne, quelle que soit la loi de départ. C’est sans doute le résultat le plus utilisé de toute la statistique. Le fil rouge sera ce logiciel de caisse, puis un site de vente en ligne.

Ce que dit le théorème

Reprenons le cadre du chapitre 7 : $X_1, \dots, X_n$ sont i.i.d., d’espérance $\mu$ et de variance $\sigma^2$ finie. Nous savons que $\bar{X}_n$ a pour espérance $\mu$ et pour écart-type $\sigma/\sqrt{n}$. On la standardise comme au chapitre 5 :

$$Z_n = \frac{\bar{X}_n - \mu}{\sigma / \sqrt{n}} = \frac{S_n - n\mu}{\sigma \sqrt{n}}, \qquad \text{avec } S_n = X_1 + \dots + X_n$$

$Z_n$ a pour espérance 0 et pour variance 1, pour tout $n$. Le théorème central limite affirme que sa loi se rapproche de la normale centrée réduite :

$$P(Z_n \leq z) \xrightarrow[n \to \infty]{} \Phi(z) \quad \text{pour tout } z$$

On dit que $Z_n$ converge en loi vers $\mathcal{N}(0, 1)$. En pratique, on l’utilise sous la forme d’une approximation, pour $n$ « assez grand » :

$$\bar{X}_n \approx \mathcal{N}\left(\mu, \frac{\sigma^2}{n}\right), \qquad S_n \approx \mathcal{N}(n\mu, n\sigma^2)$$

Le point extraordinaire, c’est que la loi des $X_i$ n’intervient que par $\mu$ et $\sigma^2$. Qu’il s’agisse de dés, d’arrondis, de temps d’attente ou de pannes, la somme finit toujours par prendre une forme de cloche. Le schéma montre la loi exacte de la somme de 1, 2 et 4 dés : la loi uniforme d’un dé devient un triangle, puis déjà presque une cloche.

À retenir

Pour $n$ variables i.i.d. de variance finie, la moyenne $\bar{X}_n$ suit approximativement $\mathcal{N}(\mu, \sigma^2/n)$, quelle que soit la loi de départ. La loi des grands nombres donne la valeur vers laquelle tend $\bar{X}_n$ ; le TCL donne la forme des fluctuations autour de cette valeur.

Le fil rouge : les erreurs d’arrondi

Chaque erreur d’arrondi $X_i$ suit la loi uniforme sur $[-0{,}5\,;\,0{,}5]$ (en euros) : on suppose les centimes « au hasard » et les ventes indépendantes. D’après le chapitre 5, $\mu = 0$ et $\sigma^2 = 1/12$. L’erreur totale $S = X_1 + \dots + X_{300}$ a donc pour espérance 0 et pour variance $300/12 = 25$, soit un écart-type de 5 €. Par le TCL, $S \approx \mathcal{N}(0, 5^2)$, et :

$$P(\lvert S \rvert \gt 15) = P\left(\lvert Z \rvert \gt \frac{15}{5}\right) = P(\lvert Z \rvert \gt 3) \approx 0{,}0027$$

L’erreur totale dépasse 15 € environ une journée sur 370, alors que la borne théorique est de 150 €. Les erreurs positives et négatives se compensent massivement. On vérifie par simulation :

set.seed(12)
# 100 000 journées de 300 ventes : une ligne par journée
erreurs <- matrix(runif(300 * 100000, -0.5, 0.5), ncol = 300)
S <- rowSums(erreurs)

sd(S)                                    # proche de 5
mean(abs(S) > 15)                        # 0.0024, proche de 0.0027
hist(S, breaks = 60, freq = FALSE)
curve(dnorm(x, 0, 5), add = TRUE, lwd = 2)

L'erreur totale pourrait en théorie atteindre 150 €, mais elle reste presque toujours à quelques euros de 0. L'histogramme des simulations colle à la normale N(0, 5²) prédite par le TCL.

Attention

Le TCL décrit l’erreur totale en euros, dont l’écart-type croît en $\sqrt{n}$ ($\sigma\sqrt{n}$), alors que l’erreur moyenne par vente, elle, a un écart-type qui décroît en $1/\sqrt{n}$ ($\sigma/\sqrt{n}$). Ne confondez pas les deux échelles : plus il y a de ventes, plus l’erreur totale peut être grande en valeur absolue, mais plus elle est petite rapportée au nombre de ventes.

Approcher la loi binomiale

Une variable binomiale $X \sim \mathcal{B}(n, p)$ est une somme de $n$ variables de Bernoulli indépendantes (chapitre 4). Le TCL s’applique donc directement : pour $n$ grand,

$$X \approx \mathcal{N}\big(np, \, np(1-p)\big)$$

Une règle d’usage courante demande $n \geq 30$, $np \geq 5$ et $n(1 - p) \geq 5$, pour que la cloche ne soit pas « écrasée » contre 0 ou $n$. (Quand $p$ est très petit, on préfère l’approximation de Poisson du chapitre 4.)

Exemple

Un site de vente en ligne convertit 5 % de ses visiteurs en acheteurs. Sur 1 000 visiteurs, le nombre d’achats $X$ suit $\mathcal{B}(1\,000\,;\,0{,}05)$, d’espérance 50 et d’écart-type $\sqrt{1\,000 \times 0{,}05 \times 0{,}95} \approx 6{,}89$. Quelle est la probabilité d’obtenir au moins 60 achats ?

$X$ est entière : « au moins 60 » équivaut à « plus de 59,5 ». On utilise ce milieu, c’est la correction de continuité :

$$P(X \geq 60) \approx P\left(Z \geq \frac{59{,}5 - 50}{6{,}89}\right) = P(Z \geq 1{,}38) \approx 0{,}084$$

La valeur exacte, 1 - pbinom(59, 1000, 0.05), vaut 0,087. Sans correction de continuité (en standardisant 60), on aurait trouvé 0,073, nettement moins bon.

Chaque barre k occupe l'intervalle de k − 0,5 à k + 0,5. Pour compter entièrement la barre 60 sous la courbe, il faut couper à 59,5 : c'est la correction de continuité.

Ce calcul a une conséquence très concrète : si un jour le site observe 60 achats, ce n’est pas forcément le signe d’une amélioration. Un tel écart arrive par hasard environ une fois sur onze. Toute la question des tests statistiques (chapitre 10) est de distinguer un vrai effet d’une fluctuation de ce genre.

Jusqu’où peut-on faire confiance au TCL ?

Le théorème est asymptotique : il ne dit pas à partir de quel $n$ l’approximation est bonne. La règle souvent enseignée, « $n \gt 30$ suffit », est un ordre de grandeur, pas une garantie. Tout dépend de la loi de départ.

• Pour une loi symétrique et sans valeurs extrêmes (uniforme, dés), la convergence est très rapide : dès $n = 12$, une somme d’uniformes est presque indiscernable d’une normale.
• Pour une loi asymétrique (exponentielle, temps de réponse, revenus), elle est plus lente, surtout dans les queues.

Exemple

Les temps de réponse d’un serveur suivent une loi exponentielle de moyenne 200 ms (donc d’écart-type 200 ms). On mesure le temps moyen $\bar{X}$ sur 50 requêtes. Le TCL donne $\bar{X} \approx \mathcal{N}(200, 28{,}3^2)$, car $200/\sqrt{50} \approx 28{,}3$, d’où :

$$P(\bar{X} \gt 250) \approx P(Z \gt 1{,}77) \approx 0{,}039$$

La valeur exacte (la somme de 50 exponentielles suit une loi gamma, comme dans l’exercice du chapitre 6) vaut 0,046. L’approximation sous-estime la queue droite d’environ 16 %, même avec $n = 50$, à cause de l’asymétrie de l’exponentielle.

Deux conditions ne sont en revanche pas négociables : l’indépendance (ou une dépendance faible) et une variance finie. Pour la loi de Cauchy du chapitre 7, le TCL échoue comme la loi des grands nombres. Le TCL se généralise aussi aux vecteurs : pour des vecteurs aléatoires i.i.d. de moyenne $\mathbf{m}$ et de matrice de covariance $\Gamma$, $\sqrt{n}\,(\bar{\mathbf{X}}_n - \mathbf{m})$ converge en loi vers le vecteur gaussien $\mathcal{N}(\mathbf{0}, \Gamma)$ du chapitre 6.

Pour voir le TCL à l’œuvre sur une loi asymétrique, rien ne vaut une simulation. La fonction replicate répète une expérience et renvoie le vecteur de ses résultats :

set.seed(3)
moyennes <- replicate(10000, mean(rexp(50, rate = 1/200)))   # 10 000 moyennes de 50 temps

hist(moyennes, breaks = 60, freq = FALSE, main = "Temps moyen sur 50 requêtes")
curve(dnorm(x, mean = 200, sd = 200 / sqrt(50)), add = TRUE, lwd = 2)
mean(moyennes > 250)                     # proche de 0.046 (valeur exacte), pas de 0.039

L’histogramme a bien une forme de cloche, mais légèrement penchée à droite par rapport à la courbe normale.

Une seule exponentielle ne ressemble pas du tout à une cloche. À 5 temps, la loi exacte penche encore à gauche ; à 50, l'accord est bon au centre, mais la queue droite exacte (0,046) reste plus épaisse que celle du TCL (0,039).

Standardiser, normaliser : ne pas confondre

Le TCL travaille avec des variables standardisées, $(x - \mu)/\sigma$, de moyenne 0 et d’écart-type 1. En analyse de données, on rencontre aussi la normalisation min-max, $(x - \min)/(\max - \min)$, qui ramène les valeurs dans $[0\,;\,1]$. Les deux servent à comparer des grandeurs d’échelles différentes (des âges et des revenus, par exemple), mais seule la standardisation a le sens probabiliste utilisé ici. Et aucune des deux ne rend une variable « normale » au sens de la loi de Gauss : elles changent l’échelle, pas la forme.

En entretien

« Le TCL dit que la moyenne de beaucoup de variables indépendantes, de variance finie, suit à peu près une loi normale centrée sur la vraie moyenne, avec un écart-type $\sigma/\sqrt{n}$, quelle que soit la loi de départ. C’est ce qui justifie les intervalles de confiance et les tests d’A/B testing ; mais pour des données très asymétriques, il faut plus de 30 observations. »

En résumé

• Pour $X_i$ i.i.d. de variance finie, $Z_n = (\bar{X}_n - \mu)/(\sigma/\sqrt{n})$ converge en loi vers $\mathcal{N}(0, 1)$ : c’est le théorème central limite.
• En pratique : $\bar{X}_n \approx \mathcal{N}(\mu, \sigma^2/n)$ et $S_n \approx \mathcal{N}(n\mu, n\sigma^2)$, quelle que soit la loi des $X_i$.
• La LGN donne la limite de $\bar{X}_n$ ; le TCL donne la forme et l’ampleur de ses fluctuations.
• La binomiale s’approche par $\mathcal{N}(np, np(1-p))$ si $np$ et $n(1-p)$ sont assez grands, avec la correction de continuité.
• La règle « $n \gt 30$ » est indicative : la convergence est rapide pour les lois symétriques, plus lente pour les lois asymétriques, et le TCL échoue sans variance finie.
• Standardiser ($(x-\mu)/\sigma$) et normaliser ($(x - \min)/(\max - \min)$) changent l’échelle, pas la forme de la loi.

Exercices

Exercice · Combien de tirages, cette fois ?

facile

Au chapitre 7, l’inégalité de Tchebychev imposait 50 000 tirages pour estimer une probabilité $p$ à $\pm 0{,}01$ près avec une probabilité d’erreur d’au plus 5 %. Refaites le calcul avec le TCL, en utilisant $p(1-p) \leq 1/4$.

Voir la solution

La fréquence $\hat{p}$ est une moyenne de $n$ variables de Bernoulli, donc par le TCL $\hat{p} \approx \mathcal{N}(p, p(1-p)/n)$. On veut $P(\lvert \hat{p} - p \rvert \gt 0{,}01) \leq 0{,}05$, ce qui revient à :

$$1{,}96 \sqrt{\frac{p(1-p)}{n}} \leq 0{,}01 \iff n \geq \frac{1{,}96^2 \, p(1-p)}{0{,}01^2}$$

Avec $p(1-p) \leq 1/4$ : $n \geq 1{,}96^2 / (4 \times 0{,}0001) \approx 9\,604$. Environ 9 600 tirages suffisent, cinq fois moins qu’avec Tchebychev. Le TCL exploite la forme de la loi, là où Tchebychev se prépare au pire. (C’est aussi la taille classique d’un sondage à $\pm 1$ point.)

En code

Python

import numpy as np
from scipy import stats

z = stats.norm.ppf(0.975)                   # 1.96
n_tcl = z**2 * 0.25 / 0.01**2               # p(1 - p) <= 1/4
n_tcheb = round(0.25 / (0.01**2 * 0.05))
print(round(z, 3), np.ceil(n_tcl), n_tcheb) # 1.96 9604.0 50000

# Vérification : avec n = 9604 et p = 0.5, part des estimations à plus de 0.01
rng = np.random.default_rng(0)
p_chapeau = rng.binomial(9604, 0.5, size=100_000) / 9604
print(np.mean(np.abs(p_chapeau - 0.5) > 0.01))   # 0.0494, proche de 5 %

R

z <- qnorm(0.975)                           # 1.96
n_tcl <- z^2 * 0.25 / 0.01^2                # p(1 - p) <= 1/4
n_tcheb <- 0.25 / (0.01^2 * 0.05)
c(z, ceiling(n_tcl), n_tcheb)               # 1.96 9604 50000

# Vérification : avec n = 9604 et p = 0.5, part des estimations à plus de 0.01
set.seed(0)
p_chapeau <- rbinom(100000, size = 9604, prob = 0.5) / 9604
mean(abs(p_chapeau - 0.5) > 0.01)           # 0.0484, proche de 5 %

Exercice · La somme de 100 dés

moyen

On lance 100 dés équilibrés. Estimez avec le TCL la probabilité que la somme soit au moins égale à 380. Écrivez une simulation R pour vérifier.

Voir la solution

Pour un dé, $\mu = 3{,}5$ et $\sigma^2 = 35/12$. La somme $S$ a pour espérance $350$ et pour écart-type $\sqrt{100 \times 35/12} \approx 17{,}08$. Avec la correction de continuité (la somme est entière) :

$$P(S \geq 380) \approx P\left(Z \geq \frac{379{,}5 - 350}{17{,}08}\right) = P(Z \geq 1{,}73) \approx 0{,}042$$

La valeur exacte (obtenue par convolution répétée) vaut aussi 0,042 : pour une loi symétrique comme celle d’un dé, l’approximation est excellente dès $n = 100$.

En code

Python

import numpy as np
from scipy import stats

# Approximation normale avec correction de continuité
mu, sigma = 100 * 3.5, np.sqrt(100 * 35 / 12)
print(stats.norm.sf(379.5, loc=mu, scale=sigma))   # 0.0421

# Loi exacte de la somme : 99 convolutions de la loi d'un dé
un_de = np.ones(6) / 6                   # P(face = 1..6)
loi = un_de
for _ in range(99):
    loi = np.convolve(loi, un_de)        # loi[k] = P(S = k + 100)
print(loi[380 - 100:].sum())             # 0.0420

# Simulation
rng = np.random.default_rng(0)
S = rng.integers(1, 7, size=(100_000, 100)).sum(axis=1)
print(np.mean(S >= 380))                 # 0.0417

R

# Approximation normale avec correction de continuité
mu <- 100 * 3.5; sigma <- sqrt(100 * 35 / 12)
1 - pnorm(379.5, mean = mu, sd = sigma)    # 0.0421

# Loi exacte de la somme : 99 convolutions de la loi d'un dé
un_de <- rep(1/6, 6)
loi <- un_de
for (i in 1:99) loi <- convolve(loi, rev(un_de), type = "open")   # loi[k] = P(S = k + 99)
sum(loi[(380 - 99):length(loi)])           # 0.0420

# Simulation
set.seed(21)
S <- replicate(100000, sum(sample(1:6, 100, replace = TRUE)))
mean(S >= 380)                             # 0.0416

Exercice · Remplir un ascenseur

difficile

Un ascenseur supporte au plus 1 000 kg. On suppose que le poids d’un usager a pour moyenne 75 kg et pour écart-type 12 kg, indépendamment des autres.

1. Avec 12 usagers, quelle est la probabilité (approchée) de dépasser la charge maximale ?
2. Combien d’usagers au plus peut-on autoriser pour que ce risque reste inférieur à 0,1 % ?
3. Pourquoi l’hypothèse d’indépendance est-elle discutable ici ?

Voir la solution

1. La somme $S$ de 12 poids a pour espérance $12 \times 75 = 900$ kg et pour écart-type $12\sqrt{12} \approx 41{,}6$ kg. Par le TCL, $P(S \gt 1\,000) \approx P(Z \gt 100/41{,}6) = P(Z \gt 2{,}40) \approx 0{,}008$.
2. On veut $P(S_n \gt 1\,000) \leq 0{,}001$, soit $\frac{1\,000 - 75n}{12\sqrt{n}} \geq 3{,}09$ (quantile d’ordre 0,999 de $\mathcal{N}(0,1)$). Pour $n = 12$, le rapport vaut $2{,}40$ : trop faible. Pour $n = 11$ : $\frac{1\,000 - 825}{12\sqrt{11}} = \frac{175}{39{,}8} \approx 4{,}40 \geq 3{,}09$. On autorise donc 11 usagers au plus.
3. Les usagers d’un même ascenseur ne sont pas tirés au hasard : une équipe de rugby, un groupe d’enfants ou des déménageurs chargés forment des groupes aux poids corrélés. La variance de la somme inclut alors des covariances positives (chapitre 6) et le risque réel est plus élevé. Avec $n = 12$ seulement, l’approximation normale des queues est de plus fragile : c’est pourquoi les normes de sécurité prennent des marges bien plus larges.

En code

Python

import numpy as np
from scipy import stats

def risque(n, moyenne=75, ecart_type=12, charge=1000):
    """P(somme des poids > charge) approchée par le TCL."""
    return stats.norm.sf(charge, loc=n * moyenne, scale=ecart_type * np.sqrt(n))

print(risque(12))                     # 0.0081
for n in (10, 11, 12, 13):
    print(n, risque(n))               # 11 -> 5.4e-06, 12 -> 0.0081 : on autorise 11 usagers

R

risque <- function(n, moyenne = 75, ecart_type = 12, charge = 1000) {
  # P(somme des poids > charge) approchée par le TCL
  1 - pnorm(charge, mean = n * moyenne, sd = ecart_type * sqrt(n))
}
risque(12)                            # 0.0081
sapply(10:13, risque)                 # 11 -> 5.4e-06, 12 -> 0.0081 : on autorise 11 usagers
max(which(sapply(1:20, risque) <= 0.001))   # 11