Passez aux variables aléatoires continues

Chaque matin, vous attendez le bus pour le campus, puis vous passez un certain temps dans les transports. Ni l’attente ni le trajet ne prennent de valeurs « rondes » : ce sont des durées qui peuvent valoir 4 minutes 12 secondes, ou 4 minutes 12,3 secondes. Impossible de lister toutes les valeurs comme au chapitre précédent. Comment décrire alors leur loi, et répondre à la seule question qui compte : à quelle heure partir pour être à l’heure ?

Ce chapitre étend les outils du chapitre 4 aux variables continues. Les sommes deviennent des intégrales, et trois lois prennent le relais : l’uniforme, l’exponentielle et la normale. Le fil rouge sera votre trajet vers le campus.

Pourquoi une densité ?

Pour une variable continue, chaque valeur précise a une probabilité nulle. La probabilité que votre trajet dure exactement 30,000 000 minutes est 0 : il y a une infinité de valeurs possibles autour, et aucune ne peut garder une masse positive. On ne peut donc plus décrire la loi par des $P(X = x)$. On décrit plutôt la probabilité de tomber dans un intervalle.

On dit que $X$ est une v.a. continue (plus précisément, à densité) s’il existe une fonction $f_X$, sa densité de probabilité, telle que pour tous $a \leq b$ :

$$P(a \leq X \leq b) = \int_a^b f_X(x) \, dx$$

La probabilité est l’aire sous la courbe de la densité entre $a$ et $b$. Une densité vérifie $f_X(x) \geq 0$ partout et $\int_{-\infty}^{+\infty} f_X(x) \, dx = 1$ (l’aire totale vaut 1).

La fonction de répartition garde la même définition qu’au chapitre 4, $F_X(x) = P(X \leq x) = \int_{-\infty}^{x} f_X(t) \, dt$. Elle est maintenant continue (plus d’escalier), et là où elle est dérivable, $F_X' = f_X$. On a toujours $P(a \lt X \leq b) = F_X(b) - F_X(a)$, et comme $P(X = a) = 0$, peu importe que les inégalités soient larges ou strictes.

La même probabilité se lit de deux façons : comme une aire sous la densité, ou comme la différence de hauteur de la fonction de répartition. Là où la densité est haute, F monte vite.

Piège

Une densité n’est pas une probabilité. $f_X(x)$ peut dépasser 1 : la loi uniforme sur $[0\,;\,0{,}5]$ a une densité égale à 2. Seules les aires sous la densité sont des probabilités. Retenez l’image physique : $f_X(x) \, dx$ est la probabilité de tomber dans un tout petit intervalle de largeur $dx$ autour de $x$.

Espérance et variance se définissent comme dans le cas discret, en remplaçant la somme par une intégrale et $P(X = x)$ par $f_X(x) \, dx$ :

$$E[X] = \int_{-\infty}^{+\infty} x \, f_X(x) \, dx, \qquad E[g(X)] = \int_{-\infty}^{+\infty} g(x) \, f_X(x) \, dx$$

La seconde formule est le théorème de transfert. La variance reste $\mathrm{Var}(X) = E[X^2] - E[X]^2$, et toutes les propriétés du chapitre 4 (linéarité de l’espérance, $\mathrm{Var}(aX + b) = a^2 \mathrm{Var}(X)$) restent valables. Une réserve : ces intégrales doivent converger, ce qui n’est pas toujours le cas (vous rencontrerez au chapitre 7 une loi sans espérance).

À retenir

Une v.a. continue se décrit par une densité $f_X \geq 0$ d’aire totale 1 : les probabilités sont des aires, $P(a \leq X \leq b) = \int_a^b f_X$. Les formules de l’espérance et de la variance s’obtiennent en remplaçant les sommes par des intégrales.

L’uniforme : l’attente du bus

Le bus passe toutes les 10 minutes, et vous arrivez à l’arrêt sans consulter les horaires. Votre attente $U$ est « également probable » partout entre 0 et 10 minutes : elle suit la loi uniforme sur $[0\,;\,10]$.

Sur un intervalle $[a\,;\,b]$, la loi uniforme $\mathcal{U}[a, b]$ a une densité constante :

$$f(x) = \frac{1}{b - a} \text{ si } a \leq x \leq b, \quad 0 \text{ sinon}; \qquad E[U] = \frac{a + b}{2}, \quad \mathrm{Var}(U) = \frac{(b - a)^2}{12}$$

La hauteur $1/(b-a)$ est imposée par la condition « aire totale égale à 1 ». Pour le bus, l’attente moyenne est de 5 minutes, et la probabilité d’attendre plus de 7 minutes vaut $(10 - 7)/10 = 0{,}3$ : c’est simplement la proportion de l’intervalle couverte.

Une densité uniforme est un rectangle d'aire 1 : sa hauteur est 1/(b − a). Sur un intervalle court, elle dépasse 1 sans problème, puisque seule l'aire est une probabilité.

La loi $\mathcal{U}[0, 1]$ joue un rôle à part en informatique : c’est ce que produit un générateur de nombres pseudo-aléatoires (runif en R), et c’est à partir d’elle qu’on simule toutes les autres lois.

L’exponentielle : attendre un événement « sans mémoire »

À l’arrêt, les autres passagers arrivent au hasard, en moyenne un toutes les 2 minutes. Au chapitre 4, le nombre d’arrivées sur une période suivait une loi de Poisson. Le temps entre deux arrivées successives, lui, suit une loi exponentielle.

La loi exponentielle $\mathcal{E}(\lambda)$, de paramètre $\lambda \gt 0$ (l’intensité, en événements par unité de temps), a pour densité et fonction de répartition :

$$f(x) = \lambda e^{-\lambda x}, \quad F(x) = 1 - e^{-\lambda x} \quad (x \geq 0); \qquad E[T] = \frac{1}{\lambda}, \quad \mathrm{Var}(T) = \frac{1}{\lambda^2}$$

Elle modélise les durées d’attente avant un événement qui survient « au hasard » : l’arrivée d’un client ou d’une requête, la panne d’un composant électronique, la désintégration d’un atome.

Exemple

Avec un passager toutes les 2 minutes en moyenne, $\lambda = 0{,}5$ par minute. La probabilité qu’il s’écoule plus de 3 minutes sans aucune arrivée vaut :

$$P(T \gt 3) = 1 - F(3) = e^{-0{,}5 \times 3} = e^{-1{,}5} \approx 0{,}223$$

C’est cohérent avec la loi de Poisson : le nombre d’arrivées en 3 minutes suit $\mathcal{P}(1{,}5)$, et $P(\text{aucune arrivée}) = e^{-1{,}5}$. Les deux points de vue décrivent le même phénomène.

La loi exponentielle a une propriété unique parmi les lois continues : elle est sans mémoire. Pour tous $s, t \geq 0$ :

$$P(T \gt s + t \mid T \gt s) = \frac{P(T \gt s + t)}{P(T \gt s)} = \frac{e^{-\lambda(s + t)}}{e^{-\lambda s}} = e^{-\lambda t} = P(T \gt t)$$

(la première égalité vient de ce que l’événement « $T \gt s + t$ » est inclus dans « $T \gt s$ »). Autrement dit, si personne n’est arrivé depuis 5 minutes, le temps restant à attendre a exactement la même loi qu’au départ. Le passé ne « rapproche » pas l’événement.

Gauche : une arrivée sur deux minutes en moyenne, et 22 % de chances d'attendre plus de 3 minutes. Droite : ne garder que les attentes de plus de 5 minutes, puis repartir de zéro, redonne la même courbe.

Attention

L’absence de mémoire convient aux arrivées aléatoires ou aux pannes accidentelles (électronique), mais pas aux phénomènes d’usure. Un pneu qui a roulé 40 000 km n’a pas la même durée de vie restante qu’un pneu neuf. Pour l’usure, on utilise d’autres lois (Weibull, gamma), vues dans le cours de Modèles stochastiques.

La normale : le trajet et tout le reste

Votre trajet dure 30 minutes en moyenne, avec des variations dues aux feux, au trafic, au nombre d’arrêts. Une durée qui résulte de l’addition de nombreuses petites perturbations indépendantes suit, à peu près, une loi normale (ou gaussienne). Le chapitre 8 expliquera pourquoi : c’est le théorème central limite. C’est la loi la plus importante de toute la statistique.

La loi normale $\mathcal{N}(\mu, \sigma^2)$ a pour densité :

$$f(x) = \frac{1}{\sigma \sqrt{2\pi}} \exp\left(-\frac{(x - \mu)^2}{2\sigma^2}\right)$$

• $\mu$ est l’espérance, au centre de la cloche (qui est symétrique autour de $\mu$) ;
• $\sigma^2$ est la variance, et $\sigma$ l’écart-type, qui règle la largeur de la cloche.

Si $\mu = 0$ et $\sigma = 1$, on parle de loi normale centrée réduite, notée $\mathcal{N}(0, 1)$, dont la fonction de répartition est notée $\Phi$. Elle n’a pas d’expression simple : on la lit dans une table ou on la calcule avec pnorm.

Standardiser pour tout ramener à N(0, 1)

Si $X \sim \mathcal{N}(\mu, \sigma^2)$, alors la variable standardisée (ou centrée réduite)

$$Z = \frac{X - \mu}{\sigma}$$

suit $\mathcal{N}(0, 1)$. Toute question sur une normale se ramène ainsi à $\Phi$. On en déduit la règle des « 68-95-99,7 » : une normale tombe à moins de $1\sigma$ de sa moyenne avec probabilité 0,683, à moins de $2\sigma$ avec probabilité 0,954 et à moins de $3\sigma$ avec probabilité 0,997.

Chaque écart-type ajouté élargit la bande de 4 minutes. Au-delà de 3σ (avant 18 ou après 42 minutes), il ne reste que 0,3 % des trajets.

Exemple

Votre trajet $T$ suit $\mathcal{N}(30, 4^2)$ (en minutes). Quelle est la probabilité qu’il dure plus de 36 minutes ?

$$P(T \gt 36) = P\left(Z \gt \frac{36 - 30}{4}\right) = P(Z \gt 1{,}5) = 1 - \Phi(1{,}5) \approx 0{,}067$$

Environ un trajet sur quinze dépasse 36 minutes.

Les quantiles : à quelle heure partir ?

La question inverse est souvent plus utile : quelle durée n’est dépassée que 5 % du temps ? C’est le quantile d’ordre 0,95, la valeur $q$ telle que $P(T \leq q) = 0{,}95$. Pour la normale centrée réduite, ce quantile vaut environ 1,645 (et celui d’ordre 0,975 vaut environ 1,96, un nombre que vous reverrez sans cesse en statistique). En « déstandardisant » :

$$q_{0{,}95} = \mu + 1{,}645 \, \sigma = 30 + 1{,}645 \times 4 \approx 36{,}6 \text{ minutes}$$

Si vous voulez arriver à l’heure 95 fois sur 100, prévoyez 37 minutes de trajet (sans compter l’attente du bus, que nous ajouterons au chapitre suivant).

Le quantile d'ordre 0,95 est la durée qui laisse 95 % de l'aire à sa gauche : 36,6 minutes, soit 1,645 écart-type au-dessus de la moyenne.

Les lois continues en R

Les préfixes d, p, q, r du chapitre 4 s’appliquent tels quels : dnorm donne la densité, pnorm la répartition, qnorm le quantile et rnorm des tirages.

# Attente du bus : uniforme sur [0, 10]
1 - punif(7, min = 0, max = 10)          # P(U > 7) = 0.3

# Temps entre deux passagers : exponentielle de paramètre 0.5 par minute
1 - pexp(3, rate = 0.5)                  # P(T > 3) = 0.223

# Trajet : normale de moyenne 30 et d'écart-type 4
1 - pnorm(36, mean = 30, sd = 4)         # 0.067
qnorm(0.95, mean = 30, sd = 4)           # 36.58

# Comparer un histogramme de tirages à la densité théorique
set.seed(2)
x <- rnorm(5000, mean = 30, sd = 4)
hist(x, breaks = 40, freq = FALSE, main = "Durée du trajet", xlab = "minutes")
curve(dnorm(x, mean = 30, sd = 4), add = TRUE, lwd = 2)

L’option freq = FALSE trace l’histogramme en densité (aire totale 1) plutôt qu’en effectifs : c’est indispensable pour le superposer à une courbe de densité.

Piège

R paramètre la normale par l’écart-type : rnorm(n, mean, sd). Les livres écrivent souvent $\mathcal{N}(\mu, \sigma^2)$ avec la variance, et d’autres $\mathcal{N}(\mu, \sigma)$. Dans ce cours, le second paramètre est toujours la variance ; dans R (et dans le paramètre scale de SciPy en Python), c’est l’écart-type. Écrire rnorm(100, 30, 16) pour une variance de 16 est une erreur classique.

Pour aller au-delà de la moyenne et de la variance, on utilise parfois les moments centrés $\mu_k = E[(X - E[X])^k]$. Le coefficient d’asymétrie (skewness) $\mu_3 / \sigma^3$ vaut 0 pour une loi symétrique comme la normale, et 2 pour l’exponentielle, qui a une longue queue à droite. Le coefficient d’aplatissement (kurtosis) $\mu_4 / \sigma^4$ vaut 3 pour la normale ; une valeur plus grande signale des valeurs extrêmes plus fréquentes.

En entretien

« Pour une variable continue, la densité n’est pas une probabilité : ce sont les aires sous la densité qui en sont. Pour une normale, on standardise avec $(x - \mu)/\sigma$ et on lit $\Phi$ ; attention à la convention du second paramètre, variance dans les livres, écart-type dans R et SciPy. »

En résumé

• Pour une v.a. continue, $P(X = a) = 0$ ; la loi se décrit par une densité $f_X$, et les probabilités sont des aires sous $f_X$.
• $F_X(x) = \int_{-\infty}^x f_X$ est continue, et $F_X' = f_X$ ; espérance et variance s’écrivent avec des intégrales.
• Uniforme $\mathcal{U}[a, b]$ : densité constante, $E = (a+b)/2$, $\mathrm{Var} = (b-a)^2/12$.
• Exponentielle $\mathcal{E}(\lambda)$ : temps d’attente, $P(T \gt t) = e^{-\lambda t}$, $E = 1/\lambda$, sans mémoire ; elle est liée à la loi de Poisson.
• Normale $\mathcal{N}(\mu, \sigma^2)$ : on standardise avec $Z = (X - \mu)/\sigma$ ; 68 %, 95 %, 99,7 % à $1\sigma$, $2\sigma$, $3\sigma$.
• En R, dnorm, pnorm, qnorm, rnorm (et de même pour unif, exp), avec l’écart-type comme paramètre de la normale.

Exercices

Exercice · Construire une densité

facile

Soit $f(x) = c\,x$ pour $0 \leq x \leq 2$, et $f(x) = 0$ ailleurs.

1. Trouvez $c$ pour que $f$ soit une densité.
2. Calculez $F(x)$ pour $0 \leq x \leq 2$, puis $P(X \leq 1)$.
3. Calculez $E[X]$.

Voir la solution

1. Il faut $\int_0^2 c\,x \, dx = c \times \tfrac{2^2}{2} = 2c = 1$, donc $c = 1/2$. On a bien $f \geq 0$.
2. $F(x) = \int_0^x \tfrac{t}{2} \, dt = \tfrac{x^2}{4}$ pour $0 \leq x \leq 2$ (et $F = 0$ avant, $F = 1$ après). Donc $P(X \leq 1) = 1/4$. Remarquez que la moitié gauche de l’intervalle ne porte qu’un quart de la probabilité, parce que la densité y est plus faible.
3. $E[X] = \int_0^2 x \times \tfrac{x}{2} \, dx = \tfrac{1}{2} \times \tfrac{2^3}{3} = \tfrac{4}{3} \approx 1{,}33$, plus proche de 2 que de 0, pour la même raison.

En code

Python

from scipy.integrate import quad

# 1. c tel que l'aire sous c*x entre 0 et 2 vaille 1
aire_sans_c, _ = quad(lambda x: x, 0, 2)
c = 1 / aire_sans_c
print(c)                                   # 0.5

f = lambda x: c * x                        # la densité
print(quad(f, 0, 1)[0])                    # 0.25   P(X <= 1) = F(1) = 1/4
print(quad(lambda x: x * f(x), 0, 2)[0])   # 1.3333 E[X] = 4/3

R

# 1. c tel que l'aire sous c*x entre 0 et 2 vaille 1
aire_sans_c <- integrate(function(x) x, 0, 2)$value
c_norm <- 1 / aire_sans_c
c_norm                                           # 0.5

f <- function(x) c_norm * x                      # la densité
integrate(f, 0, 1)$value                         # 0.25   P(X <= 1) = F(1) = 1/4
integrate(function(x) x * f(x), 0, 2)$value      # 1.3333 E[X] = 4/3

Exercice · Une ampoule sans mémoire

moyen

La durée de vie d’une ampoule LED suit une loi exponentielle de moyenne 1 000 heures.

1. Quelle est la probabilité qu’elle dure plus de 500 heures ?
2. Elle fonctionne depuis 1 000 heures. Quelle est la probabilité qu’elle fonctionne encore 500 heures de plus ?
3. Quelle est sa durée de vie médiane (la durée dépassée avec probabilité 1/2) ?

Voir la solution

La moyenne vaut $1/\lambda = 1\,000$, donc $\lambda = 0{,}001$ par heure.

1. $P(T \gt 500) = e^{-0{,}001 \times 500} = e^{-0{,}5} \approx 0{,}607$.
2. Par l’absence de mémoire, $P(T \gt 1\,500 \mid T \gt 1\,000) = P(T \gt 500) \approx 0{,}607$ : exactement la même chose qu’une ampoule neuve.
3. On cherche $m$ tel que $e^{-0{,}001\,m} = 1/2$, soit $m = \ln 2 / 0{,}001 \approx 693$ heures. La médiane est inférieure à la moyenne : la loi exponentielle est asymétrique, avec une longue queue de durées de vie très longues qui tire la moyenne vers le haut. En R : qexp(0.5, rate = 0.001).

En code

Python

import numpy as np
from scipy import stats

duree = stats.expon(scale=1000)          # scipy : scale = moyenne = 1/lambda
print(duree.sf(500))                     # 0.6065  P(T > 500)
print(duree.sf(1500) / duree.sf(1000))   # 0.6065  P(T > 1500 | T > 1000)
print(duree.median(), np.log(2) * 1000)  # 693.1  693.1

R

lambda <- 1 / 1000                                  # R : rate = 1 / moyenne
1 - pexp(500, rate = lambda)                        # 0.6065  P(T > 500)
(1 - pexp(1500, lambda)) / (1 - pexp(1000, lambda)) # 0.6065  P(T > 1500 | T > 1000)
qexp(0.5, rate = lambda)                            # 693.1   médiane = ln(2) / lambda

Exercice · Régler une machine de remplissage

difficile

Une machine remplit des paquets de café. Le poids réel suit une loi normale d’écart-type 5 g, dont on peut régler la moyenne $\mu$. L’étiquette annonce 500 g, et la réglementation interne exige qu’au plus 1 % des paquets pèsent moins de 500 g.

1. Quelle moyenne $\mu$ minimale faut-il régler ?
2. Avec ce réglage, quelle proportion des paquets dépasse 520 g ?
3. Un technicien propose de diviser l’écart-type par deux en changeant de doseur. Quelle moyenne suffirait alors, et combien de café économise-t-on par paquet ?

Voir la solution

1. On veut $P(X \lt 500) \leq 0{,}01$, soit $\Phi\left(\tfrac{500 - \mu}{5}\right) \leq 0{,}01$. Le quantile d’ordre 0,01 de $\mathcal{N}(0,1)$ vaut $-2{,}326$ (par symétrie, l’opposé de celui d’ordre 0,99). Il faut donc $\tfrac{500 - \mu}{5} \leq -2{,}326$, soit $\mu \geq 500 + 2{,}326 \times 5 \approx 511{,}6$ g.
2. $P(X \gt 520) = P\left(Z \gt \tfrac{520 - 511{,}6}{5}\right) = P(Z \gt 1{,}67) \approx 0{,}047$, soit environ 5 % des paquets.
3. Avec $\sigma = 2{,}5$ g, il suffit de $\mu \geq 500 + 2{,}326 \times 2{,}5 \approx 505{,}8$ g. On économise environ 5,8 g de café par paquet, soit plus de 1 % de la production : réduire la variabilité rapporte directement.

En R : 500 - qnorm(0.01) * 5 donne 511.63, et 1 - pnorm(520, 511.63, 5) environ 0,047.

En code

Python

from scipy import stats

z_001 = stats.norm.ppf(0.01)               # -2.326
mu_5 = 500 - z_001 * 5                     # moyenne minimale avec sigma = 5 g
print(mu_5)                                # 511.63
print(stats.norm.sf(520, loc=mu_5, scale=5))   # 0.0471  P(X > 520)

mu_25 = 500 - z_001 * 2.5                  # avec sigma = 2.5 g
print(mu_25, mu_5 - mu_25)                 # 505.82  5.82 g économisés par paquet

R

z_001 <- qnorm(0.01)                       # -2.326
mu_5 <- 500 - z_001 * 5                    # moyenne minimale avec sigma = 5 g
mu_5                                       # 511.63
1 - pnorm(520, mean = mu_5, sd = 5)        # 0.0471  P(X > 520)

mu_25 <- 500 - z_001 * 2.5                 # avec sigma = 2.5 g
c(mu_25, mu_5 - mu_25)                     # 505.82  5.82 g économisés par paquet