Mesurez un lien monotone avec Spearman et Kendall

Plus on révise, meilleure est la note. Mais pas forcément de façon linéaire : les premières heures rapportent beaucoup, les suivantes de moins en moins. Le coefficient de corrélation de Pearson mesure l’alignement des points sur une droite ; il sous-estime donc un lien fort mais courbé, et il se laisse facilement abuser par un seul point extrême.

Les corrélations de rang mesurent autre chose : à quel point les deux variables montent ensemble, quelle que soit la forme exacte de la relation. Ce chapitre présente les deux plus utilisées, celle de Spearman et celle de Kendall.

Le fil rouge : heures de révision et notes

Huit étudiants ont noté leurs heures de révision avant un examen, puis leur note sur 20 :

Étudiant	1	2	3	4	5	6	7	8
Heures $x$	2	4	5	7	8	10	12	15
Note $y$	6	9	10	12	11	14	15	16

La relation est clairement croissante, avec un gain qui s’essouffle et une petite inversion (l’étudiant 5 a révisé plus que l’étudiant 4 et obtenu une note un peu plus basse).

Rappelons que la corrélation de Pearson vaut

$$r = \frac{\sum_i (x_i - \bar x)(y_i - \bar y)}{\sqrt{\sum_i (x_i - \bar x)^2 \sum_i (y_i - \bar y)^2}}$$

où $\bar x$ et $\bar y$ sont les moyennes. Elle vaut ici $r \approx 0{,}967$. Elle mesure un lien linéaire et suppose, pour ses tests, une loi normale des deux variables (voir le cours de Statistiques).

La corrélation de Spearman : Pearson sur les rangs

L’idée de Spearman est directe : on remplace chaque variable par ses rangs, puis on calcule la corrélation de Pearson sur ces rangs. On la note $\rho_s$.

S’il n’y a pas d’ex aequo, une formule plus simple donne le même résultat :

$$\rho_s = 1 - \frac{6 \sum_i d_i^2}{n(n^2 - 1)}$$

où $d_i$ est la différence entre le rang de $x_i$ et le rang de $y_i$, et $n$ le nombre d’observations.

Exemple

Les heures sont déjà dans l’ordre : leurs rangs sont 1 à 8. Les rangs des notes sont 1, 2, 3, 5, 4, 6, 7, 8 (la note 11 est la 4e plus petite, la note 12 la 5e). Seuls les étudiants 4 et 5 ont une différence de rang non nulle, $d = -1$ et $d = +1$ :

$$\sum d_i^2 = 2, \qquad \rho_s = 1 - \frac{6 \times 2}{8 \times 63} = 1 - \frac{12}{504} \approx 0{,}976$$

La relation est presque parfaitement monotone.

Spearman, c'est Pearson appliqué au nuage de droite. Seuls les étudiants 4 et 5 s'écartent de la diagonale, d'un rang chacun : Σd² = 2.

$\rho_s$ vaut $+1$ quand $y$ est une fonction strictement croissante de $x$ (quelle qu’elle soit), $-1$ quand elle est strictement décroissante, et environ 0 quand il n’y a pas de tendance monotone.

À retenir

Spearman mesure un lien monotone, pas linéaire. C’est la corrélation de Pearson calculée sur les rangs, donc elle hérite de la robustesse et de l’invariance des rangs : toute transformation croissante de $x$ ou de $y$ la laisse inchangée.

La corrélation de Kendall : compter les paires

Kendall adopte un point de vue différent. Prenez deux étudiants $i$ et $j$. La paire est :

• concordante si celui qui a le plus révisé a aussi la meilleure note, c’est-à-dire si $(x_i - x_j)(y_i - y_j) > 0$ ;
• discordante si c’est l’inverse, c’est-à-dire si $(x_i - x_j)(y_i - y_j) < 0$.

Le tau de Kendall compare les nombres $C$ de paires concordantes et $D$ de paires discordantes :

$$\tau = \frac{C - D}{n(n-1)/2}$$

où $n(n-1)/2$ est le nombre total de paires. Son interprétation est très concrète : pour une paire tirée au hasard, $\tau = P(\text{concordante}) - P(\text{discordante})$.

Exemple

Avec 8 étudiants, il y a $8 \times 7 / 2 = 28$ paires. Une seule est discordante : la paire (4, 5). Donc $C = 27$, $D = 1$ et

$$\tau = \frac{27 - 1}{28} \approx 0{,}929$$

Si vous tirez deux étudiants au hasard, celui qui a le plus révisé a la meilleure note dans $27/28 \approx 96\ \%$ des cas.

Kendall compte les segments qui montent (paires concordantes) et ceux qui descendent (discordantes). Un seul descend : τ = (27 − 1)/28.

Remarquez que $\tau$ (0,929) est plus petit que $\rho_s$ (0,976) sur les mêmes données. C’est la règle générale : les deux coefficients n’ont pas la même échelle, et $|\tau|$ est en général plus petit que $|\rho_s|$. Pour une loi normale bivariée de corrélation $\rho$, on a par exemple $\tau = \frac{2}{\pi}\arcsin \rho$ et $\rho_s = \frac{6}{\pi}\arcsin(\rho/2)$ : pour $\rho = 0{,}5$, $\tau \approx 0{,}33$ et $\rho_s \approx 0{,}48$. Ne comparez donc jamais un $\tau$ à un $\rho_s$.

Les deux coefficients n'ont pas la même échelle : pour un même lien, τ est plus petit que ρₛ. Comparer un τ à un ρₛ n'a pas de sens.

Les ex aequo

Avec des ex aequo, une paire peut n’être ni concordante ni discordante. La version tau-b, utilisée par défaut par scipy et par R, corrige le dénominateur :

$$\tau_b = \frac{C - D}{\sqrt{(n_0 - n_x)(n_0 - n_y)}}$$

où $n_0 = n(n-1)/2$, $n_x$ est le nombre de paires ex aequo sur $x$ et $n_y$ le nombre de paires ex aequo sur $y$. Sans ex aequo, $\tau_b = \tau$. Pour Spearman, on donne le rang moyen aux ex aequo et on calcule Pearson sur les rangs (la formule avec $\sum d_i^2$ n’est alors plus exacte).

Robustesse : quand Pearson se trompe

Deux situations montrent l’intérêt des corrélations de rang.

Une relation monotone mais courbe. Prenez $x = 1, 2, \dots, 8$ et $y = 2^x$ (une croissance exponentielle, 2, 4, 8, … , 256). Le lien est parfait : $y$ est entièrement déterminé par $x$ et croît avec lui. Pourtant, Pearson ne vaut que 0,85, car les points ne sont pas alignés. Spearman et Kendall valent exactement 1.

Un seul point aberrant. Prenez dix points sans aucune tendance, dont $y$ oscille autour de 5 (5,1 ; 4,8 ; 5,3 ; 4,9 ; 5,2 ; 5,0 ; 4,7 ; 5,4 ; 4,6 pour $x = 1$ à 9), et ajoutez un dixième point, $x = 10$ et $y = 30$ (une erreur de saisie, par exemple).

	Sans le point aberrant	Avec le point aberrant
Pearson	−0,22	0,52
Spearman	−0,22	0,12
Kendall	−0,17	0,07

Un seul point fait passer Pearson d’une légère corrélation négative à une corrélation positive « nette ». Pour les coefficients de rang, ce point n’est que « le plus grand $y$ » : son poids est borné, et la conclusion (pas de lien) ne change pas.

À gauche, le lien est parfait mais courbe : Pearson ne vaut que 0,85. À droite, un seul point fait passer Pearson de −0,22 à 0,52, alors que les coefficients de rang restent proches de 0.

Piège

Une corrélation de rang nulle ne veut pas dire « pas de lien ». Elle signifie « pas de lien monotone ». Une relation en U (par exemple, la performance en fonction de la température, meilleure au milieu) peut donner $\rho_s \approx 0$ avec une dépendance très forte. Regardez toujours le nuage de points.

Un lien parfait mais en U : ρₛ = 0, parce que la relation n'est ni croissante ni décroissante.

Tester l’absence de lien

Sous $H_0$ (les deux variables sont indépendantes), toutes les permutations des rangs de $y$ sont équiprobables : c’est ce qui rend ces tests libres de distribution.

• Loi exacte : pour de petits $n$, on énumère les $n!$ permutations. Pour notre fil rouge, seules 8 permutations sur $8! = 40\,320$ donnent $\sum d_i^2 \le 2$ (l’identité et les 7 échanges de deux rangs voisins), d’où une p-valeur bilatérale exacte de $2 \times 8/40\,320 \approx 0{,}0004$. C’est aussi la p-valeur exacte de Kendall, puisque les permutations avec $D \le 1$ sont les mêmes.
• Approximations : pour Spearman, $t = \rho_s \sqrt{(n-2)/(1-\rho_s^2)}$ suit approximativement une loi de Student à $n - 2$ degrés de liberté ; pour Kendall, sous $H_0$, $\mathrm{Var}(\tau) = \frac{2(2n+5)}{9n(n-1)}$ et $\tau$ est approximativement normal.

from scipy import stats

heures = [2, 4, 5, 7, 8, 10, 12, 15]
notes  = [6, 9, 10, 12, 11, 14, 15, 16]

print(stats.pearsonr(heures, notes))     # r ≈ 0.967
print(stats.spearmanr(heures, notes))    # rho ≈ 0.976, p ≈ 3e-05 (approximation de Student)
print(stats.kendalltau(heures, notes))   # tau ≈ 0.929, p ≈ 0.0004 (loi exacte)

En R, une seule fonction, cor.test, avec l’argument method :

heures <- c(2, 4, 5, 7, 8, 10, 12, 15)
notes  <- c(6, 9, 10, 12, 11, 14, 15, 16)
cor.test(heures, notes, method = "pearson")
cor.test(heures, notes, method = "spearman")   # S = 2 (somme des d²), rho = 0.976, p ≈ 0.0004
cor.test(heures, notes, method = "kendall")    # T = 27 (paires concordantes), tau = 0.929, p ≈ 0.0004

Attention

Pour Spearman, scipy et R ne donnent pas la même p-valeur sur ce petit exemple : scipy.stats.spearmanr utilise l’approximation de Student ($p \approx 3 \times 10^{-5}$), tandis que R calcule la loi exacte pour les petits échantillons ($p \approx 0{,}0004$). Avec huit observations, c’est la loi exacte qui fait foi. Dans scipy, vous pouvez l’obtenir par un test de permutation (chapitre 7).

Lequel choisir ?

Critère	Spearman	Kendall
Interprétation	Pearson sur les rangs	$P(\text{concordance}) - P(\text{discordance})$
Robustesse aux points extrêmes	bonne	meilleure (chaque paire compte pour 1)
Petits échantillons, nombreux ex aequo	correcte	meilleures propriétés, tau-b gère bien les ex aequo
Calcul	$O(n \log n)$	$O(n^2)$ naïf, $O(n \log n)$ avec un tri astucieux
Usage courant	exploration, sélection de variables	comparaison de classements, petits $n$

En data science, Spearman sert souvent à repérer des variables liées de façon monotone à la cible, et Kendall à comparer deux classements : le classement prédit par un moteur de recommandation et le classement réel, ou deux classements de modèles.

En entretien

« Pearson mesure un lien linéaire et est sensible aux valeurs extrêmes. Spearman, c’est Pearson sur les rangs : il mesure un lien monotone. Kendall compte les paires concordantes et discordantes, et s’interprète comme une différence de probabilités ; il est un peu plus robuste et plus adapté aux petits échantillons. »

En résumé

• Pearson mesure un lien linéaire ; il est trompé par une relation courbe ou par un seul point extrême.
• Spearman $\rho_s$ est la corrélation de Pearson des rangs ; sans ex aequo, $\rho_s = 1 - 6\sum d_i^2 / (n(n^2-1))$.
• Kendall $\tau = (C - D)/(n(n-1)/2)$ compare paires concordantes et discordantes ; tau-b corrige les ex aequo.
• Les deux valent $\pm 1$ pour une relation strictement monotone et sont invariants par transformation croissante ; $|\tau|$ est en général plus petit que $|\rho_s|$.
• Une corrélation de rang nulle signifie « pas de lien monotone », pas « pas de lien ».
• scipy.stats.spearmanr, scipy.stats.kendalltau ; en R, cor.test(..., method = "spearman") ou "kendall".

Exercices

Exercice · Deux jurys

facile

Deux jurys classent six projets. Jury A : 1, 2, 3, 4, 5, 6. Jury B (pour les mêmes projets) : 2, 1, 4, 3, 6, 5. Calculez $\rho_s$ et $\tau$.

Voir la solution

Les différences de rang valent toutes $\pm 1$ : $\sum d_i^2 = 6$, d’où

$$\rho_s = 1 - \frac{6 \times 6}{6 \times 35} = 1 - \frac{36}{210} \approx 0{,}829$$

Paires : il y a $6 \times 5/2 = 15$ paires. Les discordantes sont les trois paires inversées, (1, 2), (3, 4) et (5, 6) ; toutes les autres sont concordantes. $C = 12$, $D = 3$, $\tau = (12 - 3)/15 = 0{,}6$. Les deux jurys sont largement d’accord ; on retrouve $\tau$ plus petit que $\rho_s$.

En code

Python

from scipy import stats

jury_A = [1, 2, 3, 4, 5, 6]
jury_B = [2, 1, 4, 3, 6, 5]
print(stats.spearmanr(jury_A, jury_B).statistic)    # 0.829
print(stats.kendalltau(jury_A, jury_B).statistic)   # 0.6

R

jury_A <- c(1, 2, 3, 4, 5, 6)
jury_B <- c(2, 1, 4, 3, 6, 5)
cor(jury_A, jury_B, method = "spearman")   # 0.829
cor(jury_A, jury_B, method = "kendall")    # 0.6

Exercice · Évaluer un classement prédit

moyen

Un moteur de recommandation classe six articles dans l’ordre 3, 1, 2, 6, 4, 5, alors que leur ordre de pertinence réel est 1, 2, 3, 4, 5, 6 (autrement dit, l’article réellement le plus pertinent est placé en 3e position, etc.).

1. Calculez $\tau$ entre classement prédit et classement réel.
2. Interprétez-le comme une probabilité.
3. Calculez $\rho_s$.

Voir la solution

1. Positions prédites : (3, 1, 2, 6, 4, 5). Une paire $(i, j)$ avec $i \lt j$ est discordante si la position de $i$ est plus grande que celle de $j$. Paires discordantes : (1, 2) car $3 \gt 1$, (1, 3) car $3 \gt 2$, (4, 5) car $6 \gt 4$, (4, 6) car $6 \gt 5$. $D = 4$, $C = 15 - 4 = 11$, $\tau = 7/15 \approx 0{,}47$.
2. Deux articles tirés au hasard sont dans le bon ordre avec une probabilité $11/15 \approx 0{,}73$, et dans le mauvais ordre avec une probabilité $4/15 \approx 0{,}27$ ; $\tau$ est la différence des deux.
3. Différences de rang : $3-1 = 2$, $1-2 = -1$, $2-3 = -1$, $6-4 = 2$, $4-5 = -1$, $5-6 = -1$. $\sum d_i^2 = 4 + 1 + 1 + 4 + 1 + 1 = 12$, $\rho_s = 1 - 72/210 \approx 0{,}657$.

En code

Python

import itertools
from scipy import stats

reel   = [1, 2, 3, 4, 5, 6]
predit = [3, 1, 2, 6, 4, 5]     # position prédite de chaque article

# Paires discordantes, comptées une à une
D = sum((predit[i] - predit[j]) * (reel[i] - reel[j]) < 0
        for i, j in itertools.combinations(range(6), 2))
print(D, 15 - D)                                  # D = 4, C = 11
print(stats.kendalltau(reel, predit).statistic)   # 0.467 (= 7/15)
print(stats.spearmanr(reel, predit).statistic)    # 0.657

R

reel   <- c(1, 2, 3, 4, 5, 6)
predit <- c(3, 1, 2, 6, 4, 5)     # position prédite de chaque article

# Paires discordantes, comptées une à une
paires <- combn(6, 2)
D <- sum((predit[paires[1, ]] - predit[paires[2, ]]) *
         (reel[paires[1, ]] - reel[paires[2, ]]) < 0)
c(D, 15 - D)                                # D = 4, C = 11
cor(reel, predit, method = "kendall")       # 0.467 (= 7/15)
cor(reel, predit, method = "spearman")      # 0.657

Exercice · Choisir un coefficient

difficile

Pour chaque situation, dites quel coefficient vous calculeriez et pourquoi.

1. Le lien entre la surface d’un appartement et son prix, sur 5 000 annonces, avec quelques annonces aberrantes (prix saisi en centimes).
2. Le lien entre le niveau de satisfaction (très insatisfait à très satisfait, 5 niveaux) et le nombre de commandes, sur 40 clients.
3. Le lien entre la dose d’un engrais et le rendement, sachant qu’au-delà d’une certaine dose l’engrais devient toxique.

Voir la solution

1. Spearman (ou Kendall) : sur un grand échantillon, Spearman est rapide et robuste aux quelques prix aberrants, alors que Pearson serait fortement déformé. Mieux encore, nettoyer les erreurs de saisie avant tout calcul.
2. Kendall tau-b : la satisfaction est ordinale avec seulement 5 niveaux, donc beaucoup d’ex aequo, et l’échantillon est petit. Tau-b gère bien les ex aequo.
3. Aucun des trois ne convient seul : la relation monte puis descend (non monotone), donc Pearson, Spearman et Kendall peuvent être proches de 0 malgré un lien fort. Il faut tracer le nuage de points, puis modéliser la relation (régression avec un terme quadratique, par exemple) ou utiliser une mesure de dépendance générale comme l’information mutuelle.

En code

Python

import numpy as np
from scipy import stats

# Question 3 : un rendement qui monte puis descend avec la dose d'engrais
dose = np.arange(0, 11)                       # doses 0 à 10
rendement = 50 - (dose - 5) ** 2              # maximum à la dose 5, lien parfait

print(stats.pearsonr(dose, rendement).statistic)     # 5e-18, soit 0 aux erreurs d'arrondi près
print(stats.spearmanr(dose, rendement).statistic)    # 0.0
print(stats.kendalltau(dose, rendement).statistic)   # 0.0

R

# Question 3 : un rendement qui monte puis descend avec la dose d'engrais
dose <- 0:10
rendement <- 50 - (dose - 5)^2               # maximum à la dose 5, lien parfait

cor(dose, rendement, method = "pearson")     # 0
cor(dose, rendement, method = "spearman")    # 0
cor(dose, rendement, method = "kendall")     # 0