Comment fonctionne le paradoxe de Simpson

Le paradoxe de Simpson est une tendance qui apparaît dans chaque groupe de données mais s’inverse quand on réunit les groupes. Ce n’est pas un tour de passe-passe avec les chiffres, mais un avertissement : une comparaison peut dépendre d’un troisième facteur qui décide de qui se retrouve dans quel groupe. Voici comment il apparaît, où on l’a observé et que faire.

Deux séries de barres qui montent dans chaque groupe mais pointent dans l’autre sens une fois réunies
Deux séries de barres qui montent dans chaque groupe mais pointent dans l’autre sens une fois réunies

Une tendance qui s’inverse

En 1995, David Justice avait une meilleure moyenne au bâton que Derek Jeter (.253 contre .250), et en 1996 aussi (.321 contre .314). Pourtant, sur les deux années réunies, Jeter était devant, avec .310 contre .270. La raison : Jeter avait eu la plupart de ses présences au bâton en 1996, sa bonne année, et Justice la plupart des siennes en 1995, sa moins bonne. La moyenne globale de chaque joueur est tirée vers l’année où il a été le plus souvent au bâton.

Le calcul qui l’explique

Un taux global est une moyenne pondérée des taux des groupes, et les poids sont les parts des cas de chaque option dans chaque groupe. Si une option a la plupart de ses cas dans un groupe facile et l’autre dans un groupe difficile, les poids peuvent l’emporter sur les écarts à l’intérieur des groupes. Pour l’étude sur les calculs rénaux : chirurgie ouverte 0,25 × 93,1 % + 0,75 × 73,0 % = 78,0 %, chirurgie mini-invasive 0,77 × 86,7 % + 0,23 × 68,8 % = 82,6 %.

Le cas des admissions à Berkeley

À l’automne 1973, l’université de Californie à Berkeley a admis environ 44 % des hommes et 35 % des femmes qui avaient postulé à ses programmes de master et de doctorat. Peter Bickel, Eugene Hammel et William O'Connell ont examiné les départements séparément et publié leur analyse dans Science en 1975. Dans la plupart des départements, les femmes étaient admises à un taux similaire ou plus élevé. Elles avaient surtout postulé dans des départements qui admettaient peu de candidats, hommes comme femmes, ce qui tirait leur taux global vers le bas. Dans les six plus grands départements, 44,5 % des hommes et 30,4 % des femmes ont été admis, et pourtant les femmes faisaient mieux dans quatre des six.

Quelle réponse est la bonne ?

Les données seules ne peuvent pas trancher ; c’est la façon dont elles ont été produites qui décide. Quand le critère de regroupement influe à la fois sur l’option choisie et sur le résultat, c’est un facteur de confusion : les médecins choisissaient plus souvent la chirurgie ouverte pour les gros calculs, plus difficiles à traiter, donc la comparaison juste se fait à taille de calcul égale. Quand le regroupement est lui-même une conséquence de l’option, par exemple une mesure prise après un traitement, séparer les données selon ce critère peut masquer l’effet, et le chiffre global est le meilleur guide. L’informaticien Judea Pearl a montré comment les diagrammes causaux tranchent la question.

Un peu d’histoire

Karl Pearson et ses collègues ont remarqué l’effet en 1899 et George Udny Yule l’a décrit en 1903 ; Edward H. Simpson a écrit à son sujet en 1951, et le statisticien Colin Blyth l’a nommé paradoxe de Simpson en 1972. On l’appelle aussi effet Yule-Simpson, paradoxe d’amalgamation ou paradoxe de l’inversion. On le rencontre aussi bien dans les essais médicaux que dans les résultats scolaires, les analyses électorales et les statistiques sportives.

Questions fréquemment posées

Comment repérer le paradoxe de Simpson ?

Regardez comment les cas se répartissent entre les groupes. Si les options comparées ont des parts très différentes de leurs cas dans des groupes à taux de réussite élevé et faible, la comparaison globale peut induire en erreur. Séparez les données selon le facteur qui pourrait influer sur les deux, et comparez les taux à l’intérieur de chaque groupe.

Cela n’arrive-t-il qu’avec deux groupes ?

Non. Cela peut arriver avec n’importe quel nombre de groupes, et aussi avec des données continues : une corrélation positive dans chaque sous-groupe peut être négative sur l’ensemble des sous-groupes réunis. Deux groupes sont simplement le moyen le plus simple de le voir.

Y avait-il un biais de genre à Berkeley ?

L’analyse de 1975 n’a trouvé aucun biais contre les femmes dans les décisions des départements ; tout au plus un léger biais en leur faveur. L’écart global venait des départements où les femmes postulaient : ceux qui avaient beaucoup de candidats et peu de places. Savoir si ces départements avaient trop peu de places est une autre question, à laquelle les chiffres d’admission ne peuvent pas répondre.

Prêt à l'essayer ?

Ouvrez PictorX dans votre navigateur – aucune installation, aucune carte de crédit requise pour démarrer.

Ouvrir l’application sur le paradoxe de Simpson