Как устроен парадокс Симпсона

Парадокс Симпсона — это тенденция, которая проявляется в каждой группе данных, но меняется на противоположную, когда группы объединяют. Это не фокус с числами, а предупреждение: сравнение может зависеть от третьего фактора, который решает, кто в какую группу попадает. Здесь рассказано, как он возникает, где его обнаруживали и что с ним делать.

Два набора столбцов, которые растут в каждой группе, но при объединении указывают в другую сторону
Два набора столбцов, которые растут в каждой группе, но при объединении указывают в другую сторону

Тенденция, которая переворачивается

В 1995 году у Дэвида Джастиса показатель отбивания был лучше, чем у Дерека Джитера (.253 против .250), и в 1996 году тоже (.321 против .314). И всё же за оба года вместе впереди был Джитер: .310 против .270. Причина в том, что Джитер выходил на биту в основном в 1996 году, своём удачном году, а Джастис — в 1995-м, своём более слабом. Общий показатель каждого игрока тянется к тому году, в котором он отбивал чаще всего.

Арифметика разворота

Доля в целом — это взвешенное среднее долей по группам, а веса показывают, какая часть случаев каждого варианта приходится на каждую группу. Если у одного варианта большинство случаев приходится на лёгкую группу, а у другого — на трудную, веса могут перевесить различия внутри групп. Для исследования камней в почках: открытая операция 0,25 × 93,1 % + 0,75 × 73,0 % = 78,0 %, чрескожная операция 0,77 × 86,7 % + 0,23 × 68,8 % = 82,6 %.

Дело о приёме в Беркли

Осенью 1973 года Калифорнийский университет в Беркли принял в магистратуру и аспирантуру около 44 % подавших заявления мужчин и 35 % женщин. Питер Бикел, Юджин Хаммел и Уильям О'Коннелл рассмотрели факультеты по отдельности и опубликовали свой анализ в журнале Science в 1975 году. На большинстве факультетов женщин принимали в такой же или большей доле. Женщины в основном подавали заявления на факультеты, которые принимали мало претендентов обоего пола, и это тянуло их общую долю вниз. На шести крупнейших факультетах приняли 44,5 % мужчин и 30,4 % женщин, и всё же на четырёх из шести женщины выступили лучше.

Какой ответ верный?

Одни данные этого не решают — решает то, как они получены. Когда признак группировки влияет и на то, какой вариант выбирают, и на результат, это конфаундер (искажающий фактор): врачи чаще выбирали открытую операцию при крупных камнях, которые труднее лечить, поэтому честное сравнение — внутри каждого размера камней. Когда сама группировка — следствие варианта, например измерение, сделанное после лечения, разбиение по ней может скрыть эффект, и лучшим ориентиром служит общий показатель. Специалист по информатике Джуда Перл показал, как причинные диаграммы решают этот вопрос.

Краткая история

Карл Пирсон и его коллеги заметили этот эффект в 1899 году, а Джордж Удни Юл описал его в 1903 году; Эдвард Х. Симпсон писал о нём в 1951 году, а статистик Колин Блайт назвал его парадоксом Симпсона в 1972 году. Его также называют эффектом Юла — Симпсона, парадоксом объединения или парадоксом обращения. Он встречается и в медицинских исследованиях, и в школьных результатах, и в анализе выборов, и в спортивной статистике.

Часто задаваемые вопросы

Как распознать парадокс Симпсона?

Посмотрите, как случаи распределены по группам. Если у сравниваемых вариантов очень разные доли случаев в группах с высокой и низкой долей успехов, общее сравнение может ввести в заблуждение. Разбейте данные по фактору, который может влиять на то и другое, и сравните доли внутри каждой группы.

Бывает ли это только с двумя группами?

Нет. Это может произойти с любым числом групп, а также с непрерывными данными: корреляция, положительная внутри каждой подгруппы, может оказаться отрицательной для всех вместе. Две группы — просто самый наглядный способ это увидеть.

Была ли в Беркли дискриминация по полу?

Анализ 1975 года не нашёл в решениях факультетов предвзятости против женщин; если что и было, то небольшая предвзятость в их пользу. Общий разрыв объяснялся тем, куда подавали заявления женщины: на факультеты с большим числом претендентов и малым числом мест. Не слишком ли мало мест было на этих факультетах — другой вопрос, на который данные о приёме ответить не могут.

Готовы попробовать?

Откройте PictorX в своем браузере — установка не требуется, для запуска не требуется кредитная карта.

Открыть приложение о парадоксе Симпсона