Discriminatie? Check je statistiek!

Een dag na de publicatie van het onderzoek naar seksediscriminatie bij onderzoeksfinancier NWO regent het kritiek op de statistische onderbouwing ervan. Een van de criticasters is RUG-statisticus Casper Albers.

Begin jaren 70 was er ophef in de media: de Universiteit van Californië in Berkeley discrimineerde bij het toelaten van studenten. De toelatingscijfers van 1973 waren als volgt:

Aantal kandidaten Toegelaten
Mannen 8442 44%
Vrouwen 4321 35%

De tabel is duidelijk: mannen worden vaker toegelaten dan vrouwen. Met een statistische toets is na te gaan of deze cijfers niet gewoon toeval hadden kunnen zijn. In dit geval geeft zo’n toets een eenduidig antwoord: de kans dat deze vrouwonvriendelijke resultaten het gevolg van toeval zijn, is verwaarloosbaar klein (kleiner dan 1 op een miljard).

Rechtszaak

Een rechtszaak volgde vanwege dit overduidelijke geval van discriminatie. Een team van statistici uit Berkeley besloot de data nader te bestuderen. Hun conclusie, beschreven in de paper ‘Sex Bias in Graduate Admissions: Data from Berkeley’ in Science (achter paywall), is duidelijk: er is helemaal geen sprake van discriminatie.

Wat was het geval? Vrouwen bleken zich, in het algemeen, aan te melden voor studies waarbij een lager toelatingspercentage gold dan bij studies die populair waren onder mannen, en dit vertekent het beeld. Stel, je hebt een universiteit met twee opleidingen, en de aanmeldings- en toelatingscijfers zijn als volgt:

Opleiding A Aantal kandidaten Toegelaten
Mannen 100 10 (10%)
Vrouwen 200 24 (12%)
 
Opleiding B Aantal kandidaten Toegelaten
Mannen 100 80 (80%)
Vrouwen 20 18 (90%)

Simpsonparadox

Wetenschappers reageren

Dit artikel is een ingekorte versie van een blog van RUG-statisticus Casper Albers. Ook andere wetenschappers reageerden snel op de ophef die is ontstaan rond de vermeende discriminatie van vrouwen bij het toekennen van Veni-subsidies. Daniel Lakens van de TU Eindhoven en Rolf Hut van de TU Delft schreven een brief aan de Volkskrant waarin ze aangaven het niet eens te zijn met het onderzoek.

Toch blijven de onderzoekers achter het onderzoek staan. ‘In de kritiek wordt enkel gefocust op één statistische toets, terwijl we ook andere toetsen hebben gebruikt die veel sterkere effecten laten zien’, reageert hoogleraar Naomi Ellemers, in een artikel van onder andere het Erasmusmagazine.

Zowel bij opleiding A als opleiding B ligt het toelatingspercentage van vrouwen (iets) boven dat van mannen: er is duidelijk geen sprake van discriminatie tegen vrouwen. Bekijk je het op universitair niveau, dan ziet het er opeens anders uit: van de 200 mannen die zich voor een opleiding aanmelden, worden er 90, oftewel 45 procent, toegelaten. Van de 520 aanmeldende vrouwen, worden er 42, oftewel 19 procent, toegelaten. Op universitair niveau lijkt er opeens wel sprake van discriminatie. Dit is echter volledig te verklaren door de relatie tussen opleiding en man/vrouw-verhouding.

Ook in Berkeley verdween de discriminatie volledig indien rekening gehouden werd met de verschillen in strengheid van de verschillende faculteiten. (Sterker nog: er was zelfs mild bewijs dat vrouwen juist bevoordeeld werden). Dit fenomeen staat bekend als de Simpsonparadox.

Claim

Tot zover de jaren 70. Afgelopen week was er ophef in de (sociale) media: NWO discrimineert bij het toekennen van onderzoeksbeurzen. In opdracht van NWO zelf verdiepten de Nederlandse psychologen Romy van der Lee en Naomi Ellemers zich in de door NWO toegekende Veni-subsidies uit 2010-2012. Hun paper ‘Gender contributes to personal research funding success in The Netherlands‘ (paywall, maar het ‘supplementary material’ is dan weer wel gratis) verscheen onlangs in PNAS. De auteurs baseren hun claim voornamelijk op de volgende cijfers:

Aantal Beursaanvragen toegekend
Mannen 1635 17,7%
Vrouwen 1188 14,9%

De cijfers zijn wellicht niet zo overduidelijk als die van het voorbeeld uit Berkeley, maar mannen krijgen inderdaad relatief vaker een beurs toegekend. En ook hier stelt toetsing dat het verschil significant is. Dus: NWO discrimineert! Althans, dat was de strekking van de krantenkoppen. Maar zo simpel ligt het niet. De significantie is minimaal. En als je beter kijkt, speelt ook hier de Simpsonparadox.

Honoreringskans

Er is een enorm verschil in het aandeel van vrouwen bij de aanvragen per programma, blijkt uit de online tabel (variërend van 11 tot 51 procent). Bovendien is er een enorm verschil in honoreringskans per programma (variërend van 13 tot 26 procent).

Het aandeel vrouwelijke aanvragers is het hoogst bij gezondheidswetenschappen en maatschappij- & gedragswetenschappen, en dit zijn precies de twee programma’s met de slechtste honoreringskans. Het aandeel vrouwelijke aanvragers is het laagst bij natuurkunde (een bedroevende 11 procent), het programma met de hoogste honoreringskans.

Onderuit gehaald

Van de negen programma’s zijn er vier waarbij vrouwen een hogere honoreringspercentage hebben dan mannen en vijf waarin mannen net betere resultaten houden. Nergens is het verschil zodanig dat het significant genoemd kan worden.

Oftewel: het vermoeden van discriminatie wordt in dit geval niet zo extreem sterk onderuit gehaald als in het klassieke voorbeeld uit Berkeley, maar wel voldoende om te zien dat op basis van deze data niet geconcludeerd kan worden dat er sprake is van discriminatie.

NB: het tegendeel – er is geen sprake van discriminatie – kan ook niet geconcludeerd worden. De enige conclusie is dat uit de cijfers geen solide conclusie te trekken valt. Het is belangrijk dat discriminatie aangepakt wordt. Dit moet echter wel met valide argumenten gebeuren; het aanpakken van problemen met foute argumenten werkt alleen contraproductief.

24-09-2015