Algoritmes van vacaturesites slagen er niet altijd in om genderneutraal te zoeken. Zo komt het voor dat een werkzoekende na het intikken van een zoekterm als ‘lerares’ minder vacatures te zien krijgt dan bij de zoekterm ‘leraar’ of ‘docent’.
Tegelijkertijd kunnen zoekalgoritmes vooringenomenheid ook juist tegengaan. Dit blijkt uit onderzoek dat de Utrecht Data School (UDS) van de Universiteit Utrecht in opdracht van het College voor de Rechten van de Mens uitvoerde.
De Utrecht Data School onderzocht eerst of er aanwijzingen waren van discriminatie bij het koppelen van kandidaten aan beschikbare vacatures op online vacatureplatformen. Hiervoor maakten de onderzoekers op vier grote Nederlandse vacaturesites nepprofielen aan van kandidaten die varieerden in geslacht, etniciteit en leeftijd.
Per profiel zochten de onderzoekers naar verschillende functietitels en vergeleken de zoekresultaten tussen de profielen. Bij deze verkenning vond de UDS geen aanwijzingen voor mogelijke risico’s op discriminatie op basis van de onderzochte profielkenmerken.
Gendergekleurde zoektermen struikelblok
Een zoekopdracht kan echter wel nadelig uitpakken als een werkzoekende zoektermen gebruikt die niet genderneutraal zijn, zoals ‘lerares’ of ‘timmerman’.
Bepaalde beroepen kunnen vanwege heersende genderstereotypen als typisch mannelijk of vrouwelijk worden gezien, zowel door werkgevers, softwareontwikkelaars als werkzoekenden. Deze maatschappelijke vooringenomenheid kan van invloed zijn bij het gebruik van algoritmische zoekfuncties op vacaturesites.
Een (vrouwelijke) werkzoekende die bijvoorbeeld op ‘lerares’ zoekt, zou idealiter dezelfde vacatures te zien moeten krijgen als iemand die zoekt op ‘leraar’ of ‘docent’. De UDS-onderzoekers ontdekten dat dit niet voor alle vacaturesites altijd het geval is.
Zo leverde een zoekopdracht met ‘lerares’ als functietitel op een van de sites beduidend minder vacatures op dan de mannelijke (‘leraar’) of neutrale variant (‘docent’). Terwijl op de andere vacaturesites deze zoektermen juist wel leidden tot vergelijkbare zoekresultaten.
Vooringenomenheid gereproduceerd of soms zelfs versterkt
De zoektermen ‘secretaresse’ (hoewel dit tegenwoordig niet uitsluitend vrouwen aanduidt), ‘schoonmaakster’ en ‘verpleegster’ worden op alle onderzochte vacaturesites weinig geneutraliseerd. Ze laten hierdoor alleen vacatures zien met exact deze functietitels. Zo wordt maatschappelijke vooringenomenheid gereproduceerd in het zoekalgoritme.
Het viel de onderzoekers ook op dat het taalgebruik in sommige vacatures nadrukkelijk is gericht op één geslacht, bijvoorbeeld vacatures voor secretaresses die gericht zijn op vrouwen. Opvallend was ook dat soms bij gebruik van een typisch vrouwelijke functietitel als zoekterm, de sites lager betaalde functies toonden.
Zo zochten de onderzoekers op één site met de zoekterm ‘lerares’ en liet de website vervolgens een functie voor ‘onderwijsassistent’ zien, terwijl die vacature na het invoeren van de zoekterm ‘leraar’ niet naar boven kwam.
Goed ontworpen algoritmes kunnen vooringenomenheid corrigeren
Het onderzoek van UDS laat zien dat algoritmes dergelijke maatschappelijke vooringenomenheid ten aanzien van genderstereotiepe beroepen kunnen tegengaan, maar dus ook kunnen reproduceren of soms zelfs versterken. Een achterliggende verklaring lijkt volgens de UDS te liggen in hoe simpel of complex de algoritmes achter de zoekfuncties zijn.
Een simpel zoekalgoritme dat alleen letterlijk de ingevoerde zoekterm overneemt, is niet in staat om vooringenomenheid tegen te gaan, maar zal die reproduceren. Een zoekalgoritme dat complexere methoden gebruikt, kan ook vooringenomenheid reproduceren of zelfs versterken, maar in potentie ook corrigeren.
Vacaturesites wordt daarom aanbevolen om te werken met meer complexe algoritmes die vooringenomenheid kunnen tegengaan. Het College heeft de beheerders van de onderzochte websites geïnformeerd over de onderzoeksuitkomsten en uitgenodigd om deze nader te bespreken.
Andere risico’s op discriminatie
Discriminatie op vacaturesites kan op verschillende manieren voorkomen. Zo toonde recent onderzoek in opdracht van de Inspectie SZW aan hoe makkelijk discriminerende vacatureteksten op vacaturesites geplaatst kunnen worden en dat sommige vacaturesites de mogelijkheid bieden om kandidaten te filteren op basis van geslacht, nationaliteit, leeftijd of maximale werkervaring.
Programma Digitalisering en Mensenrechten
Digitalisering verandert onze samenleving in hoog tempo. Dit raakt onze mensenrechten op allerlei manieren. Digitalisering biedt kansen, maar kent ook risico’s. Het programma Digitalisering & Mensenrechten zet zich in voor een samenleving waarin iedereen kan meedoen en eerlijke kansen heeft in een steeds verder digitaliserende wereld.
>>> Lees ook onze artikelen over diversiteit
