‘Computer says no’ is geen argument meer
Alexander Serebrenik wil software en ontwikkelteams diverser maken
Lees meer- Medewerker , Onderzoek
- 03/11/2022
‘Computer says no’ is geen argument meer
Zowel software als de ontwikkelteams daarvan zijn nog altijd niet divers. Waar de witte man ruim vertegenwoordigd is, geldt dat niet voor veel minderheidsgroepen. Professor Alexander Serebrenik zet zich met hart en ziel in om dit te veranderen. Op 4 november houdt hij zijn intreerede - genaamd Social Software Engineering – over inclusiviteit in de wereld van softwareontwikkeling.
Is het eigenlijk wel mogelijk om met iedereen rekening te houden? Zowel op het werk als in de software die daar uit komt? “Ja en nee”, zegt Serebrenik. “De vraag is welke criteria je gebruikt voor wat wel en niet telt. Neem nu de toegangstoets om studenten te selecteren voor een opleiding. Je kunt dan zeggen ‘we houden alleen rekening met specifieke kennis’ en die eis is voor iedereen gelijk. Maar dan moet je er wel rekening mee houden dat bepaalde mensen uit de samenleving geen kans hebben gehad om die kennis te vergaren, en moet je een voortraject voorzien voor mensen die die kennis niet hebben kunnen vergaren. Een van de problemen hierbij is dat oplossingen geld kosten."
Serebrenik heeft niet altijd geweten dat hij zich met dit thema wilde bezighouden. “Als ik het als student al had geweten was ik wel sociologie gaan studeren. Maar software heeft altijd een menselijke component, software gebeurt niet gewoon. Het wordt bijna altijd ontwikkeld in teams en hoe mensen binnen die teams met elkaar omgaan beïnvloedt zowel het proces als het resultaat ervan. Ergens in dat proces is ook mijn fascinatie voor de menselijke component ontstaan.”
De mens achter de software
In de tekst voor zijn intreerede haalt Serebrenik ook een voorbeeld aan waarbij uit onderzoek is gebleken dat de pull-requests (indienen van software) op GitHub (een beheersysteem voor softwareprojecten) van softwareontwikkelaars uit landen met een lange human development index (HDI) minder vaak worden geaccepteerd dan die van softwareontwikkelaars uit landen met een hoge HDI. Daarnaast was er ook een onderzoek waaruit bleek dat softwareontwikkelaars uit Zwitsersland meer dan twee keer zoveel kans hadden om hun pull-request te zien worden geaccepteerd dan dat bij Chinese ontwikkelaars het geval was. “Het westen is nog altijd dominant in het zetten van de standaard aan verwachtingen. Iemand uit de dominante, westerse groep wordt ook minder streng beoordeeld.”
Het westen is nog altijd dominant in het zetten van de standaard aan verwachtingen
Racistische programma’s
Voorbeelden van computerprogramma’s die (onbedoeld) discrimineren zijn er genoeg. “Je hebt natuurlijk de klassieke voorbeelden met huidskleur. Neem Proctorio (tentamensoftware die ook op de TU/e wordt gebruikt, red.) waarbij donkere mensen plots onzichtbaar worden. En een embedded voorbeeld betreft een geautomatiseerde waterkraan die gaat lopen als je er vlakbij komt, als die kraan iemand met een donkere huidskleur niet herkent, krijgt die persoon dus geen water.”
“Maar de voorbeelden kunnen ook op subtielere manier voorkomen. Neem bijvoorbeeld de verschillen tussen mannen en vrouwen op het gebied van informatieverwerking. Mannen gebruiken vaker een 'heuristic information processing' strategie en vrouwen een 'comprehensive information processing' strategie. Veel overheidswebsites gebruiken nog lange lappen tekst zonder fatsoenlijke samenvatting. De informatie die je zoekt, zit ergens daarin verstopt en je moet dus al die tekst tot je nemen. Daarmee benadeel je vrouwen. En zo zijn er nog 1001 dingen. Banken (in België, red.) die nog altijd brieven sturen met een klassiek partnerbeeld van man en vrouw. Ik als homoman krijg nog altijd een brief met beste meneer en mevrouw Serebrenik.”
Wees niet bang dat software de wereld overneemt. Daarmee geef je het een autonomie die het niet heeft
Klassiek hetero-argument
Om te zorgen dat software inclusiever wordt, moeten de teams die die software maken, ook diverser en inclusiever worden, zo weet Serebrenik. “Niet alleen gender of seksuele geaardheid, maar ook leeftijd kan splijtend werken. Als we kijken naar de arbeidsmarkt, en dan spreek ik even specifiek over de softwarebranche, zie je dat oudere software ontwikkelaars zeker in VS een beetje uit het beroep worden geduwd. Als je oud bent, ben je niet up-to-date. Oudere mensen worden aangemoedigd zich te verjongen. Jong van geest, lijf en leden zijn. In kleding en uiterlijk, zelfs zo ver dat men naar een plastisch chirurg gaat tegenwoordig of Ritalin neemt, maar ook dat men leeftijd op het cv probeert te verbergen, bijvoorbeeld.”
Het is een klassiek argument van heteroseksuelen dat seksualiteit alleen in de privésfeer thuishoort. Redelijk homofoob, want het suggereert dat alleen een onzichtbare seksualiteit normaal is
Als we kijken naar de diversiteit in teams op het werk, kun je je afvragen hoe ver dat moet gaan. Welke aspecten van je identiteit moet je naar het werk kunnen meenemen? Hoort seksualiteit daarbij? Serebrenik vindt dat een klassieke heterogedachte: “Seksualiteit wordt niet alleen in de slaapkamer beleefd. Het komt terug in hoe je op maandag over je weekend vertelt – dat je met je vrouw en kinderen ergens heen bent geweest – en in hoe je je onderzoeksvragen formuleert, hoe je omgaat met collega’s en studenten. Het is een klassiek argument van heteroseksuelen dat seksualiteit alleen in de privésfeer thuishoort. Redelijk homofoob, want het suggereert dat alleen een onzichtbare seksualiteit normaal is. Uit interviews met LHBTIQ+ software ontwikkelaars is gebleken dat het heel belangrijk is voor hen om op het werk zichzelf te kunnen zijn. Hoe erg ze zich momenteel thuis voelen op het werk verschilt sterk onderling binnen die groep. Het basisidee van een inclusiviteit op het werk is dat iedereen comfortabel moet kunnen zijn op de werkvloer en zelf moet kunnen beslissen welk deel van de identiteit die persoon bekend wil maken op het werk”, vindt Serebrenik.
Diversiteit is geen regenboogsticker
“Diversiteit is niet een simpele sticker die je ergens op kunt plakken. Diversiteit is niet iets in regenboogkleuren verven en een paar woorden laten spreken door een bestuurder zonder echt iets te veranderen. Neem ons leermanagementsysteem Canvas. Iemands (gewenste) voornaamwoorden zijn nog altijd niet in dat systeem geregistreerd. Bij de VU in Amsterdam zijn die wel opgenomen in hun systeem. En dan zijn we weer terug bij een geldkwestie, want systemen veranderen kost geld. Een college van bestuur moet dan kiezen tussen een onderwijsprijs uitreiken, onderzoek financieren of een computersysteem aanpassen. Als ze dat laatste kiezen, is het een uitgave die door 95% van de gemeenschap niet eens gezien zal worden. Dat is geen makkelijke discussie, maar we moeten hem wel voeren. Als je ook kijkt naar ons inschrijvingsmodel (voor internationale niet-EER studenten) dan kunnen we al nooit inclusief zijn met kosten van ruim 11.000 euro collegegeld per jaar om hier te kunnen studeren. Heel vaak komt het toch weer terug op het argument ‘maar het kost geld’. Ja. Maar met alleen praten kom je er niet. Je moet investeren om inclusiever te worden.”
Diversiteit is niet iets in regenboogkleuren verven en een paar woorden laten spreken door een bestuurder zonder echt iets te veranderen
Wat is ‘fair’?
Serebrenik is nog niet klaar met zijn missie om de wereld van software inclusiever te maken en betrekt nu ook de sociale wetenschap erbij. “Samen met George Fletcher van de TU/e en Linnet Taylor van Tilburg University hebben we geprobeerd het gesprek aan te gaan tussen software-mensen, data-mensen en mensen van sociale wetenschappen om te beslechten met welke verschillen van mening we prima kunnen leven en met welke niet. Social X hebben we het project genoemd, omdat we vooraf niet wisten wat er precies uit zou komen. Welke strijden nog niet gestreden zijn. Fairness is zo’n controversieel begrip. Wat betekent fair zijn? Ik wil het niet eens in het Nederlands zeggen, omdat ‘eerlijk’ voor mij niet de volledige lading van ‘fair’ dekt.”
“Aan softwareontwikkelaars wil ik eigenlijk zeggen: software wordt voor en door mensen ontwikkeld. Dat mag absoluut niet vergeten worden. Door de gemeenschap van softwareontwikkelaars beter en inclusiever te maken, kunnen we de hele maatschappij beter en inclusiever maken, want software zit overal.”
Geïnteresseerd in het onderzoek en de thematiek van Serebrenik? Zijn Intreerede vindt plaats op vrijdag 4 november om 16:00 in de Senaatszaal in het Auditorium.
Het basisidee van een inclusiviteit op het werk is dat iedereen comfortabel moet kunnen zijn op de werkvloer en zelf moet kunnen beslissen welk deel van de identiteit die persoon bekend wil maken
Discussie