Diversiteit en inclusie: daar worden zowel de mens als AI beter van
RSS Feed
Dit artikel is geplaatst op: nlaic
Tijdens de opstartfase van de NL AIC zijn er veel mensen aan boord gekomen. Maar in hoeverre vormen zij een goede afspiegeling van de maatschappij? Diversiteit en inclusie krijgt momenteel extra aandacht van het Programmateam. Anita Lieverdink en Joris den Bruinen leggen uit waarom.
De voordelen van heterogeen samengestelde teams
“Bij het ontstaan van de NL AIC was het een coalition of the willing”, begint Joris zijn duiding. “Zo ontstond er een samenwerking met mensen die allemaal hun bijdrage wilden leveren aan de systeemverandering en de maatschappelijke en economische impact die AI met zich meebrengt. In die opstartfase hadden we het daar zo druk mee dat we wat minder aandacht hadden voor diversiteit en inclusie. Maar nu we een aantal jaar op weg zijn, is het tijd om serieus met dat onderwerp aan de slag te gaan. Niet alleen omdat divers samengestelde AI-teams beter in staat zijn om bias bij de ontwikkeling van algoritmes en AI-toepassingen te voorkomen, maar ook omdat heterogeen samengestelde teams betere beslissingen nemen.”
Openheid en transparantie
Daarbij benadrukt Anita dat het niet alléén gaat om quota, op bijvoorbeeld gender of culturele achtergrond. “Het is daarnaast belangrijk dat we een cultuur creëren waarin iedereen de vrijheid voelt om bij te dragen, op hun eigen manier. Dat we het uitspreken als we het ergens niet mee eens zijn. En dat we weten hoe besluiten worden genomen. Dat vereist transparantie en dat vind ik dan ook een belangrijk onderwerp.”
Bewustzijn vergroten
“Een bepalende eerste stap is uiteraard de selectie, dus wie je in je team aanneemt”, vervolgt ze. “Maar vanaf dat moment begint het pas. In hoeverre we diversiteit en inclusie omarmen, blijkt vervolgens uit de manier hoe we met elkaar samenwerken en onderling communiceren. Daarbij zullen we ongetwijfeld ook misstappen maken. Het gaat mij erom dat we daarvan leren en dat het ons lukt om ons bewustzijn te vergroten en progressie te boeken. Veel gebeurt nog onbewust. Daarom is het belangrijk om regelmatig te reflecteren. Elkaar vragen stellen, helpt daarbij. Voelt iemand zich gehoord? En voelt diegene zich echt betrokken? Als op beide vragen het antwoord ‘nee’ is, is er werk aan de winkel.”
Niet het wiel opnieuw uitvinden
“Precies”, beaamt Joris. “We zien onszelf als een lerende organisatie. En ik denk dat het ook bij dit onderwerp belangrijk is om te beseffen dat we niet de wijsheid in pacht hebben. Om te voorkomen dat we het wiel opnieuw gaan uitvinden, willen we op het vlak van diversiteit en inclusie dan ook een samenwerking aangaan met NL Digital, Women in AI en VHTO. Met die partijen zijn we al concreet in gesprek over de inzet van vrouwelijke rolmodellen. En dat is nog maar het begin, want diversiteit en inclusie gaat natuurlijk over veel meer dan het creëren van gendergelijkheid. Als NL AIC willen we een organisatie zijn waar iedereen welkom is. We willen een organisatie zijn die openstaat voor een rijkdom van verschillende meningen en visies. Overigens heb ik niet het idee dat we het als coalitie momenteel op dat vlak slecht doen. En zoals Anita al zei, gaat het ook niet zozeer om het voldoen aan bepaalde quota’s om het daar vervolgens meteen ook bij te laten. Dan wordt het alleen iets om naar buiten toe te laten zien hoe goed we wel niet bezig zijn.”
Concreet maken
Anita verduidelijkt: “Maar als we op het vlak van diversiteit en inclusie echt stappen willen zetten, horen daar natuurlijk wel doelstellingen bij. We moeten dus wel weten waar we nu staan en waar we naartoe willen. Anders is het lastig om het concreet te maken. Inmiddels hebben we al wel een belangrijke stap gezet door als Programmateam aan te geven dat we dit onderwerp omarmen en meer aandacht gaan geven. Dat betekent dat we het belang voor meer diversiteit en inclusie actief gaan uitdragen en mensen binnen de coalitie er ook op gaan aanspreken.”
Belangrijke stap: verkiezingen Strategieteam
“Een belangrijk moment worden de verkiezingen van het Strategieteam van de NL AIC”, vervolgt ze. “Want het is natuurlijk wel de bedoeling dat onze focus op diversiteit en inclusie straks ook duidelijk zichtbaar is in de samenstelling van dat team.”
“Hoe meer divers ons Strategieteam, hoe meer invalshoeken er tijdens discussies naar voren komen en hoe beter we kunnen inspelen op maatschappelijke ontwikkelingen”, verwacht Joris. “Dus ja, het zou mooi zijn als de samenstelling van het Strategieteam straks aansluit bij wat we voor ogen hebben en als we onze visie op diversiteit en inclusie daar meteen al in de praktijk kunnen brengen. Daarbij willen we ons op zoveel mogelijk aspecten richten. Ook op een goede mix van leeftijden bijvoorbeeld. En is iemand een alfa, beta of gamma? Werkzaam binnen de overheid, het bedrijfsleven of een kennisinstelling? Ook dat soort zaken zijn belangrijk voor iemands kijk op de wereld.”
De NL AIC heeft als ondertitel: algoritmen die werken voor iedereen. Hoe algoritmen worden ingezet om gevoeligheden op het gebied van diversiteit en culturele contexten in het verleden op te sporen leest u hieronder.
AI-technologie die rekening houdt met culturele contexten
Het is relatief makkelijk om een algoritme te leren dat de Gouden Eeuw en de Zeventiende Eeuw naar dezelfde periode verwijzen. Maar hoe leer je een algoritme dat er inhoudelijk wel een groot verschil is en dat Gouden Eeuw een omstreden term is, waarbij het nogal uitmaakt in welke context dat begrip wordt gebruikt? En zo zijn er natuurlijk veel meer termen die vroeger zonder nadenken werden gebruikt, maar die we nu als aanstootgevend of zelfs ronduit beledigend ervaren. Dat is bijvoorbeeld ook de reden dat het Rijksmuseum het begrip ‘slaaf’ overal heeft vervangen door ‘tot slaaf gemaakte’.
Cultural AI Lab
Alles zelf doorspitten en handmatig aangeven wat mogelijk omstreden termen of tekstpassages zijn? Dat is monnikenwerk. Een goede klus dus om artificiële intelligentie voor in te zetten. In 2021 werd dan ook het Cultural AI Lab opgericht: een gezamenlijk initiatief van Centrum Wiskunde & Informatie, het KNAW Humanities Cluster, KB, nationale bibliotheek, Het Nederlands Instituut voor Beeld en Geluid, TNO, de Universiteit van Amsterdam, de Vrije Universiteit Amsterdam en het Rijksmuseum. Onder de paraplu van het Lab lopen er diverse projecten waarbij met AI-technieken de menselijke cultuur, met alle daarbij behorende complexiteiten en subjectiviteit, wordt onderzocht.
Twee werelden komen samen
“Het is een grote uitdaging om een algoritme te ontwikkelen dat rekening houdt met culturele contexten”, benadrukt Michel de Gruijter, die zich bij de KB bezighoudt met AI, en die ook nauw betrokken is bij het Cultural AI Lab. “Omdat woorden in een andere context een andere betekenis kunnen hebben, moet een AI-model de beschikking hebben over kennis uit meerdere domeinen en leren om culturele uitingen op de juiste manier te interpreteren. Vandaar ook dat er bij elk project verschillende specialisten betrokken zijn, waaronder experts die verstand hebben van datatechnologie en mensen die juist enorm veel erfgoedkennis hebben. Die twee werelden komen in het Lab mooi samen. En dat levert frisse, nieuwe ideeën op.”
AI-tools ontwikkelen
“Daarbij zijn we ook heel blij met de eerste resultaten van de PhD-studenten Ryan Brate en Andrei Nesterov”, vervolgt De Gruijter. “Zij doen onderzoek naar wat er nodig is om AI-systemen te trainen zodat die steeds beter in staat zijn om culturele contexten te herkennen. Hun doel is om AI-tools te ontwikkelen die op een succesvolle manier binnen culturele instellingen kunnen worden ingezet. Het gaat dan om algoritmes die omstreden termen of tekstpassages automatisch detecteren, en die daar vervolgens ook ‘iets mee doen’. Wat precies, daar zijn we nog niet over uit. Maar we zijn ervan overtuigd dat culturele instellingen met behulp van AI uiteindelijk in staat zijn om omstreden termen in hun catalogi snel op te sporen en die vervolgens van de juiste toelichting te voorzien.”