Ga naar inhoud
Wees op je hoede, want ook algoritmen maken fouten

Wees op je hoede, want ook algoritmen maken fouten

Zelflerende algoritmen hebben niet de wijsheid in pacht, betoogt senior-onderzoeker Marc Steen van TNO. Kennis van onderliggende processen is cruciaal om te begrijpen waar het misgaat.

Gepubliceerd op 23 juni 2018

Dankzij het debacle met Cambridge Analytica en Facebook zijn we ons meer bewust geworden van het belang van online privacy en dataprotectie. Om die te waarborgen, is in mei de AVG (Algemene Verordening Gegevensbescherming) van kracht geworden in Europa.

Maar er is een veel groter probleem: het probleem van zelflerende algoritmen die op basis van stapels data allerlei conclusies trekken. Conclusies die we klakkeloos geloven, zonder uitleg. Hoogleraar psychologie Mark van Vugt roept in zijn wetenschapsrubriek op tot een debat daarover (Trouw, 2 juni). Dat debat is nodig en nuttig. Soms moet je een spade dieper graven.

Van Vugt noemt een algoritme dat op basis van foto’s van gezichten criminelen van niet-criminelen zou onderscheiden. Twee hoogleraren van de Universiteit van Washington keken hier kritisch naar en leggen uit dat er een bias (vertekening) in het algoritme is geslopen door de foto’s waarmee het algoritme is getraind. Het algoritme is getraind met twee sets foto’s: politiefoto’s van veroordeelde criminelen, die nors kijken, en willekeurige foto’s van professionele websites, waarop de mannen glimlachen.

Het algoritme heeft dus geleerd om onderscheid te maken tussen nors kijken en glimlachen. Niet om criminelen te herkennen. Zo zijn er talloze voorbeelden van algoritmen die conclusies trekken. In de rechtspraak, in het vinden van werk, in het verkrijgen van een lening of hypotheek, in het kiezen van medische behandelingen. En dat zonder uitleg over het onderliggende proces. Zo kunnen we dat proces niet goed bekritiseren. Dat moet beter.

Mens en machine

Om beter te worden in het stellen van kritische vragen kunnen we drie begrippen gebruiken: agency, transparantie en accountability van algoritmen.

Agency (het vermogen om autonoom te handelen) gaat over de verdeling van macht tussen mens en machine. Dit is een glijdende schaal. Aan de ene kant staat de mens die de machine gebruikt als gereedschap. Het is dan cruciaal dat hij begrijpt hoe de machine werkt. Aan de andere kant van de schaal staat de machine centraal en is de mens verworden tot een tandwiel. Hij leest op zijn scherm wat hij moet doen en begrijpt er weinig van. Computer says no. Het lijkt mij duidelijk dat we geen tandwielen willen worden.

Begrijpen en uitleggen

Transparantie gaat over de mate waarin een algoritme inzichtelijk is. Kun je het begrijpen en uitleggen? Maar bedrijven of overheden willen of kunnen vaak niet vertellen hoe hun algoritmen werken. Dat kan zijn vanwege intellectueel eigendom of geheimhouding, maar het kan ook zijn omdat ze zelf evenmin begrijpen hoe hun (zelflerende) algoritme precies werkt.

Accountability gaat over het kunnen afleggen van verantwoording. Bijvoorbeeld over wat rechtvaardig of eerlijk is. Algoritmen gebruiken data uit de maatschappij. Daar komt nu eenmaal discriminatie voor en zo komt er (onbedoeld) discriminatie in de algoritmen terecht. Er zijn voorbeelden van discriminatie in de rechtspraak in de VS. Of over de mate van accuratesse. Algoritmen werken wel met grote getallen, maar maken fouten op individueel niveau. Zoals toen een politieagent rapper Typhoon onterecht staande hield (hij bleek niet-crimineel). In zulke gevallen heb je ook transparantie nodig.

Ik hoop dat we, als burgers en als consumenten, meer kritische vragen kunnen gaan stellen over algoritmen, en daarmee overheden en bedrijven dwingen om algoritmen te gebruiken die passen in een rechtvaardige samenleving.

Ook interessant voor u

Nieuws

Verkenning meerjarige strategische samenwerking Di...

12 april 2024

Call PPS: Data Science voor Veredeling van Gewasse...

3 april 2024

Waarom datatechnologie één van de prioriteiten is ...

11 maart 2024
Bekijk al ons nieuws

Activiteiten

Centre of Excellence for Data Sharing and Cloud

26 juni 2023

Commit2Data

4 oktober 2022

Sleuteltechnologieën

4 oktober 2022

Agenda

Er zijn op dit moment geen evenementen of bijeenkomsten gepland voor dit onderwerp.

Bekijk de agenda
  • Privacy overzicht
  • Noodzakelijke cookies
  • Cookies van derden
  • Aanvullende cookies
  • Privacy en cookies

Deze website maakt gebruik van functionele-, analytische- en tracking-cookies om de website te verbeteren.

Strikt Noodzakelijke Cookies moet te allen tijde worden ingeschakeld, zodat wij uw voorkeuren voor cookie-instellingen kunnen opslaan.

Deze website gebruikt Google Analytics, Hotjar en Facebook pixel om anonieme informatie te verzamelen, zoals het aantal bezoekers van de site en de meest populaire pagina's.

Door deze cookie ingeschakeld te houden, kunnen we onze website verbeteren.

Deze website gebruikt de volgende aanvullende cookies/services:

Meer over onze cookies