Cookies

We use cookies to give you the best experience on our website. You can find out more about which cookies we use or disable them in the settings. - Go to cookie settings

Go to content

Succesvol Diner Pensant AI-hub Zuid-Holland, in gesprek over de AI-verordening

Published 19 December 2024

RSS Feed

This article was placed on: nlaic

Op 26 november 2024 vond in samenwerking met de AI-hub Zuid-Holland een Diner Pensant plaats, een netwerkevent dat dit keer draaide om een inhoudelijke discussie over de AI-verordening. Met een interessant gezelschap bestaande uit gasten uit het bedrijfsleven, van corporates tot MKB, van overheidsinstellingen en belangenorganisaties, en nagenoeg alle wetenschappelijke instellingen uit de regio.

Fundament voor betrouwbare AI-systemen

Op initiatief van Vandana Dwarka en Marieke Kootte, beiden universitair docent wiskunde aan de TU Delft, stond deze avond in het teken van het belang van wiskundige kennis als fundament voor betrouwbare AI-systemen. De AI-verordening, die strenge eisen stelt aan de toetsing en robuustheid van deze systemen, onderstreept de urgentie van dit onderwerp.

In hun pitch voorafgaand aan de discussie lieten Dwarka en Kootte met een case zien hoe problemen zoals discriminatie en bias hier voorkomen hadden kunnen worden door het correct toepassen van wiskundige toetsen. Ze benadrukten dat wiskundige principes beter geïntegreerd moeten worden in bestaande praktijken, zoals impact assessments en ethische richtlijnen. Kootte en Dwarka waarschuwen dat “zonder een solide wiskundige basis compliance aan de AI-verordening een guessing game wordt”. Als mogelijke oplossing suggereren zij een post-academische beroepsopleiding, bij uitstek geschikt om technische kennis en praktijkervaring te combineren.

Deze inzichten vormden de aanzet tot een brede discussie, aangejaagd door moderator Tom Jessen, waarin deelnemers vanuit verschillende disciplines nadachten over de kernvraag: hoe kunnen we wiskundige kennis en praktijk zodanig samenbrengen dat we voldoen aan de eisen van de AI Act?

Foto: AI-hub Zuid-Holland

Compliance AI-verordening

Een vertegenwoordiger van een grote Nederlandse corporate geeft aan dat zij redelijk comfortabel zijn met hoe zij georganiseerd zijn om compliant te zijn aan de AI-act. Hij stelde vast dat in de teams van corporates voldoende deskundigheid voor handen is. In het MKB is de uitdaging groter, want hoewel zij waarschijnlijk minder met high-risk AI-systemen werken is de nood voor compliance aan de AI-verordening niet minder urgent. Er zit veel potentieel in het tastbaar maken van de AI-wet voor kleinere bedrijven. Eén voorstel was dat op maat gemaakte, kant-en-klare tools deze kloof kunnen overbruggen. Het ontwikkelen van gecertificeerde ‘AI-wet-conforme programma’s’ die MKB-bedrijven kunnen gebruiken kan de drempel voor MKB-bedrijven verlagen en hen vertrouwen geven in hun AI-systemen.

Interdisciplinair samenwerken

Een universitair hoofddocent in technische informatica benadrukt het doorbreken van disciplinaire silo’s. “Zelfs binnen ons eigen onderzoeksveld zijn er verschillende aannames over wat goede data inhoudt. Interdisciplinaire teams zorgen ervoor dat we deze aannames kruislings controleren, zodat algoritmen eerlijk en robuust zijn.” Een AI-adviseur bij de Rijksoverheid geeft met een recent voorbeeld aan hoe dit zelfs in ogenschijnlijk eenvoudige algoritmen grote gevolgen kan hebben. Een visumaanvraag-systeem markeerde disproportioneel bepaalde nationaliteiten, ondanks rigoureuze toetsen. Ongewild, maar “dit voorbeeld onderstreept de noodzaak van breder toezicht en interdisciplinaire teams om biases in een vroeg stadium te herkennen”.

Een universitair hoofddocent in Responsible AI en digitale ethiek weet uit ervaring dat deze aanpak werkt: een project bij een medisch centrum koppelde de filosofische en ethische overwegingen direct aan het ontwerp van de wiskundige modellen. Samen met clinici, sociologen, filosofen, en anderen evalueerden ze de impact van algoritmen voor vroegtijdig ontslag op patiënten. Dit soort samenwerking is essentieel om de bredere implicaties van AI te begrijpen.

Foto: AI-hub Zuid-Holland

Betrouwbaarheid is cruciaal

Willen we met AI betekenisvol impact maken, dan is betrouwbaarheid cruciaal. Dit begint met transparantie en strekt zich uit tot het bredere ecosysteem van ontwikkelaars, gebruikers en regelgevers. Sabine Herbrink, coalitiesecretaris NL AIC, stelt: “Onze rol als overkoepelende organisatie is om deze discussies te faciliteren en ervoor te zorgen dat alle belanghebbenden een stem hebben”.

De weg naar AI-verordening compliance is wellicht complex, maar ook een kans om betere meer verantwoorde AI-systemen te bouwen. Door te investeren in onderwijs, samenwerking te stimuleren en praktische tools te ontwikkelen, kunnen organisaties niet alleen voldoen aan de wettelijke vereisten, maar ook vooroplopen in ethische AI-innovatie. Aan het eind van de discussie werd het voornemen uitgesproken dit inzicht ook te delen met de toezichthouders.

Samenwerking voor de toekomst

Dit diner pensant is de derde in een reeks van bijeenkomsten. De organisatie was in handen van de AI-hub Zuid-Holland en de Nederlandse AI Coalitie. Deze bijeenkomst benadrukt de noodzaak van samenwerking en innovatie in het AI-domein en het belang van een gezamenlijke aanpak om de vruchten van AI te kunnen plukken en de bijbehorende uitdagingen het hoofd te bieden.

Interesting for you

News

Topics of the parliamentary debate on emerging and...

30 January 2025

Sign up now for one of these six topical internati...

22 January 2025

Dutch House of Representatives supports motion to ...

22 January 2025
See all the news

Pages

Currently there are no pages related to this topic available.

Agenda

Currently there are no events or meetings planned for this topic.

See all the events
  • Privacy overview
  • Necessary cookies
  • Third-party cookies
  • Additional cookies
  • Privacy and cookies

This website uses functional, analytical and tracking cookies to improve the website

Strictly Necessary Cookies must be enabled at all times so that we can save your preferences for cookie settings.

This website uses Google Analytics and Hotjar to collect anonymous information, such as the number of visitors to the site and the most popular pages.

Keeping this cookie enabled allows us to improve our website.

This website uses the following additional cookies/services:

Read more about our cookies