Of het nu je hypotheekaanvraag is, je sollicitatiebrief, een diagnose bij de dokter, of een inschatting voor de zorgvraag van je oma, instanties en bedrijven laten zich in beslissingen steeds meer leiden door AI-beoordelingen. De populairste AI-tools zijn vaak in handen van grote tech-bedrijven. En die geven geen inzicht in hoe AI tot die beslissingen komt. Ook heb je geen invloed op de uitslag, terwijl je er wel van afhankelijk bent. Dat vinden hoogleraar Mieke Boon en consorten niet kunnen. Zij willen AI transparanter en democratischer maken.
Bijna zeven miljoen
Daarom is ze hoofdaanvrager voor het project Democratising AI, Empowering Citizens Through Transparent Decision Making (DECIDE) en leidt een samenwerkingsverband van zo’n 50 academische consorten en 30 externe partners. Deze vertegenwoordigen of betrekken er op verschillende manieren weer burgers bij. Eerder dit jaar kende de NWA een budget van 6,8 miljoen euro toe aan het project. ‘Het was een zware competitie,’ geeft Boon aan. De komende zes jaar houdt het consortium zich bezig met de vraag hoe AI inzichtelijker kan.
‘Dat empowering vind ik heel belangrijk,’ zegt Boon. ‘Je bent van AI afhankelijk, maar je hebt geen inzicht in hoe het die beslissingen maakt en je hebt ook geen invloed op de uitslag. Dat moet anders. We willen dat de gewone Nederlander er grip op krijgt.’
Het vernieuwende van DECIDE is dat het niet alleen gaat om AI-ondersteunde beslissingen over burgers, maar dat ze zelf ook AI-tools krijgen voor inspraak in beslissingen over zichzelf. ‘We laten AI relevante wetenschappelijke AI verzamelen en in begrijpelijke taal omzetten. Bijvoorbeeld over de behandeling van een ziekte, uitleg over een gezonde leefstijl, inzicht in de milieu-impact van bepaalde vervoerskeuzes of uitleg over moeilijke politieke beslissingen. Daarmee kunnen burgers dan zelf een afgewogen oordeel vormen.’
Black box en bias
Volgens Boon weet niemand hoe huidige AI-aanbieders als Copilot en ChatGPT aan hun kennis komen. ‘Het is een black box. Het werkt, maar niemand weet precies hoe. AI doet aannames op basis van een enorme berg informatie van eerdere gevallen. En daarin schuilt het gevaar van bias. Het kan maar zo dingen over jou aannemen en dat als waarheid presenteren, terwijl jouw situatie net iets anders is. Daar heb je dan geen invloed op. Zo krijg je misschien wel de verkeerde diagnose en behandeling.’
Daarbij vind ze het slecht dat Big Tech er nu een monopolie op heeft. ‘Die bedrijven zijn vooral bezig met geld verdienen. Niet in de eerste plaats met waarheidsvinding. Dus ze geven burgers zo snel mogelijk antwoord, of dat nu helemaal klopt of niet. Dat staat me tegen.’
Werkpakketten
Om breed te onderzoeken hoe het dan wél moet, deelde Boon het werk op in een matrixstructuur, een tabel waaruit meerdere deelonderzoeksgebieden ontstaan, die zij werkpakketten noemt. ‘Uit directe gesprekken met burgers komen we erachter wat ze nu echt nodig hebben. Daar maken we use cases van, onderzoeken op basis van een specifiek praktijkvoorbeeld.’
Binnen een van de werkpakketten wordt gekeken hoe we professionals AI-vaardigheden leren, zodat ze daarmee de democratische AI-tools kunnen ontwikkelen. ‘Dan moet je eerst weten hoe je in kaart kunt brengen wat de burger nodig heeft. Dat raakt aan sociale wetenschappen. Tegelijk wil je ook dat er een technische oplossing komt. Daar heb je computerwetenschappers voor nodig.’
In een ander werkpakket kijken sociale wetenschappers en computerwetenschappers samen met patiëntverenigingen hoe zowel patiënt als arts meer inzicht krijgt in AI-beslissingen.
Het werkpakket voor wetgeving en ethiek onderzoekt hoe de Europese AI-wetgeving wordt nageleefd. ‘De EU wil dat AI-systemen ‘transparant’ zijn, maar wat betekent dat precies? Wanneer is het transparant en voor wie? Om daar grip op te krijgen werkt dit pakket samen met een werkpakket waarin filosofen met computerwetenschappers onderzoeken wat ‘Transparante AI’ dan betekent.
Iedereen binnen het consortium buigt zich weer over een ander deelgebied, maar onderlinge uitwisseling van kennis is voor Boon essentieel. ‘Zo leren we over en weer van elkaar.’
Breed en simpel
Dat gaat nog niet vanzelf, weet Boon. ‘Onderzoekers zijn heel erg gewend om in een niche te kruipen qua onderzoek, dat is nu eenmaal hoe het werkt in de wetenschap. Ze pakken een heel duidelijk afgebakend deelgebiedje om het overzichtelijk te houden. Maar voor zoiets maatschappelijks moet je het juist breed aanvliegen. Da’s flink wennen.’
‘in deze anti-academische tijden moeten we extra begrijpelijk blijven’
Een andere uitdaging voor wetenschappers is volgens Boon dat ze te veel voor de wetenschap zelf werken. ‘Over de vraag ‘Wat kan de burger hier nu mee?’ denken de meesten niet vaak na. Ten tweede is het onderzochte in simpele taal uitleggen ook een uitdaging. Ik lees voor mijn werk veel onderzoeken, daar vind ik soms al geen doorkomen aan. Laat staan iemand die niet is ingewijd in het vakjargon. Zeker in deze anti-academische tijden moeten we extra ons best doen om begrijpelijk te blijven en een brug te slaan tussen samenleving en universiteit. Daar kan AI bij helpen.’
Ze is dan ook geen tegenstander van AI. ‘Ik stam nog uit het internet-loze tijdperk. Als ik vroeger onderzoeksresultaten wilde vergelijken, moest ik handmatig met een liniaal grafieken in publicaties nameten om aan mijn cijfers te komen. Uren en uren gingen daar inzitten. Ik dacht toen al: wat zou het heerlijk zijn als dat automatisch kon. En dat kan nu ook. Maar dan wel controleerbaar, graag.’
Omdat begrijpelijkheid een speerpunt is, richt ze het onderzoek ook alleen op Nederlandse instellingen. ‘AI neemt toch wel vaak specifiek Engelstalige datasets. Daar komen niet altijd relevante dingen uit voor Nederland. Daar moeten we aandacht voor hebben. Sommige consortiumpartners spreken helaas geen Nederlands. Dat maakt het wel moeilijker.’
Workshops en kennissessies
Een van de manieren waarop Boon en consorten het democratischer maken van AI aanvliegen is met zogenoemde learning communities, die Boon voor dit onderzoek opzette. Daarin werken onderzoekers met onder meer patiëntverenigingen en gemeenteraadsleden samen om knelpunten boven tafel te krijgen en een democratischer AI te ontwikkelen.
Ze hoopt dat er door samen te werken met gemeenteraadsleden en patiëntenverenigingen een leeromgeving ontstaat waarin kennis en ervaring worden gedeeld. ‘Ik hoop dat dat uiteindelijk bijdraagt aan een betrouwbare toepassing van AI in de maatschappij en hersteld vertrouwen in de wetenschap.’
