Het ontwikkelen en behouden van waarden in een digitale samenleving

Hoe zorgen we dat de fundamentele waarden die we in Nederland en Europa hooghouden, zoals privacy, transparantie en democratie, geborgd worden in een digitale samenleving? Hoe kunnen we een wezenlijk positieve bijdrage leveren aan de samenleving met behulp van AI? Een gesprek met Geert-Jan Houben, pro-vice rector AI, Data en Digitalisatie en leider van het AI Initiative en Jeroen van den Hoven, hoogleraar ethiek en technologie (TBM) en leider van het TU Delft Digital Ethics Center. “Je wilt dat je innovatie aantoonbaar bijdraagt aan het soort samenleving waarin wij willen leven.”

Jeroen van den Hoven leidt het TU Delft Digital Ethics Center, hiernaast is hij voorzitter van commissies zoals de Commissie Data Ethiek van het UWV, en de samenwerkende banken die AI inzetten ter bestrijding van witwassen. Van den Hoven: “Het is belangrijk om te benadrukken dat die commissies multidisciplinair zijn samengesteld. We werken altijd samen met data-wetenschappers, maar ook samen met juristen en domein-experts.” Geert-Jan Houben voegt toe: “Het gaat ook niet over ‘oplossingen’, we hebben geen pasklaar antwoord voor elke situatie. Het doel is dat je met zijn allen erover nadenkt en dat de wetenschapper zich verbindt aan praktijksituaties. Bij AI-technologie wordt wel eens verondersteld dat je die gewoon kunt uitleveren aan de maatschappij, in een doosje bij wijze van spreken, kant en klaar. Maar AI kan niet gemaakt worden in eenrichtingsverkeer. Je kunt alleen inzicht krijgen in wat werkt, als je in zekere zin je handen vuil maakt.”

Dat deze manier van werken ook risico’s met zich meebrengt, ontkennen ze niet. Van den Hoven: “Daarom precies wil je een proces zodanig inrichten dat áls er een keer iets misgaat, je kunt aantonen dat je er niet pas gisteren over bent gaan nadenken. Maar dat dat je alle relevante overwegingen en wetgeving hebt meegenomen. En dat je op tijd kunt bijsturen.” Houben zegt: “Dat hoort bij de verantwoordelijke ingenieur die we hier in Delft willen opleiden. Alle studenten, bachelor of master of PhD, worden daarom meegenomen in real life uitdagingen. Het leveren van een passende oplossing op het gebied van AI, is niet alleen het maken van een stuk technologie dat werkt, het is ook de omgeving zo inrichten, dat wat je aanlevert daarbij past.”
 

We gaan nu pijlsnel een digitale tijd in. Je zou het ook een digitale wederopbouw kunnen noemen: alles gaat op de schop, alles wordt geautomatiseerd en gedigitaliseerd. En de mogelijkheden met AI zijn enorm. De enorme hoeveelheid data die we verkrijgen via smart devices kan leiden tot verbetering van de gezondheidszorg en betere behandelingen. De energietransitie is zo’n beetje alleen mogelijk met behulp van AI (denk aan het ESP lab of het Wind AI Lab). Maar er is ook een andere kant: denk aan filterbubbels, Big Tech of wat Silicon Valley met data doet. Wat zien jullie, Jeroen en Geert-Jan als belangrijkste taak? 

Jeroen van den Hoven: “We moeten ervoor zorgen dat de waarden die wij belangrijk vinden in Nederland: zoals privacy, democratie, verantwoordelijkheid, transparantie, op een bevredigende manier een plaats behouden in deze nieuwe digitale samenleving. We willen helemaal niet dat iedereen aan de haal gaat met AI. Zoals in Silicon Valley ja, waar helemaal niet zoveel belangstelling bestaat voor privacy of democratie. Het valt ze nog niet eens kwalijk te nemen, want het zijn commerciële bedrijven; ze kijken naar de kwartaalcijfers, naar de belangen van hun aandeelhouders, tenzij de samenleving en de politiek anders bepalen.”

Geert-Jan Houben: “Het ontwikkelen en behouden van die waardigheid in digitale technologie, in Nederland en in Europa, is iets waar we als wetenschappers keihard aan willen en moeten bijdragen. We moeten zorgen dat we ons eigen land, ons eigen continent in staat stellen om op een verantwoorde manier keuzes te maken, niet gedicteerd door leveranciers met andere waarden.”

JvdH: “Precies dit onderwerp is nu top of mind in Brussel. Door de crisis in Oekraïne en de energiecrisis als gevolg daarvan, beseft men dat onze Europese waarden zoals democratie, privacy, en mensenrechten, rule of law, buiten Europa helemaal niet zo gelden zoals bij ons. Als we onze manier van leven, de Europese manier van samenleven, willen borgen in de 21e eeuw, dan moeten we dus zorgen dat de spullen die we maken zoals de infrastructuur en de software, daar aan voldoet. Dat is zeer belangrijk. We kunnen niet klakkeloos technologie zoals AI-technologie uit Silicon Valley of uit China of Rusland importeren, want dan zijn onze Europese waarden niet gegarandeerd. Die zitten er elders niet per definitie in.
Wij moéten kunnen aantonen dat we de fundamentele waarden, waar we ook in de rest van de wereld om bekend staan, niet overboord gooien. Daarover ging ook onze STOA-studie voor het Europese Parlement: we hebben gekeken naar de convergentie van technologieën zoals 5G, big data, internet of things, AI en digital twins en wat er nodig is om dat goed te laten verlopen. Is de AI-act voldoende? Is de AVG, de privacywetgeving, voldoende? Kunnen we daarmee het Europese model succesvol doorzetten? Daarvoor moet je ingenieurs en techneuten hebben die snappen wat de context is waarin ze werken. Die snappen dat elk component dat je bouwt, altijd een onderdeel is van een veel groter verhaal.”

En dat gebeurt hier aan de TU Delft?

GJH: “Ja, precies op die manier kunnen we impact maken en een betere samenleving bewerkstelligen. We kunnen als universiteit het verschil maken met het feit dat we onze ingenieurs opleiden op zo’n manier dat ze kunnen werken in context.”

JvdH: “Ik zou zelfs zeggen: we zijn al twintig jaar leidend op het gebied van het combineren van ethiek en engineering. We hebben niet alleen een plausibel verhaal over morele waarden, maar we weten ook wat het betekent om iets te bouwen of te ontwerpen dat aantoonbaar aan die waarden voldoet. Ik denk zelfs dat we op dit punt een van de voorlopers in de wereld zijn. Je hebt heel veel mensen die fantastische dingen uitvinden en ontwerpen, en je hebt mensen die mooie verhalen vertellen en snappen hoe belangrijk bepaalde morele waarden zijn; hier brengen we dat samen.”

GJH: “Zo zijn ook de TU Delft AI Labs opgebouwd: daar komen mensen samen die met fundamentele engineering bezig zijn en mensen die met de context bezig zijn. Zo krijg je de typische Delftse ingenieursaanpak.”

JvdH: “We noemen dat ideaal ook wel ‘comprehensive engineering’. Dat wil zeggen dat je alfa-, beta- en gammakennis bij elkaar hebt, en een systeemperspectief hebt. Voor het ontwikkelen van zelfrijdende auto’s moet je technologie kunnen maken, maar ook iets weten over de psychologie van mensen, en ook over de sensoren en de slimme infrastructuur, over verzekeren en over APK keuringen, enzovoort. Mensen denken bij AI: ‘ik heb ook iets gehoord over algoritmes…’ – maar het algoritme is slechts een heel klein onderdeel van een groot socio-technisch systeem. En dat socio-technische systeem wordt ingezet in een bepaalde toepassing, in een bepaalde context, voor een bepaalde sector in de samenleving. Daar draagt het bij aan de publieke waarden – of niet. Of je de mensen van de security bij een nucleaire reactor voldoende betaalt, is bij wijze van spreken net zo belangrijk als de afvoer en opslag van het kernafval, en net zo belangrijk als de veiligheid van het algoritme. Gecompliceerde systemen zijn maar zo sterk als de zwakste schakel. En alles moet samenwerken, ook in systemen waarin AI wordt gebruikt. Zó moeten we denken. Zo willen we onze ingenieurs leren denken.”

Is dit lastig voor studenten?

JvdH: “Nee, het is verrassend hoe snel de nieuwe generatie dit oppakt – juist omdat ze heel goed weten wat de kritiek is op big tech, ze weten wat een filterbubbel is, of wat algoritmen op social media voor effecten kunnen hebben. Net zo goed als dat studenten snappen dat er een klimaatprobleem is en dat we daar echt iets aan moeten doen. De generatie die nu bereid is om het beter te doen, de leiders en ingenieurs van de toekomst, aan hen moeten we de juiste instrumenten aanreiken om het ook uit te voeren. Verantwoord innoveren met AI betekent dat je een belangrijk maatschappelijk probleem oplost, zonder nieuwe problemen te creëren, zonder oude problemen te verergeren, terwijl je je houdt aan wetgeving maar ook aan fundamentele, ethische principes. En dat je innovatie aantoonbaar bijdraagt aan het soort samenleving waarin wij willen leven.”

GJH: “We zijn heel hard op weg, ook in het onderwijs hier, om dit te bewerkstelligen. We maken op allerlei mogelijke manieren bruggen naar andere disciplines en andere contexten. Mensen raken daardoor geïnspireerd, en geïnformeerd. Het is onderdeel van onze visie.”