Ben je op zoek naar een maatschappelijke en wetenschappelijke uitdaging? Ja, luidt het antwoord van Sabine Roeser als ze 22 jaar geleden een advertentie leest voor de vacature universitair docent Ethiek en Techniek aan de TU Delft. “Ik zat toen in het laatste jaar van mijn promotieonderzoek aan de VU in de filosofische grondslagen van de ethiek. De banen in dat vakgebied lagen niet voor het oprapen. Dus toen ik werd aangenomen bij TBM was ik ontzettend blij.” 

Het tegendeel bewijzen

Ethiek en Techniek is in die tijd nog een pioniersterrein, vertelt Roeser. “Ik had collega’s vanuit de filosofie die zeiden dat reflectie op technologie geen echte filosofie zou zijn. Dat maakte me opstandig. Als iemand zegt dat iets niet kan, wil ik juist het tegendeel bewijzen. Ik zag een enorme uitdaging in het koppelen van filosofische vraagstukken aan maatschappelijke onderwerpen in de techniek.”

Tegelijkertijd moet Roeser zich als filosoof ook bewijzen in de technische wereld. “Bij mijn eerste colleges kreeg ik soms de indruk dat studenten dachten: filosofie is maar vaag. Ik moest dus heel goed uitleggen waarom het dat niet was en hoe belangrijk ethiek is. Wat hierbij erg hielp was dat er vanuit het CvB veel steun en belangstelling was voor filosofie in technisch onderwijs.”

TBM voelde als thuiskomen

Hoewel Roeser geen technische studie heeft gedaan, voelde haar baan bij TBM als thuiskomen. “Ik kom uit een echte bètafamilie. Aan mijn vaders kant is iedereen ingenieur en aan m’n moeders kant zijn de meeste familieleden arts. Toen ik in Delft begon, ging ik m’n familie ook beter begrijpen. Terwijl ik me daarvoor een beetje een vreemde eend in de bijt had gevoeld als kunstenaar, politicoloog en filosoof.”

A-technisch is Roeser ook weer niet, benadrukt ze. “Op de middelbare school had ik een bètaprofiel, en tijdens mijn studies filosofie en politicologie heb ik me onder andere in de formele logica gespecialiseerd. De affiniteit met bèta was ook een van de vereisten voor de baan. Je moet wel iets weten van de materie om met collega’s en studenten van technische vakgebieden te kunnen communiceren. Anders wordt het heel lastig ethiek en techniek te verbinden.”

Rol van emoties bij besluitvorming over technologie

Aan de TU Delft houdt Roeser zich bezig met de rol van emoties bij de besluitvorming over risicovolle technologieën. “Van oudsher wordt vaak gedacht dat emotie en ratio twee tegengestelde dingen zijn, waarbij het idee is dat emoties een slechte raadgever zijn en dat de ratio leidend moet zijn. Terwijl ik in mijn onderzoek juist beargumenteer dat emoties een bron van kennis zijn die ons kunnen helpen bij het maken van morele oordelen over technologie.”

Als voorbeeld noemt Roeser de discussie over kernenergie. “Volgens de statistieken is kernenergie veilig. Maar toch zijn veel mensen bezorgd over kernenergie. Die gevoelens kunnen op belangrijke morele waarden duiden die niet in formele risicoanalyses worden meegenomen, zoals rechtvaardigheid en vrijwilligheid. Ander voorbeeld: de toeslagenaffaire. Het toeslagensysteem leek heel rationeel en werkte op basis van AI en algoritmes. Maar daarachter zaten allerlei aannames die er uiteindelijk toe leidden dat heel veel mensen benadeeld zijn. Emoties zoals rechtvaardigheidsgevoel, inlevingsvermogen en compassie kunnen ons wijzen op belangrijke morele aspecten die in dergelijke formele modellen ontbreken.”

Technologie is niet moreel neutraal

Volgens Roeser helpen emoties ons om op een meer gelaagde manier naar risico’s te kijken. “Technologie kan ons ontzettend veel brengen. Maar uiteindelijk zijn wij mensen nog altijd degenen die beschikken over gevoelens, een bewustzijn, inlevingsvermogen, het besef van goed en kwaad en rechtvaardigheid. Daarom is ethische reflectie onmisbaar binnen de ontwikkeling van techniek.”

Roeser probeert haar studenten hiervan te doordringen in haar onderwijs. “Niet op een directieve manier, maar door ze zelf tot dat inzicht te laten komen. Studenten willen nog weleens een te groot vertrouwen in de technologie koesteren. Ik probeer ze te laten ervaren wat de beperkingen zijn en dat ook in techniek aannames kunnen zitten die niet moreel neutraal zijn, zoals onderliggende racistische aannames in AI systemen.”  

Achtergrond als kunstenaar

Een andere manier waarop Roeser emoties en techniek dichter bij elkaar probeert te brengen, is via kunst. “Voordat ik filosofie studeerde heb ik de kunstacademie afgerond. Kunst heeft best veel raakvlakken met filosofie. Beide vakgebieden laten mensen op een kritische, reflectieve manier naar iets kijken.”

In 2014 krijgt ze tijdens een concert van haar pianoleraar – tevens wiskundige – een brainwave. “Toen realiseerde ik me dat mijn kunst-achtergrond ook heel belangrijk kan zijn voor mijn filosofische werk. Ik wist al dat er onderzoek werd gedaan naar kunstenaars die met technologie werken. Daarop voortbouwend kon ik de link leggen met mijn onderzoek naar risico en morele emoties.  Kunst kan een prachtig middel zijn om de ’morele aspecten van technologie voelbaarder te maken en daardoor bijdragen aan ethische reflectie.”

Kunst kan appelleren aan emoties

Met name de rijke gelaagdheid van kunst vindt Roeser een toegevoegde waarde in haar vakgebied. “Kunst kan appelleren aan onze emoties en kan ons daardoor echt raken. Je hebt bijvoorbeeld kunstenaars die met behulp van technologie grote ijsblokken maken en vervolgens laten smelten om aandacht te vragen voor smeltende poolkappen als gevolg van klimaatverandering. Dan ervaar je het probleem anders dan bij wat droge cijfers.”  

Hoewel Roeser in het begin nog op scepsis stuit, merkt ze dat haar interesse in techno-art – zoals ze het noemt – inmiddels breed wordt gedeeld. “Er blijken steeds meer collega’s aan dit soort onderwerpen te werken. Wat ik heel mooi vind is dat ons Zwaartekracht-programma nu een eigen art track heeft. Ik heb er bijna tien jaar aan gewerkt om dit op de kaart te zetten en nu is het echt op stoom gekomen. Ik kijk ernaar uit dit nog belangrijker te maken.”

Betrokken bij nieuw integriteitsbeleid

Binnen de TU Delft is Roeser als ethicus ook betrokken geweest bij de herziening van het integriteitsbeleid. “Eerst was ik voorzitter van een commissie die moest bekijken of het toenmalige beleid nog voldeed. Op basis van die analyse hebben we met een commissie en een TU brede consultatie een grondige inventarisatie opgesteld van zaken die nog konden worden verbeterd. Hieruit is de Vision on Integrity voortgekomen.”

Een van de adviezen aan de rector was om een integrity officer aan te stellen. Roeser: “Ik had helemaal niet aan mezelf gedacht, maar toen de rector vroeg of ik dat wilde worden, dacht ik: waarom ook niet. We hebben toen in werkgroepen de plannen uit het Vision-document verder laten uitwerken en implementeren. Ik heb zelf de werkgroep geleid die de nieuwe Code of Conduct heeft opgesteld. Wat ik leuk vond aan die processen was dat we ze heel participatief en inclusief hebben opgesteld, in lijn met allerlei methodes voor participatieve besluitvorming die binnen TBM centraal staan. Inmiddels heeft Ibo van de Poel mijn rol als integrity officer overgenomen.” 

Ethiek en techniek nu een gangbare combinatie

Roeser heeft de faculteit de afgelopen decennia flink zien groeien. Daarbij is zowel de studentenpopulatie als ook de populatie wetenschappers heel internationaal en divers geworden. “Er is meer kritische massa, waardoor we meer vertakt zijn en verdiepend en baanbrekend onderzoek kunnen doen. Dat wordt ook in het buitenland gezien, dat vind ik heel gaaf. Daarnaast kijken we naar een breed palet van technologische vraagstukken, zoals in de context van onder andere AI, energietransitie, klimaat en gezondheid. Dat zijn bij uitstek onderwerpen waar ethische vraagstukken aan kleven.”

Roeser merkt dat de houding ten opzichte van haar vakgebied door de jaren heen sterk is veranderd. “Twintig jaar geleden waren we nog met z’n tienen, nu bestaat de filosofiesectie uit tientallen hoogleraren, (hoofd)docenten, promovendi en postdocs. Ook aan andere technische universiteiten in Nederland zijn de filosofiegroepen sterk gegroeid, en veel ‘mainstream’ filosofie-groepen doen nu ook onderzoek naar met name ethische aspecten van AI. Van ‘wat is dit voor raar vak?’ is het nu ineens heel vanzelfsprekend om ethiek bij technische vraagstukken te betrekken. Ik vind het mooi dat we met onze Sectie een bijdrage hebben kunnen leveren aan die omslag.”