Filter results

9837 resultaten

Hoe systeemveiligheid Machine Learning systemen veiliger kunnen maken in de publieke sector

Machine Learning (ML), een vorm van AI waarbij patronen worden ontdekt in grote hoeveelheden data, kan heel handig zijn. Het wordt steeds vaker gebruikt, denk aan chatbot Chat GPT, voor gezichtsherkenning of aan spraaksoftware. Maar er zijn ook zorgen over de toepassing van ML systemen in de publieke sector. Hoe voorkom je dat het systeem bijvoorbeeld discrimineert, of op grote schaal fouten maakt met negatieve effecten op burgers? TU Delft wetenschappers, waaronder Jeroen Delfos, onderzochten hoe lessen uit de systeemveiligheid kunnen bijdragen aan een veiliger ML systeem in de publieke sector. ‘Beleidsmakers zijn druk met het bedenken van maatregelen om negatieve effecten van ML tegen te gaan. Uit ons onderzoek blijkt dat zij veel meer kunnen leunen op bestaande concepten en theorieën die hun waarde al hebben aangetoond in andere sectoren,’ zegt Jeroen Delfos. Jeroen Delfos Leren van andere sectoren In het onderzoek gebruikten de onderzoekers concepten van systeemveiligheid en systeemtheorie om de uitdagingen van het gebruik van ML systemen in de publieke sector te beschrijven. Delfos: ‘Concepten en tools uit de systeemveiligheidsliteratuur worden al veel gebruikt om de veiligheid van bijvoorbeeld de luchtvaart te ondersteunen, onder andere door ongelukken te analyseren met systeemveiligheidsmethodes, maar binnen het veld van AI en ML is dit nog niet gebruikelijk. Door de systeemtheoretische blik bekijken we veiligheid niet alleen als een resultaat van hoe de techniek werkt, maar juist als een resultaat van complexe set aan technische, sociale en organisationele factoren.’ De onderzoekers interviewden professionals uit de publieke sector om te zien welke factoren worden onderkend, en welke nog onderbelicht zijn. Bias Op een aantal punten kan terrein worden gewonnen om ML systemen in de publieke sector veiliger te maken. Zo wordt bijvoorbeeld bias in data nog vaak als een technisch probleem gezien, terwijl de oorsprong van die bias ver buiten het technische systeem kan liggen. Delfos: ’Denk dan bijvoorbeeld aan de registratie van criminaliteit. In buurten waar de politie vaker surveilleert wordt logischerwijs meer criminaliteit geregistreerd, waardoor deze buurten overgerepresenteerd worden in criminaliteitscijfers. Een ML systeem dat geleerd wordt patronen te ontdekken in deze cijfers zal deze bias gaan herhalen of zelf versterken. Het probleem zit echter in de manier van registreren, en niet in het ML systeem zelf.’ Risico’s verminderen Volgens de onderzoekers doen beleidsmakers en ambtenaren die bezig zijn met de ontwikkeling van ML systemen er goed aan om concepten van systeemveiligheid mee te nemen. Zo is het aan te raden om bij het ontwerpen van een ML systeem vooraf te identificeren wat voor ongelukken men wil voorkomen. Verder is een les vanuit systeemveiligheid, bijvoorbeeld in de luchtvaart, dat systemen in de praktijk de neiging hebben om over tijd steeds risicovoller te worden, omdat veiligheid steeds ondergeschikter raakt aan efficientie zolang er geen ongelukken gebeuren. ‘Het is dus belangrijk dat veiligheid een terugkomend onderwerp is bij evaluaties en dat de eisen voor veiligheid worden gehandhaafd’, aldus Delfos. Lees het paper over dit onderzoek. Andere TBM onderzoekers die meewerkten aan dit onderzoek zijn: Anneke Zuiderwijk, Sander van Cranenburgh, Roel Dobbe en Caspar Chorus (van faculteit IO). Lees het paper over dit onderzoek. Lees de story of science van Roel Dobbe voor meer informatie over de risico’s van algoritmische besluitvorming en systeemveiligheid.

Half Height Horizontal

Students Amos Yusuf, Mick Dam & Bas Brouwer winners of Mekel Prize 2024

Master students Amos Yusuf, from the ME faculty (Mick Dam, from the EEMCS faculty and graduate Bas Brouwer have won the Mekel Prize 2024 for the best extra scientific activity at TU Delft: the development of an initiative that brings master students into the classroom teaching sciences to the younger generations. The prize was ceremonially awarded by prof Tim van den Hagen on 13 November after the Van Hasselt Lecture at the Prinsenhof, Delft. They received a statue of Professor Jan Mekel and 1.500,- to spend on their project. Insights into climate change are being openly doubted. Funding for important educational efforts and research are being withdrawn. Short clips – so called “reels” – on Youtube and TikTok threaten to simplify complex political and social problems. AI fakes befuddle what is true and what is not. The voices of science that contribute to those discussion with modesty, careful argument and scepticism, are drowned in noise. This poses a threat for universities like TU Delft, who strive to increase student numbers, who benefit from diverse student populations and aim to pass on their knowledge and scientific virtues to the next generation. It is, therefore, alarming that student enrolments to Bachelor and Master Programs at TU Delft have declined in the past year. Students in front of the class The project is aimed to make the sciences more appealing to the next generation. They have identified the problem that students tend miss out on the opportunity of entering a higher education trajectory in the Beta sciences – because they have a wrong picture of such education. In their mind, they depict it as boring and dry. In his pilot lecture at the Stanislas VMBO in Delft, Amos Yusuf has successfully challenged this image. He shared his enthusiasm for the field of robotics and presented himself as a positive role model to the pupils. And in return the excitement of the high school students is palpable in the videos and pictures from the day. The spark of science fills their eyes. Bas Brouwer Mick Dam are the founders of NUVO – the platform that facilitates the engagement of Master Students in high school education in Delft Their efforts offer TU Delft Master Students a valuable learning moment: By sharing insights from their fields with pupils at high school in an educational setting, our students can find identify their own misunderstandings of their subject, learn to speak in front of non-scientific audiences and peak into education as a work field they themselves might not have considered. An extraordinary commitment According to the Mekel jury, the project scored well on all the criteria (risk mitigation, inclusiveness, transparency and societal relevance). However, it was the extraordinary commitment of Amos who was fully immersed during his Master Project and the efforts of Brouwer and Dam that brought together teaching and research which is integral to academic culture that made the project stand out. About the Mekel Prize The Mekel Prize will be awarded to the most socially responsible research project or extra-scientific activity (e.g. founding of an NGO or organization, an initiative or realization of an event or other impactful project) by an employee or group of employees of TU Delft – projects that showcase in an outstanding fashion that they have been committed from the beginning to relevant moral and societal values and have been aware of and tried to mitigate as much as possible in innovative ways the risks involved in their research. The award recognizes such efforts and wants to encourage the responsible development of science and technology at TU Delft in the future. For furthermore information About the project: https://www.de-nuvo.nl/video-robotica-pilot/ About the Mekel Prize: https://www.tudelft.nl/en/tpm/our-faculty/departments/values-technology-and-innovation/sections/ethics-philosophy-of-technology/mekel-prize

Veiligere en efficiëntere bloedvatbehandelingen door innovatieve kathetertechnologie

Wereldwijd worden jaarlijks meer dan 200 miljoen katheters gebruikt voor de behandeling van vaatziekten zoals hartaandoeningen en slagadervernauwing. Hoewel essentieel, brengt het gebruik van katheters risico’s met zich mee: wrijving tussen de katheter en de vaatwand kan complicaties veroorzaken. Een nieuwe technologie, ontwikkeld door Mostafa Atalla en zijn team, biedt een oplossing. Met één druk op de knop kan de wrijving van de katheter worden aangepast, van maximale grip naar volledige gladheid. Deze innovatie belooft niet alleen veiligere, maar ook efficiëntere endovasculaire procedures mogelijk te maken. De resultaten zijn gepubliceerd in het wetenschappelijk tijdschrift IEEE. Slimme katheter met instelbare wrijving Het nieuwe katheterprototype is uitgerust met geavanceerde technologie die de wrijving tussen de katheter en vaatwand nauwkeurig reguleert via ultrasone trillingen. Dit mechanisme zet via ultrasone trillingen de dunne vloeistoflaag onder druk waardoor de wrijving dynamisch kan worden aangepast: lage wrijving voor soepele navigatie door bloedvaten en hogere wrijving voor optimale stabiliteit tijdens een procedure. Tests tonen aan dat deze techniek de wrijving op harde oppervlakken met gemiddeld 60% vermindert en op zachte oppervlakken met 11%. Veelbelovende resultaten Bij experimenten op dierlijk aortaweefsel heeft het prototype zijn potentieel bewezen. Deze innovatie kan niet alleen bij vaatbehandelingen worden ingezet, maar mogelijk ook bij andere medische procedures, zoals interventies in de darmen. De onderzoekers zijn nu bezig de technologie verder te ontwikkelen en te testen op bredere toepassingen. Meer informatie Publicatie DOI: 10.1109/TMRB.2024.3464672 Toward Variable-Friction Catheters Using Ultrasonic Lubrication | IEEE Journals & Magazine | IEEE Xplore Mostafa Atalla: m.a.a.atalla@tudelft.nl/ Aimee Sakes: a.sakes@tudelft.nl Wil je een demonstratie bijwonen of in contact komen met een van de onderzoekers neem contact op met: Fien Bosman, persvoorlichter TU Delft Health: f.j.bosman@tudelft.nl/ 0624953733

Een flexibele backstop als deel van de oplossing voor netcongestie

Uit naam van het TU Delft PowerWeb Institute overhandigen onderzoekers Kenneth Brunninx en Simon Tindemans op 12 november 2024 een Position Paper aan de Tweede Kamer, met een mogelijke oplossing voor de grote netwerkcapaciteit-problemen die in Nederland steeds vaker opspelen. Waarschijnlijk haalt Nederland de klimaatdoelen 2030 niet, en dat komt onder andere doordat de grote industrie niet snel genoeg kan overstappen op elektriciteit, mede doordat er steeds vaker problemen ontstaan rondom netwerkcapaciteit en netcongestie. Naar alle waarschijnlijk zullen die problemen dit decennium eerst zelfs toenemen, voordat ze kunnen afnemen, stellen de onderzoekers. De oplossing die de onderzoekers van het TU Delft PowerWeb Institute aanbieden, is de ‘flexibele backstop’. Met een flexibele backstop kan de huidige capaciteit van het elektriciteitsnet efficiënter gebruikt worden zonder aan veiligheid of betrouwbaarheid in te boeten. Een flexibele backstop is een veiligheidsmechanisme dat semiautomatisch en op korte termijn de hoeveelheid elektriciteit vermindert die een elektrische verbruiker van het elektriciteitsnet kan onttrekken (een elektrische laadpaal of een warmtepomp) of leveren (een PV-installatie). Het is een klein apparaatje dat is aangesloten of ingebouwd in een elektrische verbruiker, zoals een laadpaal of warmtepomp, en dat ‘communiceert’ met de distributienetwerkbeheerder. In geval van acute congestie op het netwerk geeft de netwerkbeheerder een signaal aan het apparaat om de hoeveelheid stroom te beperken. Duitsland heeft recent een vergelijkbaar systeem ingevoerd voor elektrische laadpalen. De backstop wordt enkel geactiveerd in periodes van acute congestieproblemen, nadat alle andere maatregelen uitgeput zijn. “Het opwaarderen van het elektriciteitsnetwerk blijft essentieel, maar zal in de praktijk nog jaren duren. Er is dus behoefte aan kortetermijnoplossingen die geïntegreerd kunnen worden in de langetermijnplanning. Wij, de leden van het TU Delft PowerWeb Institute, roepen de overheid, netwerkbeheerders en regulator op om de flexibele backstop als extra veiligheidsmaatregel voor het netwerk te onderzoeken”, aldus de onderzoekers. Het gehele paper is hier te lezen. Kenneth Bruninx is universiteit hoofddocent bij de faculteit Techniek, Bestuur en Management, waar hij met kwantitatieve modellen energiebeleid, regulering en marktontwerp evalueert. Simon Tindemans is universitair hoofddocent in de Intelligent Electrical Power Grids groep van faculteit Elektrotechniek, Wiskunde en Informatica. Hij doet onder andere onderzoek naar onzekerheid en risicomanagement voor elektriciteitsnetwerken. Het TU Delft PowerWeb Institute ontwerpt het elektriciteitsnetwerk van de toekomst.