Filter results

9833 resultaten

Hoe systeemveiligheid Machine Learning systemen veiliger kunnen maken in de publieke sector

Machine Learning (ML), een vorm van AI waarbij patronen worden ontdekt in grote hoeveelheden data, kan heel handig zijn. Het wordt steeds vaker gebruikt, denk aan chatbot Chat GPT, voor gezichtsherkenning of aan spraaksoftware. Maar er zijn ook zorgen over de toepassing van ML systemen in de publieke sector. Hoe voorkom je dat het systeem bijvoorbeeld discrimineert, of op grote schaal fouten maakt met negatieve effecten op burgers? TU Delft wetenschappers, waaronder Jeroen Delfos, onderzochten hoe lessen uit de systeemveiligheid kunnen bijdragen aan een veiliger ML systeem in de publieke sector. ‘Beleidsmakers zijn druk met het bedenken van maatregelen om negatieve effecten van ML tegen te gaan. Uit ons onderzoek blijkt dat zij veel meer kunnen leunen op bestaande concepten en theorieën die hun waarde al hebben aangetoond in andere sectoren,’ zegt Jeroen Delfos. Jeroen Delfos Leren van andere sectoren In het onderzoek gebruikten de onderzoekers concepten van systeemveiligheid en systeemtheorie om de uitdagingen van het gebruik van ML systemen in de publieke sector te beschrijven. Delfos: ‘Concepten en tools uit de systeemveiligheidsliteratuur worden al veel gebruikt om de veiligheid van bijvoorbeeld de luchtvaart te ondersteunen, onder andere door ongelukken te analyseren met systeemveiligheidsmethodes, maar binnen het veld van AI en ML is dit nog niet gebruikelijk. Door de systeemtheoretische blik bekijken we veiligheid niet alleen als een resultaat van hoe de techniek werkt, maar juist als een resultaat van complexe set aan technische, sociale en organisationele factoren.’ De onderzoekers interviewden professionals uit de publieke sector om te zien welke factoren worden onderkend, en welke nog onderbelicht zijn. Bias Op een aantal punten kan terrein worden gewonnen om ML systemen in de publieke sector veiliger te maken. Zo wordt bijvoorbeeld bias in data nog vaak als een technisch probleem gezien, terwijl de oorsprong van die bias ver buiten het technische systeem kan liggen. Delfos: ’Denk dan bijvoorbeeld aan de registratie van criminaliteit. In buurten waar de politie vaker surveilleert wordt logischerwijs meer criminaliteit geregistreerd, waardoor deze buurten overgerepresenteerd worden in criminaliteitscijfers. Een ML systeem dat geleerd wordt patronen te ontdekken in deze cijfers zal deze bias gaan herhalen of zelf versterken. Het probleem zit echter in de manier van registreren, en niet in het ML systeem zelf.’ Risico’s verminderen Volgens de onderzoekers doen beleidsmakers en ambtenaren die bezig zijn met de ontwikkeling van ML systemen er goed aan om concepten van systeemveiligheid mee te nemen. Zo is het aan te raden om bij het ontwerpen van een ML systeem vooraf te identificeren wat voor ongelukken men wil voorkomen. Verder is een les vanuit systeemveiligheid, bijvoorbeeld in de luchtvaart, dat systemen in de praktijk de neiging hebben om over tijd steeds risicovoller te worden, omdat veiligheid steeds ondergeschikter raakt aan efficientie zolang er geen ongelukken gebeuren. ‘Het is dus belangrijk dat veiligheid een terugkomend onderwerp is bij evaluaties en dat de eisen voor veiligheid worden gehandhaafd’, aldus Delfos. Lees het paper over dit onderzoek. Andere TBM onderzoekers die meewerkten aan dit onderzoek zijn: Anneke Zuiderwijk, Sander van Cranenburgh, Roel Dobbe en Caspar Chorus (van faculteit IO). Lees het paper over dit onderzoek. Lees de story of science van Roel Dobbe voor meer informatie over de risico’s van algoritmische besluitvorming en systeemveiligheid.

Half Height Horizontal

Students Amos Yusuf, Mick Dam & Bas Brouwer winners of Mekel Prize 2024

Master students Amos Yusuf, from the ME faculty (Mick Dam, from the EEMCS faculty and graduate Bas Brouwer have won the Mekel Prize 2024 for the best extra scientific activity at TU Delft: the development of an initiative that brings master students into the classroom teaching sciences to the younger generations. The prize was ceremonially awarded by prof Tim van den Hagen on 13 November after the Van Hasselt Lecture at the Prinsenhof, Delft. They received a statue of Professor Jan Mekel and 1.500,- to spend on their project. Insights into climate change are being openly doubted. Funding for important educational efforts and research are being withdrawn. Short clips – so called “reels” – on Youtube and TikTok threaten to simplify complex political and social problems. AI fakes befuddle what is true and what is not. The voices of science that contribute to those discussion with modesty, careful argument and scepticism, are drowned in noise. This poses a threat for universities like TU Delft, who strive to increase student numbers, who benefit from diverse student populations and aim to pass on their knowledge and scientific virtues to the next generation. It is, therefore, alarming that student enrolments to Bachelor and Master Programs at TU Delft have declined in the past year. Students in front of the class The project is aimed to make the sciences more appealing to the next generation. They have identified the problem that students tend miss out on the opportunity of entering a higher education trajectory in the Beta sciences – because they have a wrong picture of such education. In their mind, they depict it as boring and dry. In his pilot lecture at the Stanislas VMBO in Delft, Amos Yusuf has successfully challenged this image. He shared his enthusiasm for the field of robotics and presented himself as a positive role model to the pupils. And in return the excitement of the high school students is palpable in the videos and pictures from the day. The spark of science fills their eyes. Bas Brouwer Mick Dam are the founders of NUVO – the platform that facilitates the engagement of Master Students in high school education in Delft Their efforts offer TU Delft Master Students a valuable learning moment: By sharing insights from their fields with pupils at high school in an educational setting, our students can find identify their own misunderstandings of their subject, learn to speak in front of non-scientific audiences and peak into education as a work field they themselves might not have considered. An extraordinary commitment According to the Mekel jury, the project scored well on all the criteria (risk mitigation, inclusiveness, transparency and societal relevance). However, it was the extraordinary commitment of Amos who was fully immersed during his Master Project and the efforts of Brouwer and Dam that brought together teaching and research which is integral to academic culture that made the project stand out. About the Mekel Prize The Mekel Prize will be awarded to the most socially responsible research project or extra-scientific activity (e.g. founding of an NGO or organization, an initiative or realization of an event or other impactful project) by an employee or group of employees of TU Delft – projects that showcase in an outstanding fashion that they have been committed from the beginning to relevant moral and societal values and have been aware of and tried to mitigate as much as possible in innovative ways the risks involved in their research. The award recognizes such efforts and wants to encourage the responsible development of science and technology at TU Delft in the future. For furthermore information About the project: https://www.de-nuvo.nl/video-robotica-pilot/ About the Mekel Prize: https://www.tudelft.nl/en/tpm/our-faculty/departments/values-technology-and-innovation/sections/ethics-philosophy-of-technology/mekel-prize

New catheter technology promises safer and more efficient treatment of blood vessels

Each year, more than 200 million catheters are used worldwide to treat vascular diseases, including heart disease and artery stenosis. When navigating into blood vessels, friction between the catheter and the vessel wall can cause major complications. With a new innovative catheter technology, Mostafa Atalla and colleagues can change the friction from having grip to completely slippery with the flick of a switch. Their design improves the safety and efficiency of endovascular procedures. The findings have been published in IEEE. Catheter with variable friction The prototype of the new catheter features advanced friction control modules to precisely control the friction between the catheter and the vessel wall. The friction is modulated via ultrasonic vibrations, which overpressure the thin fluid layer. This innovative variable friction technology makes it possible to switch between low friction for smooth navigation through the vessel and high friction for optimal stability during the procedure. In a proof-of-concept, Atalla and his team show that the prototype significantly reduces friction, averaging 60% on rigid surfaces and 11% on soft surfaces. Experiments on animal aortic tissue confirm the promising results of this technology and its potential for medical applications. Fully assembled catheters The researchers tested the prototype during friction experiments on different tissue types. They are also investigating how the technology can be applied to other procedures, such as bowel interventions. More information Publicatie DOI : 10.1109/TMRB.2024.3464672 Toward Variable-Friction Catheters Using Ultrasonic Lubrication | IEEE Journals & Magazine | IEEE Xplore Mostafa Atalla: m.a.a.atalla@tudelft.nl Aimee Sakes: a.sakes@tudelft.nl Michaël Wiertlewski: m.wiertlewski@tudelft.nl Would you like to know more and/or attend a demonstration of the prototype please contact me: Fien Bosman, press officer Health TU Delft: f.j.bosman@tudelft.nl/ 0624953733

Een flexibele backstop als deel van de oplossing voor netcongestie

Uit naam van het TU Delft PowerWeb Institute overhandigen onderzoekers Kenneth Brunninx en Simon Tindemans op 12 november 2024 een Position Paper aan de Tweede Kamer, met een mogelijke oplossing voor de grote netwerkcapaciteit-problemen die in Nederland steeds vaker opspelen. Waarschijnlijk haalt Nederland de klimaatdoelen 2030 niet, en dat komt onder andere doordat de grote industrie niet snel genoeg kan overstappen op elektriciteit, mede doordat er steeds vaker problemen ontstaan rondom netwerkcapaciteit en netcongestie. Naar alle waarschijnlijk zullen die problemen dit decennium eerst zelfs toenemen, voordat ze kunnen afnemen, stellen de onderzoekers. De oplossing die de onderzoekers van het TU Delft PowerWeb Institute aanbieden, is de ‘flexibele backstop’. Met een flexibele backstop kan de huidige capaciteit van het elektriciteitsnet efficiënter gebruikt worden zonder aan veiligheid of betrouwbaarheid in te boeten. Een flexibele backstop is een veiligheidsmechanisme dat semiautomatisch en op korte termijn de hoeveelheid elektriciteit vermindert die een elektrische verbruiker van het elektriciteitsnet kan onttrekken (een elektrische laadpaal of een warmtepomp) of leveren (een PV-installatie). Het is een klein apparaatje dat is aangesloten of ingebouwd in een elektrische verbruiker, zoals een laadpaal of warmtepomp, en dat ‘communiceert’ met de distributienetwerkbeheerder. In geval van acute congestie op het netwerk geeft de netwerkbeheerder een signaal aan het apparaat om de hoeveelheid stroom te beperken. Duitsland heeft recent een vergelijkbaar systeem ingevoerd voor elektrische laadpalen. De backstop wordt enkel geactiveerd in periodes van acute congestieproblemen, nadat alle andere maatregelen uitgeput zijn. “Het opwaarderen van het elektriciteitsnetwerk blijft essentieel, maar zal in de praktijk nog jaren duren. Er is dus behoefte aan kortetermijnoplossingen die geïntegreerd kunnen worden in de langetermijnplanning. Wij, de leden van het TU Delft PowerWeb Institute, roepen de overheid, netwerkbeheerders en regulator op om de flexibele backstop als extra veiligheidsmaatregel voor het netwerk te onderzoeken”, aldus de onderzoekers. Het gehele paper is hier te lezen. Kenneth Bruninx is universiteit hoofddocent bij de faculteit Techniek, Bestuur en Management, waar hij met kwantitatieve modellen energiebeleid, regulering en marktontwerp evalueert. Simon Tindemans is universitair hoofddocent in de Intelligent Electrical Power Grids groep van faculteit Elektrotechniek, Wiskunde en Informatica. Hij doet onder andere onderzoek naar onzekerheid en risicomanagement voor elektriciteitsnetwerken. Het TU Delft PowerWeb Institute ontwerpt het elektriciteitsnetwerk van de toekomst.

25 year celebration of formal collaboration between Delft University of Technology and the University of Campinas

On 25 October 2024 we celebrated 25 years of formal collaboration between Delft University of Technology and the University of Campinas. What began as a project to exchange some students in chemical engineering has now grown to a multifaceted and broad academic collaboration which accumulated into 24 joint research projects (>20 M Euro); 16 advanced courses and 15 Doctors with a Dual Degree PhD. Patricia Osseweijer, TU Delft Ambassador Brazil explained, “We are proud to show and reflect on this special day the added value we created resulting from our joint activities. The lessons we learned demonstrate that especially continuity of funds and availability for exchanges has contributed to joint motivation and building trust which created strong relations. This is the foundation for academic creativity and high-level achievements.” The program presented showcases of Dual Degree projects; research activities and education. It discussed the future objectives and new fields of attention and agree on the next steps to maintain and strengthen the foundation of strong relations. Telma Franco, Professor UNICAMP shared that “joint education and research has substantially benefitted the students, we see that back in the jobs they landed in,” while UNICAMP’s Professor Gustavo Paim Valenca confirmed that “we are keen to extend our collaboration to more engineering disciplines to contribute jointly to global challenges” Luuk van der Wielen highlighted that “UNICAMP and TU Delft provide valuable complementary expertise as well as infrastructures to accelerate research and innovation. Especially our joint efforts in public private partnerships brings great assets” To ensure our future activities both University Boards have launched a unique joint program for international academic leadership. This unique 7-month program will accommodate 12 young professors, 6 from each university. The programme began on 4 November 2024 in Delft, The Netherlands.