[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"article-d19b71ea-dc8c-4ecb-8f0b-92298c16ae7b--":3,"related-articles-undefined-undefined-4f45b762-d390-4895-a1e2-67039bb07273-true":25},{"id":4,"type":5,"title":6,"pubDate":7,"logoUrl":8,"anpFeedCategory":9,"organisationTitle":10,"thirdParty":11,"body":12,"note":13,"imageUrls":14,"city":16,"website":17,"orgId":18,"branches":19,"description":23,"quoteReason":24},"d19b71ea-dc8c-4ecb-8f0b-92298c16ae7b","PRESSRELEASE","Oratie: Kunnen we AI veilig maken?","2024-10-24T12:33:25.062+02:00","https:\u002F\u002Fwww.persberichten.nl\u002Ffile\u002Flogos\u002F4f45b762-d390-4895-a1e2-67039bb07273\u002Fb90001e4-00a3-4bc9-bdef-da441b034a04.jpg","Binnenland","Open Universiteit",false,"\u003Cp>\u003Cp>AI-assistenten zoals ChatGPT maken ondanks hun indrukwekkende prestaties af en toe heel basale fouten, die schade kunnen toebrengen aan mensen. Wat kunnen we doen om AI veiliger te maken? Natasha Alechina, hoogleraar Safe and Responsible AI bij de faculteit Bètawetenschappen van de Open Universiteit, onderzoekt deze vraag in haar oratie getiteld: 'Can we make AI safe?'\u003C\u002Fp>\u003C\u002Fp>\u003Cp>\u003Cp>Zij spreekt haar oratie uit op vrijdag 1 november 2024 om 16.00 uur aan de Open Universiteit in Heerlen.\u003C\u002Fp>\u003Cp>\u003Cstrong>Is AI-veiligheid een probleem?\u003C\u002Fstrong>\u003C\u002Fp>\u003Cp>Artificial Intelligence heeft de afgelopen tien jaar snelle vorderingen gemaakt en speelt een steeds belangrijkere rol in de maatschappij. De meeste vorderingen zijn te danken aan de ontwikkeling van deep learning en de toenemende beschikbaarheid van enorme hoeveelheden data en rekenkracht.\u003C\u002Fp>\u003Cp>Eerdere benaderingen van AI maakten veel meer gebruik van symbolische benaderingen, waarbij code werd geschreven door menselijke programmeurs. Dit is moeilijk voor complexe taken, maar dit maakt het makkelijker om aan te tonen dat het AI-systeem veilig is.\u003C\u002Fp>\u003Cp>\u003Cstrong>Veiligheid\u003C\u002Fstrong>\u003C\u002Fp>\u003Cp>Echter, de toepassing van machine learning-technieken loopt vast in veiligheidskritische gebieden: robotvoertuigen hebben een onaanvaardbaar ongevallenpercentage en menselijke piloten zijn nog niet te vervangen door zelfvliegende vliegtuigen. Alechina: 'Het probleem is dat we niet weten wat systemen die gebaseerd zijn op leren, hebben geleerd.'\u003C\u002Fp>\u003Cp>Language Learning Models (LLM’s), waarvan ChatGPT een voorbeeld is, hebben de neiging om dingen te verzinnen. Dit worden ook wel hallucinaties genoemd. 'De oorzaak hiervan is dat LLM's niet factive zijn, met andere woorden, ze weten het verschil niet tussen waarheid en onwaarheid'.\u003C\u002Fp>\u003Cp>\u003Cstrong>Wat kunnen we doen?\u003C\u002Fstrong>\u003C\u002Fp>\u003Cp>ChatGPT is een voorbeeld van een generatieve AI. Dit is een vorm van artificial intelligence die geautomatiseerd content creëert, op basis van 'prompts' (vragen of verzoeken van gebruikers). Generatieve AI is moeilijker van tevoren te beperken, tijdens de training.\u003C\u002Fp>\u003Cp>Het is wel mogelijk om formele verificatietechnieken toe te passen óp de gegenereerde content. Als generatieve AI bijvoorbeeld een medisch behandelplan produceert, is het mogelijk om te verifiëren of het voldoet aan de richtlijnen die zijn voorgeschreven.\u003C\u002Fp>\u003Cp>\u003Cstrong>Toekomstvisie\u003C\u002Fstrong>\u003C\u002Fp>\u003Cp>In haar toekomstige onderzoek is Alechina van plan om veilige generatieve AI te ontwikkelen. Ze wil hierbij de flexibiliteit en het gemak van het genereren van inhoud met generatieve AI en leren in het algemeen combineren met de nauwkeurige formele garanties die door symbolische benaderingen worden geboden. Ze hoopt door deze twee verschillende benaderingen samen te brengen, dat een meer robuust, betrouwbaar, veilig en vertrouwd AI gaat ontstaan.\u003C\u002Fp>\u003Cp>\u003Cstrong>Over Natasha Alechina\u003C\u002Fstrong>\u003C\u002Fp>\u003Cp>Prof. dr. Natasha Alechina is sinds 1 september 2023 hoogleraar Safe and Responsible AI aan de faculteit Bètawetenschappen van de Open Universiteit. Ze is een van de docenten van de cursus AI en maatschappij. Haar hoogleraarschap aan de Open Universiteit combineert zij met haar functie als universitair hoofddocent aan de faculteit Bètawetenschappen aan de Universiteit Utrecht, waar zij de cursus Logics for Safe Artificial Intelligence geeft binnen de master AI.\u003C\u002Fp>\u003Cp>Alechina studeerde filosofie en promoveerde aan de staatsuniversiteit van Moskou. Daarna promoveerde zij in 1995 met het proefschrift 'Modal Quantifiers' aan de Universiteit van Amsterdam binnen de faculteit Wiskunde en Informatica. Zij werkte van 1996 tot 1998 als onderzoeker aan de University of Birmingham en van 1998 tot 2019 eerst als universitair docent en daarna als universitair hoofddocent aan de School of Computer Science van de University of Nottingham.\u003C\u002Fp>\u003Cp>Zij werkte sinds 2019 bij de Universiteit Utrecht, waar zij onder andere voorzitter van de Onderwijs Advies Commissie voor de Master AI en coördinator van de Special Interest Group on Autonomous Intelligent Systems binnen the Human-Centered AI Focus Area was.\u003C\u002Fp>\u003Cp>Haar onderzoek richt zich op logica en haar toepassingen in kunstmatige intelligentie en computerwetenschap, met de nadruk op het ontwerpen van veilige en correcte agentprogramma's en multi-agent AI-systemen.\u003C\u002Fp>\u003Cp>De oratie op vrijdag 1 november 2024 is live te volgen via \u003Ca href=\"https:\u002F\u002Fwww.ou.nl\u002Flive\" rel=\"noopener noreferrer\" target=\"_blank\">ou.nl\u002Flive\u003C\u002Fa>.\u003C\u002Fp>\u003C\u002Fp>\u003Cp>\u003Cimg style=\"max-width:550px;\" src=\"https:\u002F\u002Forder.perssupport.nl\u002Ffile\u002Fpressrelease\u002F4f45b762-d390-4895-a1e2-67039bb07273\u002Fd19b71ea-dc8c-4ecb-8f0b-92298c16ae7b\u002FBWOratieNatashaAlechinaVeiligeAI22871tilenarrow.jpg\"\u002F>\u003C\u002Fp>","Algemene informatie over de Open Universiteit vindt u op www.ou.nl. Voor meer informatie over dit persbericht kunt u contact opnemen met de persvoorlichting van de Open Universiteit:persvoorlichting@ou.nl, 06-29042930.",[15],"https:\u002F\u002Flh3.googleusercontent.com\u002FzJqjDHlrscFTrYMOn2SV6wv67iL-WDlMCWBbEVLw8qTYK-Gv9hgYuWs6plEBycXxsjlDszfbJULYi4izKq_zHcQhVWOe9F1ut1Q","Heerlen","https:\u002F\u002Fwww.ou.nl","4f45b762-d390-4895-a1e2-67039bb07273",[20],{"id":21,"title":22},"19100","Onderwijs","AI-assistenten zoals ChatGPT maken ondanks hun indrukwekkende prestaties af en toe heel basale fouten, die schade kunnen toebrengen aan mensen. Wat kunnen we do","",[26,35,44,53,62,69,78,87,96,105],{"id":27,"title":28,"pubDate":29,"logoUrl":8,"thirdParty":11,"imageUrls":30,"orgId":18,"branches":32,"description":34},"d2d8661c-e1c5-4265-8c91-90f8dcdd3636","Prof. dr. Thomas Vaessens benoemd tot rector magnificus van de Open Universiteit","2026-10-02T10:06:33.407+02:00",[31,31],"https:\u002F\u002Flh3.googleusercontent.com\u002FA81PwWsj-GPi7QsrZ3w5KBl-yinzYqUVhjIbizzygmyl_stbh39F39JRIT4bcUc0c5pI7ZmyaIfoNQZnDDFFIP8NbPb9ehXOow",[33],{"id":21,"title":22},"Prof. dr. Thomas Vaessens wordt de nieuwe rector magnificus van de Open Universiteit. Hij volgt prof. dr. Theo Bastiaens op, die op vrijdag 11 december 2026 afs",{"id":36,"title":37,"pubDate":38,"logoUrl":8,"thirdParty":11,"imageUrls":39,"orgId":18,"branches":41,"description":43},"ba7076ce-9d97-4429-b27c-85c2462688d9","Sophie Naber legt juridische en ethische kwetsbaarheden undercoveroperaties bloot","2026-09-24T08:16:46.925+02:00",[40,40],"https:\u002F\u002Flh3.googleusercontent.com\u002F7d1Lv7nBultrUjlW8koGK6ZIRwUb7ZvnbQylTkYg6NB_-iikuR_bCyLc9_BJ5IQjVvNGcb1xhwK_hFZ3PpAWUFToalmL7Red3w",[42],{"id":21,"title":22},"Undercoveroperaties zijn niet alleen gevaarlijk voor politieagenten die infiltreren in het leven van verdachten. Heimelijke opsporingsmethoden kunnen ook schure",{"id":45,"title":46,"pubDate":47,"logoUrl":8,"thirdParty":11,"imageUrls":48,"orgId":18,"branches":50,"description":52},"50c2bd12-02fe-4574-86a8-33cedb816fa0","Promotie: waarom lukt die vaste relatie maar niet, zelfs als je heel graag wilt?","2026-09-07T11:58:21.029+02:00",[49,49],"https:\u002F\u002Flh3.googleusercontent.com\u002FyETHujr3qrV8z2P6IRcarJb2KWnxBGk2VPh63PJ_uNiFQHGEFxohJLM4Ng9gymdIDZGywuTukHvXfoZJWXPjhaPiAHTkaQ3gFv8",[51],{"id":21,"title":22},"Op zoek naar een relatie, een paar leuke dates met iemand die op papier goed past, en toch wordt het geen vaste relatie. Hoe kan dat? Psycholoog en relatie-expe",{"id":54,"title":55,"pubDate":56,"logoUrl":8,"thirdParty":11,"imageUrls":57,"orgId":18,"branches":59,"description":61},"450726f2-ea1e-4989-80b6-5fc8e106cccc","'Zuyderland en Open Universiteit vormen uniek living lab voor digitale zorg thuis'","2026-09-01T10:48:20.746+02:00",[58,58],"https:\u002F\u002Flh3.googleusercontent.com\u002Frpm2Tefun6mMGjmUBxiMquhwpsjNdUcpKGdn-E6J2xasqagm8LpqB_CoPkmwHGXkQ4pZspzkd6mlnudsVKK8F-hvd4EZogXL0Q",[60],{"id":21,"title":22},"Digitale zorg is onmisbaar als oplossing voor de immense druk op de zorg. In Zuid-Limburg behandelt Zuyderland inmiddels 17.000 patiënten thuis met hulp van sli",{"id":63,"title":64,"pubDate":65,"logoUrl":8,"thirdParty":11,"orgId":18,"branches":66,"description":68},"45a8a5b2-22a0-42cf-b7d3-ed773878c5dc","Van uitkering naar een beroep waar mensen hard nodig zijn","2026-08-28T10:43:23.281+02:00",[67],{"id":21,"title":22},"Open Universiteit, UWV en The Functional Company laten zien hoe onderwijs en arbeidsmarkt samen talent kunnen ontwikkelen. 'Leven Lang Ontwikkelen' is daarmee g",{"id":70,"title":71,"pubDate":72,"logoUrl":24,"thirdParty":11,"imageUrls":73,"orgId":18,"branches":75,"description":77},"f1f9cfb4-1dcc-4ad3-82bd-c833873deba1","Marjolein de Boer benoemd tot hoogleraar Cultuur, Gezondheid en Gender","2026-08-25T15:41:48.206+02:00",[74,74],"https:\u002F\u002Flh3.googleusercontent.com\u002F1HEfgcrUQPCcNeZSV1Wtoi4TydQLO3_S5bet3ADs4SE7y79NDJXCHZWbFcxR25_R2b0NAm3pCzkfe4vIkkDWJ41_6RuHXTs2",[76],{"id":21,"title":22},"Prof. dr. Marjolein de Boer is door het College van bestuur benoemd tot hoogleraar Cultuur, Gezondheid en Gender aan de Open Universiteit. De Boer start per 1 s",{"id":79,"title":80,"pubDate":81,"logoUrl":24,"thirdParty":11,"imageUrls":82,"orgId":18,"branches":84,"description":86},"6c9ab4b9-fbae-4c6b-9c88-fd64e32bac60","Nieuwe hoogleraar Madelon van Hooff: wat gebeurt er als mensen zich vervelen in hun werk?","2026-08-24T16:30:21.234+02:00",[83,83],"https:\u002F\u002Flh3.googleusercontent.com\u002FeVn43GXzqCBShW-meguwOm5YQXBJ_UhTgw1fLKj3Q7TqCTGTRIfNRS8Cc9Rjj8DfcBLcktuk_0fRM4tpfLr0rti4QgW4NMqwFA",[85],{"id":21,"title":22},"Het College van bestuur van de Open Universiteit heeft Madelon van Hooff benoemd tot hoogleraar Occupational Health, Well-being and Motivation. Deze leerstoel r",{"id":88,"title":89,"pubDate":90,"logoUrl":8,"thirdParty":11,"imageUrls":91,"orgId":18,"branches":93,"description":95},"042d6ab7-25df-4de7-a33a-9e3bb4d99bf8","Rapport: Rendement hoger onderwijs in Nederland onder de maat","2026-07-07T16:11:18.773+02:00",[92],"https:\u002F\u002Forder.perssupport.nl\u002Ffile\u002Fpressrelease\u002F4f45b762-d390-4895-a1e2-67039bb07273\u002F042d6ab7-25df-4de7-a33a-9e3bb4d99bf8\u002FGGWAgoraNominaalrendementhogeronderwijsNLonderdemaat.pdf",[94],{"id":21,"title":22},"Uit een onderzoek van de OECD uit 2025 blijkt dat Nederlandse studenten in het hoger onderwijs bijzonder slecht scoren. Slechts 30% rondt de studie af binnen de",{"id":97,"title":98,"pubDate":99,"logoUrl":8,"thirdParty":11,"imageUrls":100,"orgId":18,"branches":102,"description":104},"cd95383f-d1ec-4378-93a0-2f0183c96d32","Gezond ouder worden: kan de buurt het verschil maken?","2026-06-11T09:39:41.272+02:00",[101,101],"https:\u002F\u002Flh3.googleusercontent.com\u002FOhkBp-WsfLezrNOPY_vuyXTDSEZTMwou5zKVr7cvs-JCnFyLtash4HO47sOW_UIZMEH5tS1q17USDGlYYP9CSVrjNwdsdqNe",[103],{"id":21,"title":22},"Hoe kunnen senioren gezond, zelfstandig en verbonden blijven in een samenleving die snel vergrijst? Uit het promotieonderzoek van Lieke Duijsens blijkt dat een ",{"id":106,"title":107,"pubDate":108,"logoUrl":8,"thirdParty":11,"imageUrls":109,"orgId":18,"branches":111,"description":113},"879e7c1f-8ae5-49a1-8fd8-84bcd37df150","Oratie Mariette Lokin: Zorg dat ICT-systemen wetten transparant en rechtmatig uitvoeren","2026-06-01T11:10:42.106+02:00",[110,110],"https:\u002F\u002Flh3.googleusercontent.com\u002FCr_V1r57MNrj04D4rnpfJBsKSWZjn3DTG0sYLA3skWfkr08BJoTcm7hj4uxg51zTpvsNbbeVN_QO-PcIKCSfzfxI73fGrkl0cvY",[112],{"id":21,"title":22},"Overheidsorganisaties voeren de meeste wetten uit via ICT-systemen. Maar hoe komen beslissingen tot stand? Bijzonder hoogleraar Mariette Lokin waarschuwt dat we"]