Europese subsidie voor onderzoek naar de verantwoordelijkheid van intelligente systemen

Jan Broersen, universitair hoofddocent bij het departement Informatica aan de Universiteit Utrecht, ontvangt van de European Research Council een Consolidator Grant van 2 miljoen euro voor zijn onderzoek naar de verantwoordelijkheid van intelligente systemen. De Consolidator Grant is een prestigieuze subsidie voor het ondersteunen van veelbelovende onderzoekers.
Kunstmatige intelligentie is zo succesvol, dat steeds complexere taken worden uitbesteed aan autonome, intelligente systemen, van handelen op de beurs tot het besturen van auto’s. Nóg complexere systemen zijn in aantocht, zoals drones die zelf kunnen beslissen om tot de aanval over te gaan. “Daarmee dragen wij steeds grotere verantwoordelijkheden over aan een systeem, maar wat als het misgaat?”, licht Broersen zijn onderzoek toe.
Theoretisch kaderHet systeem opereert autonoom, maar is niet verantwoordelijk. Het neemt beslissingen op grond van algoritmes waarmee het geprogrammeerd is en namens de mensen die het systeem gebruiken. Broersen: “Stel dat een zelfbesturende auto bij een inhaalmanoeuvre op een gevaarlijk punt op een tegenligger botst. In hoeverre is dan de ontwerper van de auto verantwoordelijk en in hoeverre de bestuurder? We hebben zelfs nog geen theoretisch kader om die vraag te kunnen beantwoorden."
Broersen begint dan ook met het ontwikkelen van zo’n kader, vanuit zowel juridisch als filosofisch perspectief. Vervolgens wil hij op basis van dit denkraam een formele voor een computer begrijpbare logische taal ontwikkelen waarmee gerekend kan worden aan concrete vragen. Uiteindelijk doel is een prototype van een computersysteem dat de risico’s, verantwoordelijkheden en aansprakelijkheden bij de inzet van intelligente systemen bepaalt.
De Europese Unie maakt met de ERC Grants een substantieel budget vrij voor grensverleggend onderzoek dat is geïnitieerd door de excellente onderzoekers zelf. Deze persoonsgebonden subsidie is voor maximaal vijf jaar en wordt toegekend aan uitzonderlijke en richtingbepalende onderzoekers.