Bij driekwart van de Nederlandse organisaties is onduidelijk wie verantwoordelijk is als een autonoom AI-systeem schade veroorzaakt. Tegelijkertijd denkt 59 procent juridisch klaar te zijn voor AI-inzet. Dat blijkt uit onderzoek van Dynamic People onder 317 IT- en businessbeslissers in Nederland.
Autonome AI-systemen nemen steeds meer beslissingen over in organisaties, maar de juridische voorbereiding loopt daar niet op gelijk. Uit onderzoek van Dynamic People onder 317 IT- en businessbeslissers binnen middelgrote en grote Nederlandse organisaties blijkt dat 77 procent van de bedrijven niet weet wie verantwoordelijk is als een autonoom AI-systeem, zoals een ERP-toepassing, schade veroorzaakt.
Zelfvertrouwen versus de praktijk
De kloof tussen perceptie en werkelijkheid is opvallend. Bijna zes op de tien respondenten (59%) geeft aan dat de eigen organisatie juridisch klaar is voor de inzet van autonome AI. Tegelijkertijd geeft slechts een derde (36%) aan aansprakelijkheid gedeeltelijk te hebben vastgelegd, terwijl 24 procent dit in het geheel niet heeft gedaan. Volgens Dynamic People wijst dat op een aanzienlijk verschil tussen hoe organisaties hun voorbereiding inschatten en hoe die er in de praktijk uitziet.
Als het gaat om financiële schade door een autonoom AI-systeem, verwachten organisaties dat de verantwoordelijkheid intern wordt gedragen. Bijna een derde (29%) wijst de IT-afdeling aan als primair verantwoordelijke partij. Daarna volgt de organisatie zelf (22%) en de eindverantwoordelijke manager voor het betreffende proces (21%). De softwareleverancier staat onderaan met 19 procent.
Governance loopt achter op automatisering
Jan-Douwe Jilderda, CEO bij Dynamic People, stelt dat veel organisaties het gevoel hebben klaar te zijn voor autonome AI, maar dat de vraag naar concrete verantwoordelijkheid zelden een duidelijk antwoord oplevert. Hij wijst erop dat autonome AI-besluitvorming steeds verder naar de software verschuift, terwijl governance, aansprakelijkheid en toezicht in veel gevallen nog niet daarop zijn ingericht. Volgens hem moeten organisaties nu duidelijke afspraken maken over verantwoordelijkheid, voordat deze systemen op grotere schaal zelfstandig gaan handelen.