AI in de publieke sector: kansen benutten, risico’s beheersen

Als CISO in de publieke sector ziet u van dichtbij hoe technologie, mensen en wetgeving elkaar raken. Wat zijn volgens u de grootste kansen én risico’s van AI voor gemeenten en andere publieke organisaties?

AI biedt onwijs veel kansen op het gebied van efficiëntie en kwaliteit. Maar er schuilt ook een enorm gevaar in het enthousiasme waarmee men op dit moment AI tegemoet gaat. Deze modellen leren van onze input. Bedrijfs- of persoonsgevoelige informatie landt in databases waar de Algemene Verordening Gegevensbescherming (AVG) niet bestaat. De seconde dat jij de prompt verstuurd raak je de grip op die gegevens kwijt. Bovendien zijn uitkomsten niet altijd juist of volledig juist, waardoor er soms onterecht te veel wordt vertrouwd op de uitkomsten van een model. Zonder verkeersregels te kennen, is men niet in staat veilig te rijden. Zonder de spelregels van behoorlijk gebruik van AI te kennen, is men niet in staat veilig AI te gebruiken.

AI wordt steeds vaker ingezet voor publieke taken, zoals fraudeopsporing of vergunningsverlening. Welke uitdagingen op het gebied van privacy en informatieveiligheid komen in de praktijk het meest naar voren?

Het is een uitdaging om grip te houden op de informatie die het model verzamelt om AVG- en informatieveiligheidseisen te borgen. Veelal staan deze modellen op servers buiten de Europese Economische Ruimte (EER) ofwel worden de modellen onderhouden en getraind door bedrijven die buiten de EER zijn gevestigd. Toepassingen binnen de EER zonder koppelingen daarbuiten zijn nog beperkt.

Bovendien zijn open velden een mijnenveld in het kader van verwerkingen. Wanneer men een Chatbot gebruikt voor bijvoorbeeld een vergunning check, waarbij de Chatbot een advies levert over het wel of niet aanvragen van een vergunning, wordt er veelal gebruik gemaakt van een open veld. In dit veld kan de inwoner van alles kwijt. Zo ook het feit dat zij vanwege haar rolstoel gebruik niet in staat is haar FNV-bijeenkomst te bezoeken en daarom een nieuwe oprit wil. Het systeem wat ogenschijnlijk weinig persoonsgegevens verwerkt, het gaat immers veelal over fysieke objecten, verwerkt hier opeens bijzondere persoonsgegevens zoals gezondheid en lidmaatschap van een vakbond. Het is daarom des te belangrijker om principes zoals privacy by design en privacy by default toe te passen bij de inrichting van deze processen.

Tijdens dag 3 van de opleiding focust u op cybersecurity en AI. Kunt u een voorbeeld geven van hoe AI zowel een bedreiging kan vormen in cyberaanvallen als een middel kan zijn om verdediging te versterken?

Met de komst van deepfakes heeft social engineering een hele nieuwe dimensie gekregen. Social engineering is een hackvorm die zich richt op de mens met als doel het achterhalen van belangrijke informatie zoals inloggegevens. Social engineering wordt al tijden gebruikt, maar met het gebruik van deepfakes is het lastiger geworden om echt van nep te onderscheiden. Daar waar voorheen iemand zich voordeed als bankdirecteur aan de telefoon met een slecht accent of een computerachtige stem, is het met deepfakes mogelijk om een echte bankdirecteur te animeren die jou in perfect Nederlands en een vertrouwenwekkende lach vraagt om jouw pincode wegens een noodgeval.

Anderzijds biedt AI ook enorm veel kansen tegen cyberaanvallen. Afwijking die normaliter ongedecteerd zouden blijven voor het menselijk oog kan een AI-detectiesysteem triggeren en daarmee aanvallen vroegtijdig stoppen en schade voorkomen.

Er is momenteel veel aandacht voor de AI Act en Europese regelgeving. Hoe kunnen professionals in de publieke sector zich het beste voorbereiden op deze nieuwe verplichtingen in combinatie met bestaande kaders zoals de AVG?

Stel iemand binnen de organisatie verantwoordelijk voor AI. Ik zie het in de praktijk veel gebeuren dat AI ‘erbij wordt gedaan’ door bijvoorbeeld Privacy Officers of dat het enkel technisch wordt aangevlogen door data professionals. AI zit echter al verweven in menig organisatie en het verspreid zich razendsnel. Of je het nou wil of niet, mensen zijn van nature nieuwsgierig en gaan, met of zonder AI-rijbewijs, aan de slag met AI. Grip krijgen op die nieuwsgierigheid en dit in goede banen leiden met kaders waarin de Europese Wetgevingen worden toegepast is essentieel voor elke organisatie om risico’s en datalekken te voorkomen.

Uw kracht ligt in het verbinden van mens, techniek en wetgeving. Hoe helpt deze visie u om AI-vraagstukken voor organisaties inzichtelijk en werkbaar te maken?

Ik geloof dat deze drie onderwerpen in balans moeten zijn om te komen tot een optimaal resultaat. Wetgeving geeft ons richting en kaders, maar is ook open voor interpretatie. De techniek kan een hoop, maar kan soms ook ingezet worden als doel, niet als middel, waardoor we voorbijgaan aan dat wat er echt toe doet, de mens. Daarbij is belangrijk te kijken naar wie die ‘mens’ is. Is het een inwoner? Een collega? Wat is het digivaardigheidsniveau van deze persoon? Ik kijk graag naar alle drie deze invalshoeken voordat ik met mijn advies kom om zo goed mogelijk bij te dragen aan de maatschappelijke meerwaarde die we als publieke organisaties proberen te creëren.

Wat hoopt u dat deelnemers van uw cursusdag meegenomen hebben in hun dagelijkse praktijk zodra ze weer terug zijn in hun organisatie?

Ik hoop dat zij de dag verlaten met voldoende handvatten om in hun organisatie aandacht te vragen voor de AI-verantwoordelijkheid. Zoals ik al zei is het onderwerp vaak bij verschillende mensen ‘een beetje’ belegd en niet altijd bij een organisatie overkoepelend expert. Hierdoor wordt het soms technisch, soms juridisch of soms beleidsmatig aangevlogen, maar wordt er voorbij gegaan aan het belang van alle drie deze invalshoeken en aan de belangrijkste rol: de mens. Ik hoop dat dan mijn cursusdag, samen met die van mijn collega docenten, uiteindelijk leiden tot een compleet beeld van die noodzaak.