Generatieve Artificial Intelligence, kortweg genAI, ontwikkelt zich in hoog tempo en wordt breed toegepast. Hoe gaat de overheid om met genAI? Dinsdag 8 april op de eerste verdieping van het Haagse café Rootz, lieten zo’n 60 CIO-adviseurs, beleidsmakers, I-professionals en vertegenwoordigers uit het bedrijfsleven zich over dit actuele onderwerp bijpraten.
In haar openingswoord heette Floor Kloosterman, afdelingshoofd I-stelsel en Vakmanschap bij CIO Rijk, alle aanwezigen hartelijk welkom: “Ik zie veel nieuwe gezichten, niet alleen van collega’s, maar ook van professionals uit de markt. Dat zegt veel over het belang van genAI. Deze vorm van kunstmatige intelligentie brengt kansen én risico’s met zich mee, zowel voor de overheid als voor de samenleving. Het komende uur gaan 3 sprekers hierover iets moois vertellen.”
Ruimte voor innovatie, aandacht voor kansen
Allereerst lichtte Yannick God, coördinator AI en Algoritmen bij CIO Rijk, het overheidsbrede standpunt op het gebied van genAI toe: “Sinds 2023 neemt de Rijksoverheid een voorlopig standpunt in. Begin 2024 hebben we een overheidsbrede visie gelanceerd. In dat jaar hebben we bovendien veel pilots en experimenten bij overheden gedaan. Op basis daarvan hebben we ons standpunt doorontwikkeld. Daarbij is er ruimte voor innovatie en aandacht voor de kansen die de technologie biedt. Sinds begin dit jaar vindt er intensieve afstemming plaats over dit overheidsbrede standpunt.”
Overheidsbreed standpunt: wat is dat?
De vraag is natuurlijk wat dit overheidsbrede standpunt is, vervolgde God: ”Jullie hebben een primeur, want het standpunt is nog niet officieel naar buiten gebracht.” Vervolgens somde God de belangrijkste voorwaarden op die gelden voor alle overheidsinstanties die genAI inkopen, ontwikkelen en/of gebruiken. “De inzet van genAI voldoet aan bestaande wet- en regelgeving, het doel van de inzet is helder en transparant geformuleerd en er is een risicoanalyse uitgevoerd. Verder zijn noodzaak en proportionaliteit onderbouwd. Welk probleem wordt er bijvoorbeeld opgelost dat niet op een andere manier kan worden opgelost? Zijn de randvoorwaarden, zoals AI-geletterdheid en governance op orde? Is er een exit-strategie beschikbaar om bij problemen te kunnen stoppen met genAI, zodat de veiligheid is geborgd? De inzet van genAI moet voorts passen binnen en aansluiten op relevante beleidscontext. Ten slotte is genAI niet toegestaan onder consumentenvoorwaarden, zoals ChatGPT via een browser.”
Voor wie en wanneer van toepassing?
Feitelijk weinig nieuws, vindt God: ”Maar het standpunt is ook een aanzet om een gezamenlijke koers vast te stellen, zodat we bij toepassing van genAI snel kunnen voldoen aan alle voorwaarden. Daarbij geldt ons standpunt voor individueel én projectmatig gebruik en is het van toepassing op alle typen werkzaamheden, ook voor externe partijen die genAI inzetten bij hun dienstverlening aan overheden.”
Daarnaast spelen volgens God een aantal organisatorische en maatschappelijke overwegingen mee: “We stimuleren het gebruik van open-source genAI, mits dit veilig gebeurt. We geven prioriteit aan de inzet of inkoop van Europese en Nederlandse genAI-modellen. Bovendien vinden we het belangrijk te investeren in de AI-geletterdheid van overheidsmedewerkers.”
Per pilot een goede afweging
Eén van de aanwezigen vroeg hoe hard het overheidsbrede standpunt is, bijvoorbeeld bij een pilot. “Sowieso moet een pilot voldoen aan wet- en regelgeving en moet er een risicoanalyse worden uitgevoerd”, zei God. “Maar overigens is dit afhankelijk van de context en de inzet. We moeten niet generiek maar pragmatisch naar een pilot kijken en een goede afweging maken tussen enerzijds de businesswaarde en anderzijds de risico’s.”
DefGPT: de AI-chatbot van Defensie
Vervolgens kwam Sofie Berns, afdelingshoofd DATA bij het ministerie van Defensie aan het woord: “Onze afdeling stelt tools, standaarden en een veilig en beheerd platform beschikbaar en vertaalt veelbelovende innovaties naar concrete resultaten. Onze AI-chatbot DefGPT is zo’n resultaat: een intern alternatief voor populaire AI-diensten als ChatGPT, waarmee onze medewerkers sinds november 2024 op basis van enorme hoeveelheden data complexe taaltaken kunnen uitvoeren. DefGPT is specifiek getraind op defensie-informatie en -taken.”
Gevoelige informatie
Voorheen werd ChatGPT bij Defensie duizenden malen per dag gebruikt, schat Berns in: “Dat brengt grote risico’s met zich mee. Gevoelige informatie kan op straat komen te liggen. Daarmee geef je je tegenstander een informatievoorsprong. In deze tijden van geopolitieke spanningen houdt onze bedrijfsvoering rekening met dreiging en wegen we risico’s op een andere manier af. Een gesloten, veilige omgeving als DefGPT is daarbij cruciaal.”
Nieuwe toepassingen
Inmiddels werkt het ministerie van Defensie aan een volgende versie van DefGPT, waaraan je meer informatie en nieuwe context kunt toevoegen en die het intranet kan raadplegen. “Om verder te kunnen versnellen hebben we daarnaast een Roadmap Data Science & AI opgesteld”, aldus Berns. “Daarin kijken we onder meer naar nieuwe toepassingsgebieden en verdere kennisontwikkeling. Ook richten we onze aandacht op data governance: het beheer en de controle over data binnen onze organisatie, zodat deze betrouwbaar is en op de juiste wijze worden gebruikt.”
Mens en machine versterken elkaar
Het ministerie van Justitie en Veiligheid (JenV) heeft een vergelijkbare interne “AI-assistent” met de roepnaam Robin. “Met dit alternatief voor ChatGPT willen we volledig veilig, betrouwbaar en in control zijn”, zegt projectleider Joost de Haan. Hij benadrukt dat mens en machine elkaar niet vervangen, maar elkaar juist versterken. Bij de ontwikkeling van Robin werkt JenV samen met partners, zoals de Immigratie- en Naturalisatiedienst (IND) en het Centraal Justitieel Incassobureau (CJIB). Het mooie van Robin is volgens De Haan dat je bestanden kunt uploaden en op basis daarvan de machine kunt bevragen. En er is meer. “We vatten specifieke kennis in speciale tools, zogenoemde chatbot plugins. Doordat Robin deze plugins kan gebruiken voegen we extra functionaliteit aan de machine toe.”
Kritieke succesfactoren
Voor de ontwikkeling van Robin noemt De Haan 5 kritieke succesfactoren: “Ten 1e hebben we onze eigen ICT-infrastructuur en de JenV Trusted Cloud. Die ondersteunen ons ministerie bij de flexibele, veilige en efficiënte inzet van ICT-middelen en voldoen volledig aan onze strikte beveiligings- en compliance-eisen. Ten 2e werken we in multidisciplinaire teams met zowel technici als niet-technici. Ten 3e hebben we een gezamenlijk doel, namelijk een multi-inzetbare applicatie. De 4e succesfactor is focus: we vragen per persoon een beschikbaarheid van drie dagen per week. Ten slotte richten we bij de productie onze DevOps-processen meteen in en zorgen we ervoor dat onze bouwers en beheerders samenwerken via één gestroomlijnd proces.”
Gecontroleerde groei
De ontwikkeling van Robin vindt plaats in een centrale omgeving op het bestuursdepartement van JenV. Vervolgens wordt de chatbot, samen met relevante plugins, aangeboden aan de verschillende uitvoeringsorganisaties, zoals het CJIB. ”De uitrol van Robin vindt gefaseerd plaats, van pilot naar opschaling, via een zogenoemde plateauplanning”, licht De Haan toe. “Daarbij sluiten we steeds meer gebruikers aan en krijgen we stapsgewijs inzicht in de governance en de gebruikersrisico’s. We zorgen dus voor een gecontroleerde ontwikkeling van Robin, waarbij we ons telkens afvragen: willen, mogen en kunnen we een bedrijfsproces ondersteunen met Robin of een plugin?”
Robuust, schaalbaar, duurzaam
Zijn er ook kritieke faalfactoren, wilde iemand uit de zaal weten. De Haan: “Jazeker. We hebben bijvoorbeeld altijd te maken met de wet van de remmende voorsprong. Daarom is het belangrijk continu na te denken over de vraag of een ontwikkeling robuust, schaalbaar en duurzaam is.”
Aan het einde van de middag dankte Floor Kloosterman alle aanwezigen voor hun belangstelling en kritische vragen: “Nu is het tijd voor de borrel, om elkaar op te zoeken en met elkaar in gesprek te gaan.”
