De Tweede Kamer debatteerde over algoritmegebruik door de overheid, dat onvoldoende transparant is. De inbreng van Open State Foundation werd door de Kamer overgenomen.
“Als een algoritme niet inzichtelijk en uitlegbaar is, gebruik het dan niet.” Dat advies van
Open State Foundation aan de overheid werd gisteren (28 januari) aangehaald in een debat in de Tweede Kamer. De vaste commissie Digitale Zaken besprak ‘Inzet algoritmes en data-ethiek binnen de rijksoverheid’ met drie bewindspersonen: staatssecretaris Szabó (BZK/Digitale Zaken), staatssecretaris Van Oostenbruggen (Financiën) en staatssecretaris Struycken (Justitie en Veiligheid).
De commissie Digitale Zaken debatteerde over dit onderwerp met in het achterhoofd de lessen van het toeslagenschandaal en diverse adviezen en onderzoeken van de Algemene Rekenkamer. Want hoewel de aandacht is gevestigd op verantwoorde inzet van algoritmes én transparantie daarbij essentieel wordt beschouwd, komt het er maar niet van. Overheidsorganisaties weten niet goed welke algoritmes zij in huis hebben. Dit gebrek aan kennis en inzicht in algoritmes is problematisch. Zo worden risico’s niet goed ingeschat en krijgen burgers niet de gewenste uitleg over besluiten waar een algoritme is toegepast.
De afgelopen maanden heeft Open State samen met
The Green Land en andere maatschappelijke partijen onderzoek gedaan naar effectieve vormen van transparantie van algoritmes die door de verschillende overheidsorganisaties worden gebruikt. Dat heeft geleid tot het whitepaper ‘
Het 5 sterren-model voor transparante algoritmes’. Daarin presenteert Open State Foundation een methode om relatief eenvoudig inzicht en daarmee controleerbaarheid te creëren.
Het algoritmeregister van de overheid zou die inzichtelijkheid al moeten bieden. Maar het register bevat 610 algoritmes (stand eind vorig jaar), terwijl er naar schatting 16.000 in zouden moeten staan. De conclusie van Open State Foundation is dus dat slechts 2% van de gebruikte algoritmes enig inzicht biedt. Daarover schreven directeur Open State Serv Wiemers en onderzoeker Charlotte Kroese aan de vooravond van het debat een artikel in
de Volkskrant. Ook iBestuur nam onze conclusies over in een artikel. Dit artikel en natuurlijk het whitepaper heeft Open State Foundation gedeeld met alle leden van de Kamercommissie Digitale Zaken.
Tijdens het debat verwezen de Kamerleden dan ook meerdere malen naar het whitepaper en de aanbevelingen van Open State en andere maatschappelijke partners, met name Marieke Koekoek (Volt), Barbara Kathmann (GL-PvdA) en Jan Valize (PVV). Met name Kathmann riep het kabinet op het 5-sterren-model voor algoritmetransparantie te omarmen. Namens het kabinet zei staatssecretaris Szabó dat hij van het model kennis heeft genomen, het interessant vindt, het aansluit bij het beleid van de rijksoverheid en dat hij zich er verder in wil verdiepen. Szabó zegde de Kamer toe in april in een brief aan de Kamer hierop terug te komen. Open State Foundation zegt benieuwd te zijn naar die brief en betrokken te blijven.
