Overheid moet transparant zijn over gebruik algoritme bij visumaanvragen

De zaak draaide om een Iraanse vrouw die een visum voor kort verblijf had aangevraagd om haar dochter in Nederland te bezoeken. De minister wees de aanvraag af, omdat onvoldoende was aangetoond dat zij na afloop van haar verblijf zou terugkeren naar Iran. Volgens de minister was de sociale en economische binding met haar land van herkomst onvoldoende onderbouwd.

De vrouw stelde onder meer dat bij de beoordeling gebruik was gemaakt van het algoritme Informatie Ondersteunend Beslissen (IOB). Volgens haar leidde dat tot een onzorgvuldige besluitvorming en bestond het risico op discriminatie op basis van onder meer nationaliteit en etnische afkomst. Ook vond zij dat de minister had moeten vermelden dat het algoritme was gebruikt.

Algoritme ondersteunt, maar beslist niet

De rechtbank beschrijft uitgebreid hoe het IOB-systeem werkt. Het algoritme wordt uitsluitend gebruikt in de voorbereidende fase van de besluitvorming. Op basis van gegevens uit de aanvraag, eerdere visumaanvragen en andere beschikbare informatie deelt het systeem een aanvraag in een bepaalde behandelcategorie (‘fast’, ‘regular’ of ‘intensive’) in. Die indeling bepaalt alleen hoe intensief een dossier wordt onderzocht; de uiteindelijke beslissing wordt genomen door een consulaire medewerker.

Volgens de rechtbank blijkt uit de beschikbare onderzoeken onvoldoende dat het algoritme daadwerkelijk invloed heeft op de inhoud van de uiteindelijke beslissing. Hoewel in eerdere onderzoeken zorgen zijn geuit over mogelijke bias en het risico op een negatieve feedbackloop, heeft de minister vervolgonderzoek laten uitvoeren. Daaruit blijkt volgens de rechtbank dat de toegewezen ‘track’ geen aantoonbare invloed heeft op de beslissing van medewerkers. In deze zaak speelde bovendien mee dat de aanvraag van eiseres niet in een risico- of kansprofiel was ingedeeld, maar in de reguliere behandelcategorie.

Wel transparantie verplicht

Op een belangrijk punt krijgt de vrouw wel gelijk. De rechtbank oordeelt dat de minister in het besluit had moeten vermelden dat het IOB-algoritme is gebruikt en welke rol het daarbij heeft gespeeld. Dat het algoritme volgens de minister geen invloed heeft gehad op de uitkomst van de beslissing, ontslaat het bestuursorgaan niet van die verplichting.

Volgens de rechtbank volgt uit het motiveringsbeginsel dat een besluit controleerbaar en inzichtelijk moet zijn. Daarnaast verlangt ook het transparantiebeginsel uit de AVG dat duidelijk wordt gemaakt hoe persoonsgegevens in een algoritmische toepassing zijn verwerkt. Omdat de minister hierover pas tijdens de beroepsprocedure duidelijkheid gaf, is het besluit volgens de rechtbank onvoldoende gemotiveerd en niet transparant genoeg.

Rechtsgevolgen blijven in stand

Ondanks deze gebreken laat de rechtbank de rechtsgevolgen van het vernietigde besluit in stand. De minister mocht zich volgens de rechtbank nog steeds op het standpunt stellen dat onvoldoende aannemelijk was gemaakt dat de vrouw na haar bezoek tijdig naar Iran zou terugkeren. Ook oordeelde de rechtbank dat zij ten onrechte niet was gehoord in bezwaar, maar ook dat gebrek leidde uiteindelijk niet tot een andere uitkomst.

De uitspraak is vooral relevant vanwege het oordeel over algoritmisch ondersteunde besluitvorming. De rechtbank accepteert het gebruik van een ondersteunend algoritme, maar maakt tegelijkertijd duidelijk dat bestuursorganen burgers daarover in individuele besluiten actief moeten informeren. Dat versterkt de controleerbaarheid van algoritmegebruik en de rechtsbescherming van betrokkenen.