Rapport: De impact van AI op de financiële sector en het toezicht

Dat willen de AFM en DNB voorkomen. AI biedt namelijk veel kansen. Kunstmatige intelligentie kan de dienstverlening van instellingen via bots sneller, goedkoper en effectiever maken. Denk aan een klantenservice die 24 uur per dag bereikbaar is en die klanten zonder dat ze hoeven te wachten een goed antwoord kan geven. Wat de noodzaak van de inzet van AI alleen maar vergroot, is dat de mensenhanden schaars zijn op een krappe arbeidsmarkt. Al te ferm handhaven kan bovendien betekenen dat financiële instellingen in één regio last krijgen van oneerlijke concurrentie van instellingen uit regio's waar de regels minder streng zijn.

Niet achteroverleunen

Tegelijkertijd kunnen de AFM en DNB als toezichthouders niet achteroverleunen. AI kan ook een grote maatschappelijke bedreiging vormen waar mensen de dupe van worden. Bots kunnen discrimineren door op basis van oude informatie een vooroordeel te vormen. Denk hierbij aan bepaalde bevolkingsgroepen of mensen met een lager inkomen. Die hadden traditioneel toch al slechtere toegang tot producten zoals een hypotheek of autoverzekering en enkel omdat dat altijd al zo was bestaat de kans dat ze nu opnieuw slecht bediend worden. Wat zulke discriminatie des te pijnlijker maakt, is als AI op basis van een zelfontwikkelde logica handelt waarbij het niet helemaal duidelijk is waar die logica op is gebaseerd. Er is dan sprake van een zogeheten ‘black box'. Voor AI-programma's die risicoklanten zoals financiers van terrorisme en potentiële witwassers moeten weren, maar waarbij het evenmin duidelijk is waarom de ene klant wél zo'n stempel krijgt en een ander niet, ligt dat net zo gevoelig. Wat ook kan gebeuren is dat vertrouwelijke informatie van klanten in de openbaarheid komt via AI, bijvoorbeeld als die wordt gebruikt om een LLM te voeden waar andere instellingen of bedrijven gebruik van maken voor hun AI-toepassingen. Dit zou een forse schending zijn van het recht op privacy van klanten.

AI-verordening

Voor de toezichthouders is het dus zaak om een verantwoorde balans te vinden tussen verstikkend reguleren en de teugels volledig laten vieren. Specifieke regels die daarbij enige houvast kunnen bieden, zijn dun gezaaid. De dit najaar opgefriste Europese richtlijn die consumenten moet beschermen tegen oplichting en uitsluiting bij het afsluiten van krediet, gaat in op AI-gebruik en ook voor beleggers die AI inzetten voor de beurshandel gelden specifieke voorschriften. Maar de Europese Commissie heeft met haar zogenoemde ‘AI-verordening’ het meest krachtige aanknopingspunt in de aanbieding. Dat is een modelwet die onder meer verbiedt dat AI discrimineert en die regelt dat bedrijven altijd een persoon moeten kunnen aanwijzen die verantwoordelijk is voor de gevolgen die AI al dan niet veroorzaakt. De verordening maakt daarnaast onderscheid tussen de verschillende maten van risico die AI oplevert voor mensen. Verder schrijft deze verordening voor dat de logica die aan AI ten grondslag ligt voor mensen te begrijpen moet zijn. De ‘black box’ wordt taboe als mensen hierdoor risico lopen. Wordt, want zover is het nog niet. Het zal nog zo’n 2 jaar duren voordat de wet waarmee de AFM en DNB kunnen handhaven daadwerkelijk van toepassing is. Dat geeft financiële instellingen en Europese lidstaten de tijd om zich bekend te maken met de nieuwe wet voordat die daadwerkelijk ingaat. Maar ook in de tussentijd controleren de toezichthouders of instellingen geen rechten van klanten schenden. Meedenken met de financiële sector om zo discriminatie, schending van privacy en oneerlijke concurrentie voor te zijn, zal voor de AFM en DNB de komende tijd dus prioriteit hebben. De toezichthouders gaan er van uit dat instellingen AI verantwoord zullen toepassen, al kan het met de permanente evolutie van AI in het achterhoofd nodig zijn om meer specifieke spelregels op te stellen. Dat is iets voor de toekomst. Verder zullen de AFM en DNB contact houden met hun tegenhangers in andere landen en waar mogelijk werken aan regels die grensoverschrijdend worden toegepast. Dat past bij het internationale karakter van de financiële sector. Meer weten over de impact van AI op de financiële sector en het toezicht hierop? Download hier het rapport