AI in de financiële sector: een vloek of zegen voor toezichthouders?
De recente opkomst van kunstmatige intelligentie heeft de financiële sector behoorlijk opgeschud. De techniek wordt breed ingezet, van fraudepreventie tot klantenservice, en de kansen zijn dan ook legio. AI brengt tegelijkertijd echter ook behoorlijk wat uitdagingen met zich mee voor financiële instellingen én toezichthouders.
De AFM en DNB hebben een gezamenlijk rapport uitgebracht over de gevolgen die de snelle ontwikkeling van AI heeft voor (het toezicht op) de financiële sector. AI wordt bijvoorbeeld ingezet voor fraudepreventie en -detectie, het tegengaan van witwassen en terrorismefinanciering en cybercriminaliteit, kredietbeoordelingen en identiteitsverificatie. Ook helpt AI medewerkers om efficiënter te werken.
Tegenover de beloften van AI staan volgens de autoriteiten echter ook aanzienlijke risico's. Deze omvatten kwesties zoals de kwaliteit van de gebruikte data, de mogelijkheid tot discriminatie in besluitvormingsprocessen en de uitdagingen rondom de uitlegbaarheid van AI-algoritmes. De AFM en DNB willen dat financiële instellingen en toezichthouders deze risico's erkennen en proactief aanpakken.
De toezichthoudende autoriteiten staan voor een nieuwe uitdaging in het toezicht op de financiële sector, aangezien AI-systemen steeds meer worden geïntegreerd in bedrijfsprocessen. Ze moeten dus de toezichtsmethoden en -procedures uitbreiden om de risico's van AI-toepassingen effectief te kunnen beoordelen. Daarom benadrukken ze het belang van een continue dialoog met de sector om de ontwikkelingen op het gebied van AI nauwlettend te volgen en waar nodig in te grijpen.
Hoe krijgen de toezichthouders dan grip op de toekomst? In het rapport zetten ze vier toekomstscenario’s uiteen. De toekomst van AI in de financiële sector kan worden geschetst aan de hand van vier mogelijke scenario's, elk met zijn eigen set van uitdagingen en potentiële gevolgen.
Ten eerste is er het optimistische scenario van ‘AI voor mens en maatschappij’, waarbij AI goed gereguleerd wordt, klanten verder helpt maar nog steeds gepaard gaat met risico’s. Het tweede scenario is dat van ‘Ongeremde AI’, waarbij er sprake is van hoge mate van innovatie en vrijheid in het regelgevend kader tegenover te weinig toezicht, met bijvoorbeeld cyberdreiging als gevaar.
Het derde scenario is de ‘AI-Winter’, waarbij de regeldruk zo hoog is dat de innovatie stagneert. Tot slot is er nog het ‘Het is maar een hype’-scenario, waarbij de innovatie naar verloop van tijd minder wordt toegepast en de technologische voordelen van AI uiteindelijk beperkter uitvallen. Deze scenario’s vormen een manier voor de toezichthouders om te kunnen anticiperen op de toekomst.
DNB en AFM blijven graag in dialoog met de sector over dit onderwerp. In het kader van dit rapport hebben zij gesproken met verschillende banken, betaalinstellingen, verzekeraars en pensioenuitvoerders. Hieraan willen ze een vervolg geven door later dit jaar een symposium te organiseren, gevolgd door één of meer ronde tafels.
Lees hier het rapport van DNB en AFM over ‘De impact van AI op de financiële sector en het toezicht’.
