Innovatieve technologieёn, zoals advanced analytics, Artifical Intelligence (AI) en machine learning nemen een steeds prominentere plek in bij banken. Net als mensen moeten zelflerende machines hun werk zorgvuldig en accuraat doen. Daarnaast moeten ze ook betrouwbaar en voorspelbaar zijn en opereren binnen wet- en regelgeving.
De nieuwe NVB Standaard - Technical Model Documentation bevat uitgangspunten voor de inzet van deze technologieën door banken om witwassen en terrorismefinanciering te voorkomen.
Pieter Goderis (Tribe Lead COO Analytics ING) werkte samen met collega’s van de andere Nederlandse banken aan de ontwikkeling van deze Standaard. Dit artikel is eerder verschenen in Bank | Wereld Online, een uitgifte van de Nederlandse Vereniging van Banken.
“Met onze teams ben ik wereldwijd verantwoordelijk voor de analytische modellen binnen de Operations divisie van onze bank. We bouwen die modellen op basis van data en bouwen ook de analytische platformen die de modellen kunnen dragen.”
“Samen met de business kijken we waar we innovaties zoals machine learning of AI kunnen introduceren, zodanig dat het voordeel oplevert voor de klant, voor ING en/of de maatschappij. Vooral binnen het domein Financial Crime (FinCrime) merken we dat nieuwe technologieёn veel toegevoegde waarde kunnen brengen.”
Hoe zorgt jouw bank dat de kennis over nieuwe technologieёn wordt benut?
“In bepaalde vakgebieden ligt de specialisatiegraad zo hoog, dat we onze expertise wereldwijd bundelen en centraliseren in één team. Zo hebben we in Amsterdam onze data scientists, machine learning engineers en analytics translators gespecialiseerd in FinCrime detectie bij elkaar gezet. Hierdoor kunnen we internationaal toptalent met domeinkennis samenbrengen om FinCrime modellen te bouwen voor alle landen waar ING actief is. Dit is belangrijk omdat we robuuste modellen willen bouwen om FinCrime tegen te gaan. Modellen waarvan je zeker weet dat ze werken. Betrouwbaarheid en veiligheid staan voorop.”
Hoe zie jij de rol van de mens bij de inzet van nieuwe technologieёn binnen de bankensector?
“Voor automatisering is vanzelfsprekend intelligentie nodig en daar kunnen machine learning en AI nu al een grote rol in spelen. Maar in veel situaties is nog altijd de inzet van een mens nodig. Een model kan immers wel een aantal indicaties geven, maar de volledige beslissing aan een model overlaten kan en wil je als bank vaak niet. Dat kan zijn omdat je de menselijke beslissingsbevoegdheid nog altijd in het proces wilt en moet hebben. Modellen die gebaseerd zijn op kansberekening geven slechts een indicatie op een juist antwoord. Een andere reden voor een human in the loop kan zijn dat de wetgever volledig geautomatiseerde beslissingen niet toelaat. Zo geeft de Europese AI Act bijvoorbeeld richtlijnen voor een kredietbeslissing.”
Dus de rol van de mens is en blijft belangrijk?
“Absoluut. Voor een goede en verantwoorde inzet van nieuwe innovatieve technologieёn blijft menselijke intelligentie vaak noodzakelijk. Bij de inrichting van processen moet je immers rekening houden met de sterktes en/of zwaktes van een analytisch model. Of het nu wordt ingezet voor marketing, in een chatbot of tegen FinCrime. Je moet begrijpen wat het model wel en niet kan en goed bedenken hoe je het model het best kunt aansluiten op het operating model van het bedrijfsonderdeel. Dat vraagt altijd om cruciale afwegingen die vooral door mensen kunnen worden gemaakt. Dat is precies waar de nieuwe NVB Standaard Technical Model Documentation (TMD) over gaat.”
Wat kunnen banken met deze nieuwe NVB Standaard?
“De Standaard biedt banken handvatten voor het ontwikkelen en in productie zetten van advanced analytics en machine learning modellen tegen FinCrime. In feite biedt het technische model specificaties met enkele standaard uitgangspunten over de wijze waarop een analytics model moet worden gebouwd. De Standaard laat ook zien welke afwegingen van belang zijn voorafgaand aan de implementatie. Bijvoorbeeld: waar is de inzet van een mens nog steeds gewenst? Richt het model zich op laag of hoog risicofactoren? Zijn de beperkingen en mogelijkheden van analytics goed tegen elkaar afgezet? Het is cruciaal dat zulke afwegingen worden gemaakt voor de implementatie en dat ze juist worden gemaakt. Als bank wil je immers controle houden op het gedrag van een model, zorgen dat het zijn werk goed doet en dat ook blijvend kunnen aantonen. Naarmate een model langer draait wordt er ook meer bewijs opgebouwd over de effectiviteit. Hierdoor kan het na een tijd ook voldoende bewijs hebben opgebouwd dat het meer taken aankan. Voor dit alles moet je als bank op de juiste manier – met de juiste documentatie - de werking vastleggen. Daar reikt de Standaard initiële uitgangspunten voor aan.”
Hoe sluit de Standaard aan op de risico gebaseerde aanpak van banken?
“De Standaard is juist hiervoor gemaakt. Een voorbeeld: als bank wil je kunnen aantonen hoe contante geldstromen te verantwoorden zijn versus de aanpak om witwaspraktijken te voorkomen. Je wilt als bank dat je model de potentiële risico’s van contante geldstromen goed afdekt, en dat het voldoende effectief en efficiënt werkt. De Standaard beschrijft welke onderliggende bouwstenen nodig zijn om dit te bereiken. Ook aan de ethische kant (‘fairness’) besteedt de NVB Standaard aandacht: een model mag mensen niet onjuist behandelen. De Standaard geeft een aantal principes en checks die je als bank kunt toepassen.”
Kun je iets meer vertellen over de totstandkoming van deze NVB Standaard? En welke rol gaat deze spelen, verwacht jij?
“De Standaard is samen met verschillende Nederlandse banken ontwikkeld en vormt een kader voor best practices van verschillende banken. Het mooie is dat het initiatief en de facilitering kwamen vanuit de toezichthouder - De Nederlandsche Bank. De innovatie rondetafels met de sector en DNB over machine learning waren vruchtbaar en kwamen precies op het juiste moment. Internationaal gezien zetten partijen zoals bijvoorbeeld HSBC en Goldman Sachs reeds grote stappen met advanced analytics, AI en machine learning binnen Fin Crime.”
“De Standaard biedt de Nederlandse banken, toezichthouder en overige stakeholders vooral een gemeenschappelijke taal. Dit kunnen alle banken in Nederland als uitgangspunt gebruiken om de basisdocumentatie op te stellen die nodig is om verantwoording af te leggen. Andersom heeft de interactie tussen toezichthouder en sector voor bijkomend wederzijds begrip gezorgd over het gebruik en verdere potentieel van nieuwe technologieën binnen de sector. Die gemeenschappelijke taal en de ontstane constructieve interactie tussen sector en toezichthouder dragen bij aan een versnelde transitie van de klassieke rule-based aanpak van FinCrime naar een aanpak gebaseerd op advanced analytics en machine learning. Want hoe intelligenter de modellen, hoe meer FinCrime kan worden voorkomen - en daar doen we het tenslotte allemaal voor.”