Uitlegbare AI: hit or miss is verleden tijd

Uitlegbare artificiële intelligentie (XAI) neemt de laatste twijfel weg over de betrouwbaarheid van algoritmes bij transactiemonitoring. Aleksandra Jarosińska, global business development manager bij Comarch, duikt in de wereld van (uitlegbare) AI, anti-money-laundering en de strijd tegen financiële criminaliteit.

“Mijn eerste stappen op het werkveld zette ik als analist in een antiwitwasafdeling (AML) van een internationale financiële instelling. Ik herinner me nog steeds die eindeloze open kantoren vol analisten die probeerden te bepalen hoe riskant een samenwerking met een bepaalde entiteit effectief is. Om de zoveel weken haalden we een nieuwe mijlpaal qua aantal werknemers ... 100, 200, 300 ... Met het internet als enige hulpmiddel probeerden we te analyseren of een bepaald risico kon worden beperkt of moest worden gemeld aan iemand hoger in de hiërarchie.”

“Nu, 15 jaar later, denk ik dat we het best leuk hadden, virtueel op reis met onze klanten naar de Kaaimaneilanden, Belize of op z’n minst de naburige staat, maar besef ik ook hoe inefficiënt en onvolmaakt we te werk gingen. Zoals de huidige cijfers laten zien, waren we ook vrij duur, want volgens LexisNexis kost het volledige Know Your Customer-proces (KYC) banken zo’n $141.000 per vte per jaar.

Schaap in wolfskleren

“Vandaag gebruiken de meeste financiële instellingen relatief eenvoudige oplossingen op basis van regels. Deze tools zijn echter verre van perfect omdat ze aangedreven worden door historische patronen. Dat betekent dat enkel de transacties die vergelijkbaar zijn met eerdere verdachte transacties worden opgemerkt en onderzocht.”

“Een tweede probleem is het aantal vals positieve meldingen, wat dagelijkse kost is bij de huidige oplossingen. Volgens Reuters had 80% van de meldingen nooit mogen worden gegeven. Toch moet elke melding worden opgevogld door een AML-analist. Zo komen we terug bij de analist die probeert te bepalen of er sprake is van witwaspraktijken of niet.”

Het nieuwe zwart

“Bij Comarch, waar ik vandaag werk, gingen we aan de slag met een nieuwe AI-gebaseerde aanpak. Er werd een prioriteitsbepaling toegepast op de verdachte transacties en een verdere voorselectie voor analyse. Voor elke gesignaleerde case of klant schatten we het risico op witwaspraktijken in met behulp van de krachtigste classificatie-algoritmes. Transacties onder een bepaalde risicodrempel werden stopgezet of gepauzeerd om zo de werklast aanzienlijk te verminderen.”

“De veelbelovende resultaten van deze aanpak, stimuleerden ons tot verder onderzoek. Onze volgende stap was uitlegbare modellen toepassen. Het grootste obstakel voor het implementeren van AI was namelijk het gebrek aan een duidelijke redenering voor elke voorspelling.”

Hit or miss wordt verleden tijd

“De uitdaging was niet alleen om te bepalen of een specifieke transactie een criminele daad was, maar nog meer om te raden waaróm een AI-systeem deze transactie verdacht of net niet verdacht vond. Daar biedt XAI (uitlegbare artificiële intelligentie) een oplossing voor.”

“’Uitlegbaar’ betekent dat mensen kunnen begrijpen hoe een AI-algoritme werkt zonder dat er verdere uitleg nodig is over het dataprocessingmodel. ‘XAI is een reeks machine learning-technieken waardoor de menselijke gebruikers de opkomende generatie van AI-partners kunnen begrijpen, voldoende kunnen vertrouwen en effectief kunnen beheren’, luidt de definitie van David Gunning, een van de meest vooraanstaande onderzoekers van geavanceerde AI-systemen.”

“XAI is de ontbrekende schakel tussen de mens en big data. XAI doet meer dan het weergeven van data – het interpreteert data en zegt: ‘Ik begrijp waarom; Ik begrijp waarom niet; Ik weet wanneer ik u kan vertrouwen; Ik weet waarom u een fout maakte.’ Deze aanpak zorgt voor een nieuwe dimensie bij het opsporen van financiële criminaliteit. Voor het eerst in de geschiedenis kan AI echt met ons communiceren.”

Niet de volle 100%

“AI is geen nieuw concept voor de bankensector. Bij sommige bankprocessen, zoals klantenservice, roept AI geen vragen op, toch zeker niet op technisch vlak. Maar bij andere processen, zoals veiligheid en risicobeheersing, zijn er nog steeds enkele uitdagingen – met als grootste uitdaging de transparantie en uitlegbaarheid.”

“Daarom bleven domeinen zoals AML en fraudepreventie lang onontgonnen terrein voor AI. De instellingen die daadwerkelijk besloten te investeren in AI voor AML waren op zijn zachtst gezegd licht teleurgesteld over de resultaten. Veiligheid en risicobeheersing zijn voor elke bank van het grootste belang, omdat ze het publieke vertrouwen in een bank kunnen maken of kraken. AI scoorde niet goed omdat het zijn bevindingen niet kon onderbouwen.”

Verdict zonder bewijs

“Het probleem is dat een transactie die door een transactiemonitoringsysteem als verdacht wordt bestempeld, niet voldoende reden is voor verder onderzoek. Het kan geen verdict ‘an sich’ zijn – anders zou het een verdict zonder bewijs zijn. Als AI banken wil ondersteunen in de strijd tegen financiële criminaliteit, eisen regelgevers transparantie over de logica achter AI.”

“Mensen zijn niet bereid om technieken toe te passen die niet direct interpreteerbaar, hanteerbaar en betrouwbaar zijn. We zijn geprogrammeerd om ons af te vragen ‘waarom’ en zijn bijna nooit tevreden met een daarom. Wanneer beslissingen op basis van AI-systemen invloed hebben op mensenlevens, wordt de behoefte om de redenering achter deze beslissing te begrijpen nog groter.“

“Het is riskant om te handelen naar beslissingen die niet te rechtvaardigen of legitiem zijn, of waar geen gedetailleerde uitleg bij kan gegeven worden. XAI-stakeholders, waaronder regelgevers, managers of gebruikers die worden beïnvloed door modelbeslissingen, beweren dat het begrijpen van de logica achter AI hen in staat stelt om compliant te blijven, omdat ze de situatie waarin ze zich bevinden begrijpen.”

Bron van waarheid

“In tegenstelling tot traditionele AI geeft uitlegbare AI de logische gedachtegang achter beslissingen. Het presenteert factoren of sets van factoren die de grootste invloed hebben op een beslissing. Het is een eenvoudige boomstructuur volgens het ‘als-dan’ principe. Het is een krachtig wapen in de strijd tegen fraudeurs, maar ook een bron van waarheid voor regelgevers.”

“XAI betekent een nieuw begin voor financiële instellingen, met name in de strijd tegen witwaspraktijken en in hun streven naar veiligheid en risicobeheersing. Het is een voorbeeld van een doeltreffende samenwerking tussen een intelligente machine en de mens die de machine begeleidt en doelen bepaalt. Het is een tool om fraudeurs – met succes – aan te pakken.”

Een artikel van Aleksandra Jarosińska, global business development manager bij Comarch.