Interview met Solid Professionals over inzet machine learning in de financiële sector

Machine learning en kunstmatige intelligentie zijn twee voorbeelden van digitale ontwikkelingen die de financiële sector veranderen. Nu en in de nabije toekomst. Wat is het, wat kan het en waar moeten we op letten zijn vragen die bij veel mensen leven. Om machine learning meer toegankelijk te maken sprak Banken.nl sprak met Casper Rutjes, Laurens Stronk en Vivienne Haring van adviesbureau Solid Professionals. Alle drie werken zij aan de ontwikkeling van machine learning toepassingen.

Voor veel mensen van binnen en van buiten de financiële sector is machine learning nog iets heel abstracts. Wat kunnen jullie in het kort vertellen over machine learning en hebben jullie praktische voorbeelden van de inzet van machine learning in de financiële sector?

Machine learning is kortgezegd het laten vinden van patronen en verbanden in grote hoeveelheden data door computers. Het bestaat al heel lang, maar door de toegenomen beschikbaarheid van data en verbeterde computers is het de laatste jaren aan een enorme opmars bezig. De meest lucratieve toepassing is waarschijnlijk klantgericht adverteren, waar bedrijven als Google en Facebook veel geld aan verdienen.

Er zijn al talloze voorbeelden van het gebruik van machine learning binnen de financiële sector. Veel van deze toepassingen zijn niet per se specifiek voor de financiële sector, maar zijn breder. Zo gebruiken marketingafdelingen Big Data om hun advertentiestrategieën te optimaliseren en worden bij de klantenservice al slimme chatbots gebruikt. Maar ook aan de achterkant van de bank wordt machine learning steeds meer toegepast. De belangrijkste voorbeelden zijn fraudedetectie door zogenaamde unsupervised machine learning en predictive modeling van bijvoorbeeld kredietrisico’s.

Welke ongeziene voordelen biedt machine learning?

De meeste voordelen van machine learning zijn heel bekend: complexe verbanden kunnen worden blootgelegd, terwijl tegelijkertijd door verhoogde efficiëntie de operationele kosten kunnen worden teruggebracht. Echter, machine learning biedt ook andere mogelijkheden. Zo is het mogelijk om datakwaliteitsproblemen te signaleren of fraude te detecteren, waarbij dus de kunstmatige intelligentie verbanden blootlegt die je van tevoren niet weet te specificeren. Machine learning biedt daarnaast medewerkers ook een extra uitdaging in hun baan.

Machine learning gedijt door het gebruik van Big Data. Hoe verhoudt de invoering van GDPR zich tot de ontwikkelingsmogelijkheden van machine learning?

De invoering van GDPR kan gezien worden als het volwassen worden van het big data tijdperk. Bedrijven zijn door de nieuwe regulering genoodzaakt verantwoordelijkheid te nemen over hun eigen datastromen, dit geeft dus het momentum om dataverwerking professioneler aan te pakken. Er is een palet aan nieuwe technieken, zoals differential privacy, om informatie GDPR-compliant te onttrekken. Ongelimiteerd data opslaan en door kunstmatige intelligentie laten profileren mag niet volgens de GDPR. Landen als China en Amerika boeken sneller vooruitgang met machine learning, omdat zij niet door deze wetten beperkt worden.

Naast beperkingen in het gebruik van persoonsgegevens heeft een consument door GDPR ook het recht niet te worden onderworpen aan een uitsluitend op geautomatiseerde verwerking gebaseerd besluit. Hier moet ook bij de implementatie van machine learning rekening mee gehouden worden, zodat de oplossingen voor mensen verklaarbaar en reproduceerbaar blijven.

Wat is het verschil tussen machine learning en deep learning?

Deep learning is een specialisatie binnen machine learning. Machine learning is zoals gezegd de wetenschap die zich bezighoudt met computers die zelf verbanden kunnen leren. Bij deep learning gebeurt dit leren op een specifieke manier, namelijk met een zogeheten diep neuraal netwerk. In deze netwerken wordt het leren onderverdeeld in de lagen van het netwerk. De diepte van deze netwerken is het aantal lagen dat het netwerk bevat. Simpel gezegd, hoe dieper het neurale netwerk hoe abstracter de verbanden die het netwerk kan leren. Deze modellen zijn losjes gebaseerd op het menselijke brein en dat is ook de reden van de naam.

Wat zijn de valkuilen van machine learning? Hoe gevoelig is het voor manipulatie?

Machine learning brengt risico’s met zich mee, die door ontwikkelde technieken beheersbaar zijn. In ons artikel gaven we hier al een voorbeeld van, waarbij het toevoegen van specifieke ruis de uitkomsten van een model totaal kan veranderen. Als het gehele model op straat ligt, is het dus mogelijk de uitkomsten en voorspellingen te beïnvloeden door het vaak genoeg te proberen met een zogenaamde brute force attack.  Ook bestaat bij verkeerd aanleren van het model een kans op ‘overfitting’, waarbij de performance goed lijkt op getrainde data, maar niet op nieuwe data. Een ander risico is dat ongewenst een bepaalde minderheid wordt benadeeld, omdat het model statistisch bevooroordeeld kan zijn.

Een mogelijke valkuil die genoemd wordt is een uitkomst die sociaal ongewenst is, bijvoorbeeld op het vlak van etniciteit. Welke rol speelt ethiek bij het ontwikkelen van machine learning modellen? Zou ethiek überhaupt een rol moeten spelen?

Het voordeel van machine learning modellen is dat het verbanden blootlegt die wij als mens niet direct zien. Maar het kan natuurlijk ook zo zijn dat een machine learning model een verband blootlegt die wij wel zien, maar niet mogen gebruiken omdat het wettelijk verboden is of sociaal ongewenst. Denk bijvoorbeeld aan etniciteit of zwangerschap. Uiteindelijk zijn de makers van de modellen verantwoordelijk voor de uitkomsten en is het belangrijk om ethiek daarbij in een vroeg stadium mee te nemen. Nieuwe technieken omtrent het verklaarbaar maken van de beweegredenen van een machine learning model geven inzicht waarop het model zijn conclusies baseert. Hiermee kan dergelijk ongewenste profilering geminimaliseerd worden.

Explainable Artificial Intelligence (XAI) wordt genoemd als oplossing voor het gebrek aan interpreteerbaarheid van huidige machine learning modellen. Wat maakt XAI zo bijzonder?

In de huidige machine learning modellen wordt vaak de term ‘black box’ gebruikt. Dit begrip slaat op het feit dat machine learning modellen heel moeilijk te interpreteren zijn door de complexiteit van de modellen. Zo is testen of het model werkt vaak wel mogelijk, maar is het moeilijk om in te zien op basis van welke criteria het model een beslissing maakt. XAI kan deze ‘black box’ openbreken, zodat de beslissingen van een machine learning model interpreteerbaar worden. Hierdoor kunnen we bijvoorbeeld zien waarom een bepaald model een persoon afwijst voor een lening en kunnen we ook nagaan of dit niet ingaat tegen wet- en regelgeving of ethische normen en waarden.

Wie profiteren onderaan de streep het meest van machine learning, bedrijven of consumenten? 

Zowel banken en verzekeraars als consumenten profiteren van machine learning, nu en in de toekomst. Aan de voorkant van de bank zullen producten beter op maat aangeboden kunnen worden, een direct voordeel voor consumenten. Denk bijvoorbeeld aan nog slimmere en gebruiksvriendelijkere apps om mobiel mee te bankieren. Aan de achterkant van de bank werkt machine learning kostenbesparend, kunnen voorspellingen beter worden gemodelleerd en fraude beter gedetecteerd, waardoor de winst voor de bank omhoog kan gaan en de prijzen voor de consument omlaag.

Tot slot, in welke mate vormt machine learning een nieuwe bedreiging voor de baanzekerheid van werknemers in de financiële sector?

Machine learning gaat zeker voor een verandering zorgen. Met nieuwe inzichten biedt machine learning nieuwe kansen voor financiële producten en diensten. Het verschuift risico naar andere gebieden, waarbij de menselijke maat nog steeds net zo belangrijk is en blijft. Machine learning creëert dus banen.

Aan de andere kant, verdere integratie van machine learning in zogenaamde 'robotic proces automation' kan impact hebben op functies binnen de financiële sector, waarbij repeterende taken door computers kunnen worden overgenomen. Ten eerste zullen er veel meer banen ontstaan voor technisch opgeleid personeel. Daarbij zullen de werkzaamheden van huidige banen gaan veranderen. Mensen zullen veel minder routinewerk gaan doen en veel meer gaan analyseren wat er uit de modellen komt en hoe dit te interpreteren.