De afgelopen jaren heeft ‘digital ethics’ een snelle ontwikkeling doorgemaakt – het is van de tekentafel inmiddels doorgestroomd naar de directiekamer. Nu bedrijven het enorme potentieel van AI-technologieën steeds meer ontdekken, dringen de mogelijkheden ervan ook steeds verder door in ons dagelijks leven. En dat brengt ethische implicaties met zich mee, waarmee rekening moet worden gehouden bij het ontwerpen, ontwikkelen en gebruiken van dergelijke systemen.
Het feit dat een (AI-)toepassing beschikbaar is en juridisch toegestaan is, wil niet zeggen deze ook daadwerkelijk moet worden gebruikt. Althans, niet zonder eerst de voor- en nadelen kritisch te beoordelen en zo nodig voorzorgsmaatregelen te nemen. Vandaag de dag werkt de Europese Commissie er hard aan om juridisch grijze gebieden – op het gebied van AI-wetgeving – in een wettelijk kader te plaatsen.
Hoe moet dit binnen organisaties worden aangevlogen? Waar moeten commissarissen rekening mee houden? Hilary Richters, Directeur en Lead Digital Ethics bij Deloitte, en Bart Roelofs, Senior Risk Manager & Transformation bij de Volksbank, bespraken dit onderwerp tijdens een seminar voor commissarissen en delen in dit artikel hun visie.
Practice what you preach
Meerdere incidenten in de afgelopen jaren hebben aangetoond dat het niet overeenkomen van data- en digitale toepassingen met de ethiek en communicatie van een bedrijf, kan leiden tot een lager consumentenvertrouwen of zelfs tot reputatieschade. Het risico van ‘digital ethics washing’ – ofwel het innemen van een ethisch standpunt met betrekking tot technologie dat niet in de praktijk van de organisatie wordt ondersteund – is groot, stellen de experts.
Het is daarom van groot belang om de complexiteit van ethische risico’s van data en digitale technologie in de hele organisatie goed in te schatten, alvorens te communiceren dat men alles onder controle heeft. Dit geldt ook voor data en algoritmen die worden gebruikt met betrekking tot individuele klanten, als voor het eigen personeel.
Dit kan echter een flinke uitdaging vormen door de ‘black-box’-aard van bepaalde machine learning methoden die op data worden toegepast. Het is namelijk mogelijk dat dergelijke systemen gepaard kunnen gaan met ongewenste effecten zoals vooroordelen (‘bias’), onduidelijke verantwoordelijkheden en onjuiste conclusies.
Deze risico’s zijn niet alleen van technische aard. Governance mechanismen zijn net zo essentieel om er voor te zorgen dat men de verantwoordelijkheid belegt voor de werking van deze systemen en zorgt dat de juiste competenties aanwezig zijn om de problemen niet alleen te identificeren, maar ook op te lossen.
Er zijn verschillende manieren om te laten zien dat een organisatie ‘in control’ is met betrekking tot digitale technologieën. Een organisatie moet kunnen aantonen dat het op een verantwoordelijke manier omgaat met ethische dillema’s, deze naar boven brengt en bespreekbaar maakt. Bij het bepalen van de te nemen maatregelen is het belangrijk om te onthouden dat technische competenties alleen niet genoeg zijn om het gewenste vertrouwen te winnen. Organisaties moeten open en eerlijk communiceren over wat zij doen, en zich laten leiden door ethische principes om er zo voor te zorgen dat men zijn ‘licence to innovate’ behoudt.
Beginselen van digitale ethiek
Het ontwikkelen of hanteren van ethische principes (waarbij de Trustworthy AI-richtlijnen van de Europese Commissie als standaard gezien kunnen worden) vormt een effectief vertrekpunt om goed te kunnen inspelen op morele dilemma’s en om digitale ethiek te verankeren binnen een organisatie. De Volksbank heeft ervoor gekozen om deze principes te vertalen naar een eigen ethiekraamwerk. Het ethisch kader omvat de volgende vijf waarden:
Transparantie: Hoewel het financiële ecosysteem complex is, moeten bedrijven transparant zijn over hoe zij data en algoritmen toepassen. Vooral nu de besluitvorming wordt beïnvloed door massaal datagebruik, algoritmen en AI (waaronder machine-learning toepassingen).
Uitlegbaarheid: De gewenste mate van uitleg is afhankelijk van de stakeholders en hun belangen. Wanneer een individuele klant rechtstreeks wordt geconfronteerd met de uitkomst van een algoritme, moet de klant een uitleg over de uitkomst krijgen die aansluit op zijn begripsniveau.
Menselijke interactie: Het is belangrijk om mensen te betrekken bij processen die worden ondersteund door algoritmen. Uitkomsten die door algoritmen worden gestuurd, moeten door mensen worden overzien en eventueel worden bijgestuurd. Bij volledig geautomatiseerde besluitvormingsprocessen moet er altijd een door mensen aangestuurd ‘escalatiepad’ zijn.
Eerlijkheid: Het gebruik van data en modellen moet erop gericht zijn inclusief te zijn, diversiteit te erkennen en vooroordelen weg te nemen in plaats van groepen te discrimineren. Bedrijven moeten hun datasets, modelleringstechnieken, het gebruik van uitkomsten, denkwijzen en bestuurlijke aanpak onder de loep nemen om ervoor te zorgen dat zij inclusief zijn in de manier waarop zij data en algoritmen gebruiken.
Autonomie: Waar mogelijk krijgen klanten controle over het gebruik van data en/of algoritmes, bijvoorbeeld door de mogelijkheid om bepaalde functies aan of uit te zetten.
De rol van de Raad van Commissarissen
De rol van de RvC bestaat erin toezicht te houden op de acties en het beleid van de Raad van Bestuur van de onderneming om zo de algemene bedrijfsvoering van een onderneming te beoordelen. Ook het toezicht houden op de manier waarop data en AI-technologieën worden gebruikt en gemanaged binnen het bedrijf hoort hierbij.
Er zijn verschillende aandachtspunten – als het gaat om digitale, data- of AI-ethiek – waarmee rekening gehouden dient te worden bij het toezicht op de organisatie:
- Principes: Bepaal de principes die leidend zijn voor de organisatie. Het wiel hoeft niet opnieuw uitgevonden te worden. Maak gebruik van reeds bestaande beoordelingen, zoals de ethische richtlijnen voor betrouwbare AI van de Europese Commissie of het raamwerk van de Algemene Rekenkamer. Het is hierbij niet de bedoeling dat een bedrijf gaat ‘shoppen’ in ethische richtlijnen ’. Bedrijven moeten principes kiezen die ook daadwerkelijk op de lange termijn houdbaar en passend zijn voor de organisatie, niet die op dit moment goed uitkomen bij de huidige praktijk.
- Leiderschap: Ondersteun ethische discussies binnen de organisatie. Het hogere management moet actief betrokken zijn bij ethische dilemma’s en er een stem in hebben. Een adviesraad voor digitale ethiek kan deze rol vervullen, maar men moet niet vergeten dat diversiteit en inclusie weerspiegeld moeten worden in de samenstelling van deze raad en dat tegengeluiden ook belangrijk zijn om in de discussie een plaats te geven.
- Aanpak: Integreer ethiek in processen. Ga niet uit van een checklist. Een open en kritische discussie is essentieel bij het afwegen van uiteenlopende waarden, belangen en principes met betrekking tot technologie en mensen. Integreer – net als Security by Design of Privacy by Design – ook Digital ethics by Design in innovatie- en ontwikkelingsprocessen. Afstemming van digitale ethiek op de bedrijfsethiek, -waarden en -missie is belangrijk.
- Expertise: Gebruik uiteenlopende inzichten. Betrokkenheid van deskundigen, business owners en externe stakeholders is belangrijk om inzicht te krijgen in de ‘black box’ van complexere modellen en de geschiktheid van de toepassing ervan. Ethische opvattingen veranderen met de tijd; van tijd tot tijd een blik van buitenstaanders is belangrijk om aansluiting te houden bij maatschappelijke ontwikkelingen.
- Aansprakelijkheid: Wees openhartig over de voortgang. Het gaat niet vanzelf en het is niet meteen klaar. De aanwezigheid van publieke verantwoording vormt een krachtig signaal, bijvoorbeeld in de jaarlijkse ESG-rapportages. Uit deze publicatie moet blijken hoe het staat met de digitale ethiek en welke plannen er zijn om deze te implementeren.
Hoe start je met toezicht?
Om te begrijpen of digitale ethiek in de organisatie als geheel ‘top of mind’ is, stellen we voor om de directie vragen te stellen over de huidige stand van zaken met betrekking tot digitale ethiek:
- Wat is de stand van zaken van de organisatie met betrekking tot de richtlijnen van de Europese Unie voor betrouwbare AI en de komende AI-wet? En zijn er toepassingen van AI die als zeer riskant kunnen worden beschouwd?
- Bestaan er processen om producten en diensten te identificeren die een beoordeling op verantwoord gebruik van AI vergen?
- Beschikt u over een solide en actuele inventarisatie van het gebruik van AI/machine learning binnen de organisatie?
- Hoe is de verantwoordelijkheid en verantwoording rond digitale ethiek georganiseerd?
- In hoeverre worden oplossingen/diensten van derden ook vanuit het oogpunt van digitale ethiek beoordeeld?
- Hoe is de interne auditafdeling ingericht voor beoordeling van digitale ethiek en verantwoord gebruik van algoritmen?
- Hoe genereert u een positieve en proactieve cultuur ten aanzien van digitale ethiek, waarbij zowel ontwikkelaars, business owners als gebruikers worden betrokken?
Een artikel van Hilary Richters (Directeur en Lead Digital Ethics bij Deloitte) en Bart Roelofs (Senior Risk Manager & Transformation bij de Volksbank).