Een beheerste en integere bedrijfsvoering is belangrijk voor financiële ondernemingen die gebruikmaken van kunstmatige intelligentie (artificial intelligence – AI). Een verantwoorde inzet van AI bij financiële dienstverlening betekent dat ondernemingen bij het ontwikkelen van toepassingen rekening moeten houden met aspecten als soliditeit, verantwoordelijkheid, eerlijkheid, ethiek, deskundigheid en transparantie. DNB heeft richtlijnen voor het gebruik van AI opgesteld.
Dit is de kernboodschap van het vandaag door De Nederlandsche Bank (DNB) gepubliceerde discussiedocument “General principles for the use of Artificial Intelligence in the financial sector”. Op basis van het discussiedocument en de respons daarop zal DNB in de komende periode de dialoog aangaan met de financiële sector.
Financiële ondernemingen maken steeds meer gebruik van AI
Financiële ondernemingen maken in toenemende mate gebruik van AI om hun bedrijfsprocessen, producten en diensten te verbeteren. Denk bijvoorbeeld aan controle van de identiteit van klanten, analyse van transactiegegevens, opsporing van fraude bij schadeafhandeling, prijsstelling in de obligatiehandel, automatische analyse van juridische documentatie, klantrelatiebeheer en risicomanagement.
Met AI kunnen financiële ondernemingen hun bestaande bedrijfsprocessen verbeteren en nieuwe toegevoegde waarde leveren. Tegelijkertijd kunnen incidenten met AI, zeker wanneer deze technologie niet op een verantwoorde manier wordt ingezet, een financiële onderneming en haar klanten schaden – met mogelijk ernstige gevolgen voor de reputatie van het financiële stelsel als geheel. Door de verwevenheid van het financiële stelsel kunnen dergelijke incidenten uiteindelijk zelfs impact hebben op de financiële stabiliteit. Daarom is het belangrijk dat financiële ondernemingen AI op een verantwoorde manier inzetten, dat wil zeggen op basis van een beheerste en integere bedrijfsvoering.
Principes voor een verantwoord gebruik van AI
DNB heeft een aantal algemene principes geformuleerd voor een verantwoord gebruik van AI in de financiële sector: samen vormen soliditeit, verantwoordelijkheid, rechtvaardigheid, ethiek, deskundigheid en openheid (in het Engels: soundness, accountability, fairness, ethics, skills en transparency – SAFEST) een kader waarbinnen bedrijven de inzet van AI op een verantwoorde manier kunnen vormgeven.
AI-toepassingen moeten eerst en vooral solide zijn, dat wil zeggen dat ze betrouwbaar en accuraat moeten zijn, en op voorspelbare wijze moeten functioneren binnen de grenzen van de geldende wet- en regelgeving. Ondernemingen moeten bereid zijn om hun verantwoordelijkheid te nemen: als AI-toepassingen onverwachts niet naar behoren functioneren, kan dit het bedrijf, zijn klanten en andere belangrijke stakeholders schaden. Voor het maatschappelijk vertrouwen in de financiële sector is eerlijkheid belangrijk: AI-toepassingen mogen bepaalde groepen klanten niet onbedoeld benadelen. En omdat AI-toepassingen taken overnemen waar voorheen menselijke intelligentie voor nodig was, speelt ook ethiekeen rol: financiële ondernemingen moeten ervoor zorgen dat hun klanten en andere stakeholders op de juiste manier behandeld worden en geen schade lijden door het gebruik van AI. Binnen een financiële onderneming moet iedereen – van de werkvloer tot de bestuurskamer – over de juiste mate van deskundigheid beschikken en de voordelen en beperkingen kennen van de AI-systemen waarmee ze werken. Transparantie ten slotte houdt in dat financiële ondernemingen moeten kunnen uitleggen hoe en waarom ze AI in hun bedrijfsprocessen toepassen, en hoe deze toepassingen precies functioneren.
Naar mate het gebruik van AI belangrijker wordt in de besluitvorming van een financiële onderneming, en de potentiële gevolgen hiervan voor de onderneming en haar klanten groter worden, zal de lat voor een verantwoorde en uitlegbare inzet van AI hoger komen te liggen. DNB zal hier in het toezicht op financiële instellingen ook nadrukkelijk naar kijken en verder onderzoek doen naar de belangrijkste aspecten van het gebruik van AI – zoals transparantie.
DNB wil discussie over gebruik AI
Dit discussiedocument bevat de voorlopige visie van DNB op een verantwoord gebruik van AI in de financiële sector. DNB is van mening dat de vraagstukken en ideeën die in dit document aan de orde komen gebaat zijn bij een bredere discussie, en roept relevante stakeholders op om hun opmerkingen en suggesties met DNB te delen via ai@dnb.nl. In de loop van 2020 zal DNB verslag doen van de uitkomst van dit proces.
