Steeds meer organisaties zetten Artificial Intelligence (AI) in, kunstmatige intelligentie op z’n Nederlands. Dit versnelt beslissingsprocessen en schept nieuwe inzichten omtrent risico’s, klanteigenschappen en commerciële kansen. Maar aan de andere kant roept de inzet van deze techniek ook vele vragen op over de juridische en ethische randvoorwaarden en brengt verkeerd gebruik ook risico’s met zich mee, zoals de kans op boetes in het kader van de AVG en de kans dat (ontevreden) klanten afhaken (PR-risico).
Reden voor Arnoud Engelfriet, onder meer partner bij ICTRecht , om een nieuwe (E-learning)cursus ‘Leren Adviseren over AI’ te ontwikkelen, bestemd voor onder meer compliance officers en andere juridische/informatieprofessionals die in hun dagelijkse werk adviseren over de wenselijkheid en de wijze van het inzetten van kunstmatige intelligentie bij bedrijven of overheid. De nieuwe cursus gaat volgend jaar februari van start, zo meldde hij in het recent verschenen Risk & Business Magazine..
Er wordt volgens Engelfriet de laatste jaren veel gesproken over Artificial Intelligence, maar wat het precies inhoudt en wat je ermee kunt doen is nog lang niet bij iedereen bekend. Engelfriet legt uit: “Het is een geavanceerd geautomatiseerd middel waarmee op basis van zogeheten machine learning algoritmes van een enorme hoeveelheid data inzicht kan worden verkregen in relevante klant- en bedrijfsgegevens. Vervolgens kan deze data worden geanalyseerd en daaruit conclusies worden getrokken voor je bedrijfsvoering.”
Hij vervolgt: “Uiteraard kunnen mensen dat ook doen, maar via AI kunnen meer factoren tegelijkertijd worden bekeken. Met AI kunnen bestaande processen worden versneld en werkzaamheden meer gestandaardiseerd worden, waardoor er een (enorme) tijdwinst kan worden gerealiseerd. Zo zou een verzekeraar bijvoorbeeld AI in kunnen zetten om frauduleuze of andere schadeclaims te analyseren, waarbij veel verder kan worden gegaan dan via de huidige reeks gebruikte geautomatiseerde schadebeoordelingssystemen.”
Keerzijde medaille
Het bovenstaande verklaart volgens Engelfriet de populariteit en opkomst van AI, maar ook deze medaille heeft een keerzijde. “Analyses gebaseerd op AI hebben echter ook diverse risico’s in zich. Zo staan AI’s er om bekend dat zij bestaande vooringenomenheid (bias) uit de onderliggende data sterk uitvergroten, wat kan leiden tot ongewenst gedrag zoals discriminatie. Ook is het vaak lastig duidelijke uitleg te krijgen over hoe een AI tot zijn conclusie komt aangezien dergelijke data-analyse is volkomen onvergelijkbaar met een menselijk gedachtenproces.”
Deze risico’s maken organisaties volgens nog steeds huiverig over de inzet van AI. Engelfriet noemt twee mogelijke risico’s van het als bedrijf verkeerd toepassen van kunstmatige intelligentie. “In de eerste plaats een PR- of imagorisico. Als je een klant niet goed kunt waarom je bijvoorbeeld een schadeclaim hebt afgewezen of een andere voor hem of haar vervelend besluit hebt genomen op basis van AI, dan kan de klant naar een ander bedrijf overstappen en/of zijn negatieve ervaringen met anderen delen. Een tweede risico is een (forse) boete in het kader van de AVG- of GDPR. Zo is er in deze privacywetgeving een expliciet verbod opgenomen om mensen aan besluiten te onderwerpen die door een AI zijn genomen. Hieronder valt ook een besluit dat formeel wel door een mens wordt genomen, maar in de praktijk ‘voorgekookt’ wordt door een AI zonder dat de mens wezenlijke input heeft kunnen geven. En dat is hoe de praktijk vaak werkt, omdat er weinig grip op de AI te krijgen is.”
Speciale cursus
Zoals eerder aangegeven heeft Engelfriet de online leergang ‘Leren adviseren over Artificiële Intelligentie’ ontwikkeld, speciaal bestemd voor informatieprofessionals, juristen en compliance officers die in hun dagelijkse werk adviseren over de wenselijkheid en de wijze van het inzetten van kunstmatige intelligentie bij bedrijven of overheid dan wel om een andere reden aan de slag moeten of willen met AI en de toetsing daarvan.
De opleiding start volgend jaar februari en duurt tien weken. In een toelichting op de cursus zegt Engelfriet: “Steeds meer organisaties zetten Artificial Intelligence (AI) in. Dit roept vele vragen op over de juridische en ethische randvoorwaarden. Maar de regels moeten geen blokkade zijn. De behoefte aan een duidelijk kader is dan ook groot. Deze leergang helpt u op een positieve en oplossingsgerichte manier de inzet van AI te beoordelen en te adviseren hoe het wél kan. Na deze leergang zijn de deelnemers in staat een gedegen beoordeling over de juridische en ethische haalbaarheid van een AI- systeem te geven.”
In tien hoofdstukken worden de deelnemers via e-learning op unieke wijze mee in de materie genomen en zijn of haar niveau interactief getoetst. Er wordt gewerkt met échte casussen (en dus ook échte AI) om het begrip en beoordelingsvermogen van de deelnemers te vergroten. Al het lesmateriaal wordt aangeboden in de Procademy online lesomgeving. Deelnemers krijgen webinars, online leesopdrachten, puzzels, uitzoekopdrachten en interactieve casusopdrachten. Hierbij leren zij onder meer data te analyseren, AI-ontwerp te toetsen en compliance-eisen te formuleren.
De cursus duurt tien weken (van 1 februari t/m 8 april), omvat tien praktijkgerichte modules met echte AI-toepassingen die op een tijdstip naar keuze online te volgen zijn. Er wordt echter wel geadviseerd elke week één van de modules af te ronden. De gemiddelde studiebelasting wordt geschat op vier uur per week. Er is geen technische of juridische voorkennis vereist. Een game maakt onderdeel van de cursus uit.
Voor meer informatie en aanmelden: https://www.ictrecht.nl/academy/programma/ai-in-de-praktijk-compliance-governance. Voor het volledige artikel zie hier: http://riskenbusiness.nl/wp-content/uploads/2020/12/RB_5_2020.pdf.
