De massale beschikbaarheid van generatieve AI, zoals OpenAI’s ChatGPT en Google Bard, werd een topprioriteit voor Enterprise Risk Executives in het tweede kwartaal van 2023, zo blijkt uit een onderzoek van Gartner, Inc onder 249 senior Enterprise Risk Executives.
“Generatieve AI was het op één na meest genoemde risico in ons onderzoek van het tweede kwartaal, en verscheen voor het eerst in de top 10,” zegt Ran Xu director, research in de Gartner Risk & Audit Practice. “Dit weerspiegelt zowel de snelle groei van het publieke bewustzijn en het gebruik van generatieve AI-tools, als de breedte van potentiële use cases, en dus potentiële risico’s, die deze tools met zich meebrengen.”
In mei 2023 ondervroeg Gartner 249 senior enterprise risk executives om leiders een gebenchmarkte kijk te geven op 20 opkomende risico’s. De Quarterly Emerging Risk Reports bevatten gedetailleerde informatie over de mogelijke impact, het tijdsbestek, de mate van aandacht en de waargenomen kansen voor deze risico’s. De levensvatbaarheid van derden stond bovenaan de lijst van snel opkomende risico’s die organisaties het meest in de gaten houden in het 2Q23-onderzoek (zie tabel 1). Onzekerheid over de financiële planning was het derde risico, gevolgd door het risico op cloudconcentratie. Spanningen op het gebied van de handel met China maakten de top vijf van risico’s compleet, verdeeld over kwesties die symptomatisch zijn voor de huidige brede macro-economische en geopolitieke volatiliteit, en technologiegerelateerde zorgen.
Table 1: Top Five Most Commonly Cited Emerging Risks in Q2 2023
| Risk Rank (by Frequency) | Risk Name | Frequency |
| 1 | Third-Party Viability | 67% |
| 2 | Mass Generative AI Availability | 66% |
| 3 | Financial Planning Uncertainty | 62% |
| 4 | Cloud Concentration Risk | 62% |
| 5 | China Trade Tensions | 56% |
Source: Gartner (August 2023)
Massale beschikbaarheid van generatieve AI
Gartner heeft eerder zes risico’s van generatieve AI en vier gebieden van AI-regelgeving geïdentificeerd die relevant zijn voor assurance-functies. Wat betreft het beheer van bedrijfsrisico’s moeten volgens de experts van Gartner drie belangrijke aspecten worden aangepakt:
Intellectueel eigendom: “Informatie die wordt ingevoerd in een generatieve AI-tool kan onderdeel worden van de trainingsset, wat betekent dat gevoelige of vertrouwelijke informatie terecht kan komen in outputs voor andere gebruikers,” aldus Xu. “Bovendien zou het gebruik van outputs van deze tools wel eens onbedoeld inbreuk kunnen maken op de intellectuele eigendomsrechten van anderen die het hebben gebruikt.”Het is belangrijk om leidinggevenden in bedrijven te wijzen op de noodzaak van voorzichtigheid en transparantie rond het gebruik van dergelijke tools, zodat de risico’s van intellectueel eigendom goed kunnen worden beperkt, zowel wat betreft de input als de output van generatieve AI-tools.
Privacy van gegevens: Generatieve AI-tools kunnen mogelijk gebruikersinformatie delen met derden, zoals verkopers of serviceproviders, zonder voorafgaande kennisgeving. Dit kan in veel rechtsgebieden in strijd zijn met de privacywetgeving. Er is bijvoorbeeld al regelgeving geïmplementeerd in China en de EU, en er komen voorstellen voor regelgeving in onder andere de VS, Canada, India en het VK.
Cyberbeveiliging: “Hackers zijn altijd bezig met het testen van nieuwe technologieën op manieren om ze te ondermijnen voor hun eigen doeleinden, en generatieve AI is niet anders,” zegt Xu. “We hebben voorbeelden gezien van malware- en ransomwarecode die generatieve AI heeft laten produceren, evenals ‘prompt injections’-aanvallen die deze tools kunnen verleiden tot het weggeven van informatie die ze niet zouden moeten geven. Dit leidt tot de industrialisatie van geavanceerde phishingaanvallen.”
Oorzaken en gevolgen van het levensvatbaarheidsrisico van derden: “ Aanhoudende inflatie die minder reageert op rentestijgingen en langer aanhoudt dan verwacht, heeft de kosten en margedruk voor derden verhoogd,” zegt Xu. “Als centrale banken hun rentetarieven verhogen om de inflatie te bestrijden, leidt dit ook tot een verkrapping van de kredietverlening, waardoor leveranciers gedwongen kunnen worden om hun activiteiten op te schorten of failliet te gaan als de leenkosten stijgen.
Als de economische omstandigheden in het algemeen verslechteren, kan dit een onverwachte daling van de vraag veroorzaken die de levensvatbaarheid van leveranciers kan beïnvloeden of hun vermogen om goederen en diensten tijdig te leveren.
Experts van Gartner identificeerden drie mogelijke gevolgen voor de levensvatbaarheid van derden die risicomanagers in de gaten moeten houden terwijl de situatie zich ontwikkelt:
Verlies van belangrijke input en materialen: Als derden hun prijzen verhogen als gevolg van de bredere economische situatie, bestaat er een duidelijk risico op verlies van toegang tot belangrijke inputs en materialen, omdat derden de voorkeur zouden geven aan klanten die bereid zijn hogere prijzen te betalen.
Onjuiste aannames voor financiële planning: Kostenveronderstellingen worden ongeldig als leveranciers hun prijzen verhogen of failliet gaan, waardoor omschakelingskosten en hogere prijzen voor het verkrijgen van goederen en diensten noodzakelijk worden.
Uitdagingen buiten de toeleveringsketen: Partners, zoals managed service providers of commerciële partners, crediteuren of technologieleveranciers kunnen hun activiteiten staken of inperken.
Klanten van Gartner kunnen meer lezen in het 2Q23 Emerging Risk Report. Niet-klanten kunnen het webinar bekijken: Executive Leaders, Determine the Opportunities and Risks of Generative AI.
