Blog Peter Hartman: Is de slimme robot zelf aansprakelijk?

 

Technologische ontwikkelingen zorgen ervoor dat steeds meer ‘dingen’ zelfstandig gaan denken en handelen. Dan gaat het niet alleen om robots, maar ook over drones en zelfrijdende auto’s. De nieuwe generatie robots is meer en meer zelflerend. Ze kunnen met behulp van kunstmatige intelligentie gemaakte fouten omzetten in verbeteringen en steeds vaker zelfstandig beslissingen nemen. Juridisch gezien heeft een robot geen rechtspersoonlijkheid, dus kent ook geen rechten en plichten. Op dit moment kan een robot niet aansprakelijk worden gesteld voor schade aan derden als gevolg van zijn handelen of nalaten.

Het Europees Parlement (EP) overweegt hier verandering in te brengen. In een rapport uitgebracht medio januari 2018 worden door de juridische commissie van het EP diverse aanbevelingen gedaan over nieuwe regels voor ‘smart robots’. Een van de aanbevelingen is dat slimme robots geheel of gedeeltelijk aansprakelijk moeten kunnen zijn voor hun daden. Om dit mogelijk te maken zou voor robots een elektronische rechtspersoonlijkheid dienen te worden geïntroduceerd. Deze voorgestelde wijziging betekent in feite dat mensenrechten van toepassing worden verklaard op robots. Onlangs was Sophia al de eerste robot die staatsburgerschap kreeg. “Ik ben heel trots en vind het een grote eer”, sprak ze nadat ze zichzelf officieel burger van Saoedi-Arabië mocht noemen.

Kill switch

Wat kunnen robots nu en wat kunnen zij in de toekomst? Dat een auto grotendeels door robots wordt geproduceerd is wel bekend. Maar dat medio juli 2015 een hotel in Japan haar deuren heeft geopend dat volledig wordt gerund door robots? Een dinosaurus robot begroet de gasten en helpt ze bij het inchecken. Een elektrisch wagentje bezorgt de bagage tot aan de kamer, een gigantische robotarm gaat over de garderobe en weer een andere robot neemt de bestelling voor het ontbijt op. Ook worden complexe operaties al uitgevoerd met behulp van robots. Plastisch chirurgen van het Maastricht UMC hebben hiermee begin september 2017 een geslaagde operatie uitgevoerd. De artsen hechtten met de robot vaatjes van 0,3 tot 0,8 millimeter aan elkaar om zo lymfe oedeem te verhelpen bij een borstkankerpatiënten. Het is ‘s werelds eerste super-microchirurgische ingreep met ‘robothanden’.

Ook voor minder fraaie doelen worden robots ingezet. Het Korea Advanced Institute of Science and Technology zou samen met wapenfabrikant Hanwha Systems een robotleger ontwikkelen, die een bedreiging voor de gehele mensheid zou kunnen vormen. In een brief waarschuwen 57 academici uit 30 landen hiervoor en boycotten de betreffende universiteit. Op dit moment wordt binnen de Verenigde Naties gesproken over een absoluut verbod van autonoom wapentuig. Daarnaast worden ook op het criminele vlak stappen gezet. In maart van dit jaar bijvoorbeeld hackten onderzoekers van beveiligingsbedrijf IO Active een robot en lieten hem bitcoins eisen. Daarbij werd gebruik gemaakt van een lek in de software dat al een paar maanden bekend is. Voor dat lek bestaat nog geen oplossing. Mede vanwege dit soort risico’s wil het EP dat ontwerpers elke robot voorzien van een zogenaamde ‘kill switch’.

Kantoorliefde met robot

Naast de kill switch voor robots worden door het EP meer aanbevelingen gedaan. Er dient een register en classificatie te komen voor slimme robots. Het ontwerpen, produceren en gebruiken van robots zullen worden beheerst door nieuwe ethische regels. Daarnaast is er dringend behoefte aan uniforme EU-regels voor drones en zelfrijdende auto’s. Persoonlijk denk ik dat een robot geen mens is of kan zijn. Tenzij het in de toekomst mogelijk wordt een ziel en gevoel toe te voegen. Het blijft vooralsnog een ‘man-made’ apparaat, die wel steeds meer kan. Dus wat mij betreft geen aansprakelijkheid bij de robot zelf, maar een risico aansprakelijkheid bij de eigenaar/houder van de robot, vergelijkbaar met de WAM.

Want als de slimme robot een elektronische rechtspersoon wordt, wat is dan de volgende stap? Wellicht de robot als werknemer met een arbeidscontract, een eigen salaris en een leaseauto? Krijgt hij dan beoordelingsgesprekken en heeft hij promotiekansen? Dat laatste lijkt logisch want hij klaagt niet is nooit ziek en kan 24 uur doorgaan. Zou hij als leidinggevende mensen kunnen gaan aansturen? Gaat hij mee naar bedrijfsfeestjes en heeft hij recht op vakantie? Ontstaan er straks kantoorliefdes tussen mensen en robots? Niets lijkt onmogelijk en wie het weet mag het zeggen.

Deze blog is geschreven door Peter Hartman, Risico & Innovatie adviseur, www.riskfitinnovation.nl.