Aansprakelijkheid voor AI-systeem - gebruiker en producent

Hoe is aansprakelijkheid voor fouten van een AI-systeem geregeld tussen gebruiker en producent?

Bij het beantwoorden van deze vraag is het van belang hoe en waar het model gebruikt wordt. Voor modellen die een onderdeel vormen van een product, dat wil zeggen een roerende zaak, is de vraag namelijk makkelijker te beantwoorden dan voor een model dat onderdeel is van een stuk software zoals een website of een programma.

Model in een product

Als een model in een product (een tastbaar object) is verwerkt en daar fouten maakt, zoals het herkennen van een stopbord bij een zelfrijdende auto, dan kan er misschien aansprakelijkheid worden vastgesteld op grond van productaansprakelijkheid (art. 6:185 BW). De producent van een product kan aansprakelijk worden gesteld voor een gebrek in zijn product. De ontwikkelaar van een model ontwikkelt een onderdeel van het product en wordt daardoor meegeteld als producent.

Voor aansprakelijkheid is het nodig dat het model, en daarmee het product, gebrekkig is. De eis van gebrekkigheid stelt dat het product niet de veiligheid biedt die men daarvan mag verwachten. Hierbij worden alle omstandigheden in aanmerking genomen. Bij een zelfrijdende auto die een stopbord negeert, is het redelijk duidelijk dat deze niet voldoet aan de eisen die men aan het product mag stellen.

Een producent heeft wel een aantal manieren om aansprakelijkheid te vermijden. Die zijn vastgelegd in de wet. De tweede uitzondering is het meest interessant voor modellen, omdat de producent hiermee niet aansprakelijk is voor gebreken die nog niet bestonden op het tijdstip dat het product op de markt werd gebracht. Stel dat er een nieuw soort stopbord wordt geïntroduceerd na de verkoop van de auto, dan is het negeren van dat stopbord misschien geen gebrek van de auto. Op het moment dat een gebrek ontstaat, is het aan de benadeelde om de schade, het gebrek en het verband tussen de twee te bewijzen. De gedekte schade is beperkt tot schade door dood of lichamelijk letsel en schade aan zaken die in een privéomgeving worden gebruikt hoger dan 500 euro.

Model in software

Voor een model wat alleen digitaal bestaat en dus geen onderdeel vormt van een fysiek product zijn de regels wat minder duidelijk. Het is namelijk niet zeker of software die alleen in een digitale vorm wordt geleverd, ook onder de noemer product of roerende zaak valt. Als dat niet het geval is, dan kan men altijd nog terugvallen op de onrechtmatige daad (art 6:162 BW). Zo is het op de markt brengen van een product dat niet geschikt is voor waar het voor wordt gebruikt, onrechtmatig. Het is echter voor een model veel moeilijker om te bewijzen dat er sprake is van een gebrek. Geen enkele ontwikkelaar zal claimen dat zijn model perfect is en daardoor kan je dat ook niet verwachten als opdrachtgever of gebruiker. De bewijslast zal bij de benadeelde liggen en die heeft in dit geval een moeilijke bewijspositie. Wel kan er sprake zijn van een gebrekkig product als het aantal fouten toeneemt na een update van het model.

Misschien dat er in de toekomst een zorgplicht ontstaat voor ontwikkelaars waardoor ze moeten bewijzen dat ze voldoende voorzorgsmaatregelen in acht hebben genomen bij de ontwikkeling, maar die is er nu nog niet. Wel zal de benadeelde zich in een betere positie bevinden als er vaker fouten worden gemaakt die gemeld worden aan de ontwikkelaar en de ontwikkelaar deze fouten niet probeert te voorkomen.

Conclusie

De verdeling van de aansprakelijkheid tussen de producent en de gebruiker is nog niet duidelijk. Als er sprake is van een product waar de producent een onderdeel van levert, is het gemakkelijker om de ontwikkelaar aansprakelijk te stellen, maar dan zal de fabrikant ook betrokken zijn als producent. Is het model alleen in een digitale omgeving te gebruiken, dan moet er al algemener gekeken worden naar de onrechtmatige daad met alle gevolgen voor het bewijzen van onrechtmatigheid van dien.