Van wie wordt het AI-systeem?

Wat mag de AI/ML ontwikkelaar met de data doen? Wat mag de klant van de AI/ML ontwikkelaar verwachten?

Hoe kan men de relatie tussen een ontwikkelaar van machine learning (‘ML’) of artificial intelligence (‘AI’) modellen en zijn klanten vormgeven? De klant heeft in deze casus eigen data(set) en een specifieke vraag die ze graag beantwoord wil zien worden. De ontwikkelaar wil de vraag beantwoorden en hier ook een vergoeding voor vragen. Hoe kunnen ze hun samenwerking regelen? In dit blog zet ik drie mogelijke relatievormen uiteen die bij verschillende doelen van klant en ontwikkelaar passen.

In dit artikel wordt met model een gekozen machine learning model met genoeg instellingen om getraind te worden bedoeld, en met AI-systeem een getraind model wat gebruikt kan worden.

1. AI-systeem als een Dienst

De klant komt bij de ontwikkelaar en levert daar haar data aan en de vraag die ze beantwoord wil zien worden. De ontwikkelaar gaat aan het werk. Hij schoont de data op, verduidelijkt de vraagstelling en kiest vervolgens een model. Met dit model en de voorbereidende stappen kan hij met meer data in de toekomst nieuwe AI-systemen trainen. De ontwikkelaar heeft nu een AI-systeem wat op basis van nieuwe data een voorspelling kan gaan doen. Dit AI-systeem zet de ontwikkelaar op een server waardoor de klant via een website of een API nieuwe data kan sturen en de resultaten krijgt.

In dit geval heeft de klant dus alleen een dienst gekocht en heeft de ontwikkelaar in ieder geval een kopie van de data(set). De klant hoeft zich geen zorgen te maken over de systemen of de techniek aangezien dit allemaal onder de hoede van de ontwikkelaar valt. Verder is het voordelig voor de ontwikkelaar dat hij zijn AI-systeem alleen hoeft uit te leggen en niet in zijn geheel over hoeft te dragen waardoor er minder vragen omtrent auteursrecht/intellectueel eigendomsrecht ontstaan.

Kenmerken voor de klant

• Abonnement op model
• Toegang tot AI-systeem
• Geen beheerderszorgen

2. AI-systeem als Software

De klant komt bij de ontwikkelaar op dezelfde manier als hiervoor. De klant heeft echter een extra eis. Ze wil het AI-systeem zelf kunnen inspecteren en op haar eigen servers zetten. De redenen om het AI-systeem te willen inspecteren kan voortkomen uit een wettelijke verplichting of een ethische vereiste met betrekking tot de verantwoording van de resultaten van het AI-systeem. Hierdoor verliest de ontwikkelaar de inkomsten van het aanbieden van de service van optie 1. De ontwikkelaar heeft hier nog steeds toegang nodig tot de data en zal ook de voorbewerking daarvan waarschijnlijk doen. Hierna kiest hij weer een model en daarmee kan hij met de data een AI-systeem trainen. Nu zal hij echter dit AI-systeem aan de klant moeten geven onder een soort licentie. De klant kan dan zelf dat AI-systeem gebruiken voor voorspellingen en ook de analyse en uitleg van het AI-systeem doen, waardoor er voor de ontwikkelaar minder latere risico’s aan kleven.

Kenmerken voor de klant

• Training als dienst
• Licentie op AI-systeem
• Eigen beheer

3. Detachering

Als meest extreme geval kan het ook zo zijn dat de klant wel de expertise van de ontwikkelaar wil, maar dat ze controle over haar data wil houden. In dit geval zal de ontwikkelaar fysiek of digitaal naar de klant moeten gaan. Daar gaat de ontwikkelaar bij de klant het ontwikkelingsproces doorlopen en dan zal de klant dus zowel controle over de data(set), het model als het AI-systeem houden. Hierbij zal de klant nog meer van de verantwoordelijkheid (en aansprakelijkheid) voor het AI-systeem moeten dragen. Wel weet de klant zeker dat zij de volledige controle heeft en dit kan in bepaalde sectoren van groot belang zijn.

Kenmerken voor de klant

• Toegang tot expertise
• Controle over data, model en AI-systeem
• Volledig eigen beheer

Conclusie

De partijen zullen samen moeten overleggen over welke inrichting het handigst is voor hen en hoe zaken als toegang tot data geregeld wordt. Verder moet de ontwikkelaar erop bedacht zijn dat zelfs als hij de ruwe data van de klant schoonmaakt, indexeert, ordent en vervolgens bewerkt om de data klaar te maken voor het trainen van het model, hij deze data niet zomaar voor andere projecten mag gebruiken. Er is een goede kans dat de klant namelijk een databankrecht op deze bewerkte data heeft.

Tips voor opdrachtgevers

• Bepaal hoeveel toegang je nodig hebt tot het AI-systeem voor bijvoorbeeld wettelijke vereisten van het uitleggen van de analyses
• Bedenk hoeveel verantwoordelijkheid je zelf wil dragen als organisatie
• Bepaal of je eenmalig een AI-systeem wil of dat je steeds met nieuwe data(sets) het AI-systeem wil upgraden
• Ga na of je voldoende waarborgen hebt gekregen om ethisch verantwoord met het AI-systeem te kunnen werken

Tips voor ontwikkelaars

• Bespreek met de opdrachtgever hoe die het AI-systeem willen gebruiken
• Bepaal de verdeling van verantwoordelijkheden met de opdrachtgever
• Bedenk welke diensten je aan wil bieden aan de klant, van expertise tot volledige hosting of er tussenin
• Voor de auteursrechtelijke bescherming van je AI-systemen en modellen is het van belang of er persoonlijke keuzes zijn gemaakt en het model voldoende complex is. Het model wat je hebt gekozen moet dan dus niet de enige zijn die aan de technische eisen van het probleem voldoet.

Dit artikel is geschreven door Robin Verhoef en Jos van der Wijst en al eerder verschenen op BG.legal.