AI volgens de Europese Commissie - concept AI verordening

AI volgens de Europese Commissie

De Europese Commissie heeft op 21 april 2021 haar voorstel voor de Artificial Intelligence Act (AIA) gepresenteerd aan de wereld, nadat er een kladversie was gelekt. Deze verordening kan worden gezien als de AI-versie van de AVG. Waar de AVG zich op bescherming van persoonsgegevens richt, focust de AIA zich op het gebruik van artificial intelligence. De eerste vraag is dan: wat valt er onder AI in de zin van de AIA? In artikel 3 van de AIA worden de definities uit de verordening uiteen gezet.

In dit artikel worden de hoofdeisen uit art. 3 lid 1 AIA voor een AI-systeem uiteengezet op basis van de technische en functionele eisen.

Technische eis

De eerste eis voor een AI-systeem ex art. 3 lid 1 AIA is dat een AI-systeem wordt ontwikkeld met behulp van technieken en methodes uit Annex I AIA. In deze Annex worden vervolgens, in drie punten, de technieken en methodes beschreven die onder deze verordening vallen. De drie categorieën zijn als volgt:

1. Machine learning in de vorm van supervised, unsupervised, deep en reinforcement learning en de methodes die daarvoor nodig zijn. Een voorbeeld hiervan is de schaakcomputer van Google, AlphaZero.
2. Logica en kennis gebaseerde methodes zoals andere expert systems, inductive programming, knowledge representation en systemen die redeneren via inferentie, deductie of symbolische redenatie. Een voorbeeld van deze categorie is het medische diagnosesysteem MYCIN.
3. Statistische methodes en operations research technieken zoals optimalisatie methodes. Bij deze methodes kan je denken aan het inplannen van bezorgnetwerken.

Samenvattend betekent dit concreet dat, wanneer software niet expliciet geprogrammeerd is, er al snel sprake is van AI. Iedere vorm van leren van data valt namelijk in ieder geval onder categorie 1. Systemen die niet leren maar data combineren, vallen onder categorie 2. Als laatste zijn er nog methodes die zoeken naar optimale oplossingen op basis van vaste formules. Deze vallen allemaal onder categorie 3.

Functionele eis

Als een systeem ontwikkeld is met methodes die onder Annex I vallen, dan wordt de tweede eis van belang. Een AI-systeem moet namelijk aan de volgende functionele eisen voldoen. Een AI-systeem moet:

1. Op basis van door mensen gedefinieerde doelen,
2. Output genereren zoals
   1. content,
   2. voorspellingen,
   3. aanbevelingen of
   4. beslissingen die de omgeving van het systeem beïnvloeden.

Wat het AI-systeem produceert is dus van belang. De reden waarom of waarvoor is niet belangrijk voor de functionele eis. Deze inhoudelijke redenen worden pas meegenomen bij het beoordelen onder welke risicocategorie een AI-systeem valt, is er sprake van een verboden toepassing, een hoog-risico toepassing of een toepassing waarvoor er transparantieverplichtingen zijn?.

Conclusie

Om te bepalen of bepaalde software straks als een AI-systeem moet worden behandeld, moet er worden gekeken of is voldaan aan de technische en functionele eis. Als de software wordt verkocht met de belofte dat deze intelligent is of dat er AI in zit, dan zal de software zeer waarschijnlijk behandeld moeten worden als een AI-systeem. Ook iedere vorm van machine learning in uw software zal betekenen dat deze software onder het begrip van een AI-systeem valt.

Mocht u nog vragen hebben over AI-systemen en advies willen over de gevolgen van de kwalificatie van uw software als AI-systeem, dan kunt u contact met ons opnemen.