Tijdlijn en ontwikkelingen AI verordening

Een algemener overzicht van wet en regelgeving is te vinden op deze pagina.

Artikelen over de concept AI verordening

• Hoog-risico toepassingen van AI systemen
• Eisen aan hoog-risico AI systemen
• Verboden toepassingen van AI systemen
• AI volgens de Europese Commissie

Voor updates over de AI Verordening kunt u zich hier aanmelden voor onze AI nieuwsbrief.

Triloog fase

De Commissie, de Raad (namens de lidstaten) en het Parlement hebben allemaal een versie van de AI Verordening opgesteld en het Parlement heeft zelfs een mooi overzicht gemaakt met de drie versies naast elkaar. Nu zullen de drie met elkaar om tafel gaan zitten om van deze drie versies een voorstel te maken.

Kritische reacties op het voorstel

ITechLaw heeft een green paper gepubliceerd over het voorstel van de AI Verordening. In de paper worden een aantal punten van kritiek geleverd op het voorstel.

Ten eerste benadrukken de auteurs dat het voorstel geen op zichzelf staande wet is. Het voorstel leunt op de AVG en ook op eventuele toekomstige wetten over aansprakelijkheid voor AI. Dit zorgt voor een gebrek aan zekerheid voor partijen die aan de eisen van het voorstel moeten gaan voldoen.

Ten tweede is er in het voorstel gekozen voor een compliance aanpak. Een AI-systeem moet op een bepaalde manier gecontroleerd worden en aan een lijst met eisen voldoen, en dan is het goed. Dit kan ertoe leiden dat een bepaald systeem niet aan een van de eisen kan voldoen en dus niet wordt goedgekeurd, terwijl dit systeem naar praktische maatstaven wel goed werkt.

Ten derde is het nog niet duidelijk hoe burgers hun rechten op kunnen eisen en bijvoorbeeld uitleg van een beslissing kunnen krijgen. Dat kan op dit moment al wel via de AVG, maar de AI Act lijkt daar geen nieuwe mogelijkheden aan toe te voegen.

Tot slot komen de auteurs van de paper tot de conclusie dat de structuur van het voorstel te complex is. De verschillende toezichthouders en andere betrokken partijen die samen beslissingen moeten nemen en de eisen aan hoog-risico systemen kan AI-systemen te duur maken voor MKB-ers, vooral startups. Een groot deel van de eisen van het voorstel rusten ook op de individuele ontwikkelaars, wat kan leiden tot een verschil in kwaliteit van de uitvoering.

Onderhandelingen in het Europees Parlement

Terwijl er in de Raad wordt onderhandeld door de vertegenwoordigers van de regeringen van de lidstaten, gaat het Parlement zich ook buigen over het voorstel van de Commissie. De IMCO Commissie (Interne market en consumentenbescherming) en de LIBE Commissie (fundamentele vrijheden) zullen de onderhandelingen leiden. Deze verwachten in april 2022 het eerste conceptrapport gereed te hebben. Daarna is er drie weken de tijd op wijzigingen voor te stellen. De stemming over het voorstel is gepland op 29 september 2022.

De concepten van de adviezen van de volgende commissies zijn nu open voor commentaar:

• Commissie voor het Milieu, Volksgezondheid en Voedselveiligheid (10-12-2021)
• Commissie voor Cultuur en Onderwijs (21-2-2022)
• Commissie voor Juridische Zaken (2-3-2022)
• Commissie voor Industrie, Onderzoek en Energie (3-3-2022)

De Commissie voor Juridische Zaken heeft een tweede versie van haar Opinion over de AI Act gepubliceerd.

Onderhandelingen in de Raad van de Europese Unie

De Raad van de Europese Unie is in juli 2021 begonnen met onderhandelen over het voorstel van de Europese Commissie. Het voorstel wordt in stukken behandeld. In de eerste ronde zijn de artikelen 1-7 en annexen I-III besproken onder leiding van het Sloveense voorzitterschap. De tweede ronde begon in januari 2022 onder het Franse voorzitterschap. Hierin worden de artikelen 8-15 en annex IV besproken. In februari 2022 heeft de Raad vervolgens de artikelen 16 tot 29 en ook nog de artikelen 40 tot 52 behandeld. In maart waren de Regulatory Sandboxes aan de beurt, artikelnummers 53 tot 55. In april zijn vervolgens de artikelen 30-39 en 59-62 behandeld. De Fransen beginnen in mei aan de eindsprint, met de artikelen 70 tot 85, de artikelen 56-58 en 63-69 en ook nog de artikelen 3 en 4 (nog niet online beschikbaar).

De Raad heeft al haar veranderingen en toevoegingen gecombineerd in een geconsolideerde versie. Tijdens het presidentschap van de Tsjechen wordt er gesleuteld aan de definitie van High Risk systemen (link wordt later toegevoegd). High Risk systemen moeten namelijk op een van de lijsten staan van High Risk toepassingen, voldoen aan de functionele eis en vervolgens ook nog een significante impact hebben op de beslissing die ze beinvloeden. Dit is een beperking van de reikwijdte ten opzichte van de eerdere voorstellen. 

Behandeling Eerste Kamer

De Eerste Kamer heeft tijdens het einde van 2021 vragen over de Verordening ingediend bij het Kabinet en bij de Europese Commissie. Hierop heeft het Kabinet op 14 december 2021 een antwoord gegeven. De Europese Commissie kwam op 5 februari 2022 met een antwoord, waarin ze een aantal van de afwegingen die er bij het schrijven van de Verordening zijn gemaakt uitlegt.

Behandeling Kabinet en Tweede Kamer

Op 10 september 2021 heeft de vaste commissie voor Digitale Zaken van de Tweede Kamer haar vragen ingediend bij het kabinet over de Verordening betreffende Kunstmatige Intelligentie en de Mededeling Bevorderen Europese aanpak inzake Kunstmatige Intelligentie.

Op 31 mei 2021 heeft de minister van Buitenlandse Zaken de visie van het kabinet over deze twee EU voorstellen aangeboden aan de Tweede Kamer. Hierin worden de voorstellen samengevat en de vragen van het kabinet toegelicht. (Visie op de Europese aanpak, Visie op de AI verordening)

EU

April 2021 was het eindelijk zo ver, de Europese Commissie presenteerde toen een beleidsoverzicht, Fostering a European approach for AI, het voorstel voor de AI verordening en een geupdate plan voor het coordineren van de aanpak van AI.

Door 2020 heen zijn deze documenten aan een proces van publieke consultatie onderworpen en veelvoudig besproken en beoordeeld.

Rond februari 2020 werd de EU al concreter met de publicatie van de White Paper on AI: a European approach to excellence and trust en daarna in juli met de Assessment List on Trustworthy AI van de High Level Expert Group on AI. 

In april 2019 begon het proces naar de AI verordening met de publicatie van de Ethical Guidelines for Trustworthy AI door de High Level Expert Group on AI van de EU.

Via deze link kun je je aanmelden voor de nieuwsbrief AI Act.