WRR publiceert Opgave AI rapport

WRR publiceert Opgave AI rapport

De Wetenschappelijke Raad voor het Regeringsbeleid (WRR) heeft op 11 november 2021 haar adviesrapport over Artificial Intelligence (AI) uitgebracht aan de regering. Het uiteindelijke rapport is meer dan 500 pagina’s lang, maar gelukkig is er ook een samenvatting beschikbaar. Het rapport bevat veel specifieke aanbevelingen voor de regering, verdeeld in vijf opgaven, waarvan ik in dit artikel een overzicht zal geven.

Eerst echter de vraag, wat is AI? De WRR gebruikt in dit rapport de definitie van AI van de Europese High-Level Expert Group on AI: “systemen die intelligent gedrag vertonen door hun omgeving te analyseren en – met enige graad van autonomie – actie te ondernemen om specifieke doelen te bereiken.” Dit is vrij breed, maar dat past ook bij de brede toepasbaarheid van AI. Door de brede toepasbaarheid van AI stelt de WRR vast dat AI een systeemtechnologie is, net als elektriciteit, die zich niet zomaar zal laten controleren.

Demystificatie

De eerste opgave is om te bepalen waar we het over hebben als we AI zeggen. Wat kan AI wel en wat kan het niet? Het is belangrijk om de verwachtingen van AI realistisch te houden en ook duidelijk te zijn over de echte risico’s, dit noemt de WRR ‘AI-wijsheid’. Hiervoor heeft de overheid kennis nodig. Daarmee kan er ook aandacht worden besteed aan zaken als archivering en overdracht van kennis.

1. Maak leren over AI en de toepassing daarvan tot een expliciet doel bij het handelen door de overheid.

Niet alleen de overheid profiteert van een realistisch beeld van AI. Ook de samenleving is gebaat bij AI-wijsheid. De overheid kan hier een bijdrage aan leveren met algoritmeregisters waarin ze haar gebruik van AI openbaar maakt.

2. Stimuleer als overheid de ontwikkeling van AI-wijsheid bij het brede publiek, te beginnen met het opzetten van algoritmeregisters.

Contextualisering

De tweede opgave heeft te maken met hoe AI toegepast wordt of gaat worden. AI is afhankelijk van veel ondersteunende technologieën die allemaal samen moeten werken en ook samen moeten blijven werken. Doordat AI een breed onderwerp is, raadt de WRR aan dat de regering zoekt naar een specialisatie voor Nederland om zo richting te geven aan de AI-identiteit van Nederland.

3. Kies expliciet voor een Nederlandse AI-identiteit en onderzoek waar in de betreffende domeinen aanpassingen aan de technische omgeving nodig zijn.

Een AI-systeem is vaak het beste in een specifieke context. Om hier rekening mee te houden kunnen specifieke opleidingen van belang zijn, zodat de mensen die het systeem gebruiken weten wat de beperkingen ervan zijn. Naast individuele certificering beveelt de WRR ook aan dat systemen en organisaties gecertificeerd moeten kunnen worden.

4. Versterk de vaardigheden en het kritische vermogen van individuen die met ai-systemen werken en ontwikkel daarvoor een stelsel van opleiding en certificering.

Engagement (betrokkenheid)

De derde opgave gaat over betrokkenheid, wie moet er betrokken zijn bij de ontwikkeling van en discussies over AI? De WRR stelt dat op dit moment de technische specialisten de hoofdrol hebben, terwijl de maatschappij moeite heeft met inspraak krijgen. Maatschappelijke organisaties zouden meer kansen moeten krijgen om mee te doen met de gesprekken over AI. Daarmee zou hun kennis over AI ook verder uitgebreid kunnen worden.

5. Versterk de capaciteit van maatschappelijke organisaties om hun werk te verbreden naar het digitale domein, in het bijzonder met betrekking tot AI.

Om te zorgen dat de effecten van AI-systemen bijgehouden kunnen worden, is het belangrijk dat ontwikkelaars reacties en opmerkingen van gebruikers en betrokkenen te zien krijgen. Daarmee kunnen ze problemen oplossen die de ontwikkelaar zelf niet had opgemerkt. Voor overheidsinstanties wordt door de WRR zelfs een verplichte standaard aanbevolen indien een systeem beslissingen neemt met grote gevolgen voor burgers.

6. Draag zorg voor een goede terugkoppeling tussen de ontwikkelaar van AI, de gebruiker ervan en de personen die er in de praktijk de consequenties van ondervinden.

Regulering

De vierde opgave gaat over wet en regelgeving. Waar zijn er nu regels voor nodig? Op dit moment worden er al regels gemaakt die gericht zijn op AI voor specifieke toepassingen, maar als AI gebruikelijker wordt dan zullen er meer indirecte effecten ontstaan waarvoor er ook regels moeten komen. De wetgever moet ook beslissingen gaan nemen over de manier waarop AI ingezet gaat worden en moet hierbij na gaan denken over hoe ze de digitale leefomgeving ziet.

7. Koppel de regulering van AI aan een discussie over de inrichting van de digitale leefomgeving en stel een brede wetgevingsagenda op.

De overheid moet blijven letten op de maatschappelijke discussie omtrent AI. Zo ontwikkelen zich nieuwe toepassingen en mogelijkheden en veranderen afhankelijkheden. Hiervoor is onderzoek nodig maar ook toezicht door toezichthouders die kennis nodig hebben.

8. Stuur via wetgeving actief op ontwikkelingen rondom surveillance en dataverzameling, de scheve verhouding tussen publiek en privaat in het digitale domein en machtsconcentratie.

Positionering

De vierde opgave is de positie van Nederland ten opzichte van andere landen op het gebied van AI. De WRR benadrukt dat er bij een systeemtechnologie altijd sprake is van competitie tussen landen en dat de technologie in staat is om internationale conflicten te beïnvloeden. Daardoor wordt de AI-race tussen China en de VS gedreven. Als we als Nederland relevant willen blijven, moeten we internationaal samenwerken om zo te kunnen profiteren van AI en ook in staat zijn om risico’s aan te pakken.

9. Versterk het Nederlandse verdienvermogen met een AI-diplomatie die gericht is op internationale samenwerkingsverbanden, in het bijzonder binnen de EU.

De subtitel van deze opgave is ‘van natie naar netwerk.’ Hiermee wil de WRR aangeven dat landsgrenzen in een digitale wereld minder relevant zijn. De verbindingen tussen apparaten en de systemen die daarop zijn gebouwd, zijn belangrijker voor de digitale wereld en daarom moet de overheid inzicht hebben in hoe de Nederlandse infrastructuur is opgebouwd. Voor de nationale veiligheid kan dit van belang zijn omdat de overheid op basis van de inzichten kan bekijken waar er zwakke punten zitten.

10. Weet je als land ook in het AI-tijdperk te verdedigen; versterk daarom de Nederlandse capaciteiten tegen de groeiende ‘informatieoorlog’ en de export van digitale dictatuur.

Ondersteuning van de opgaven

Naast de beleidspunten adviseert de WRR de overheid om een beleidsstructuur op te bouwen. Dit zou in het begin een coördinatiecentrum voor AI kunnen zijn waarin bestuurders, toezichthouders en uitvoeringsorganisaties met elkaar kunnen overleggen en van elkaar kunnen leren. In de toekomst kan er worden gedacht over ideeën als een AI ministerie of een specifieke toezichthouder voor AI.

11. Bouw een beleidsinfrastructuur voor AI op, te beginnen met een AI-coördinatiecentrum voorzien van politieke verankering middels een ministeriële onderraad.

Conclusie

De WRR geeft de regering genoeg stof tot nadenken voor de komende tijd. De vijf opgaven van de WRR geven aan dat men met een brede blik naar AI wil kijken en dit is volgens mij ook de juiste aanpak. De vraag is welke adviezen er overgenomen gaan worden in de toekomst. Ik hoop op zo veel als mogelijk.

Dit artikel is geschreven door Robin Verhoef

Voor vragen kun je contact opnemen met Jos van der Wijst (wijst@bg.legal)

De onderstaande afbeelding is gemaakt door de Wetenschappelijke Raad voor het Regeringsbeleid