Toezichthouder voor algoritmen?
In het nieuwe regeerakkoord staat het volgende voornemen: "We regelen wettelijk dat algoritmes worden gecontroleerd op transparantie, discriminatie en willekeur. Een algoritmetoezichthouder bewaakt dit." Een extra toezichthouder erbij dus. Misschien is dat een goed idee, de Autoriteit Persoonsgegevens lijkt niet genoeg mankracht te hebben voor haar huidige taken, laat staan een extra pakket erbij. Op dit moment zijn er verschillende instanties die zich bezighouden met het toezicht op algoritmes. Een kort overzicht:
- Autoriteit Persoonsgegevens: Toezicht op algoritmes
- Inspectieraad: Algoritmen en Artificiële Intelligentie: hoe houd je daar toezicht op?
- Algemene Rekenkamer: Toetsingskader Algoritmes
- Autoriteit Financiële Markten: AFM deelt bevindingen en verwachtingen rondom beheersing en controle van handelsalgoritmes
- Autoriteit Consument en Markt: ACM onderzoekt werking van algoritmes in de praktijk
Al deze instanties hebben een andere taak, de een kijkt naar gegevensbescherming, een ander naar de betrouwbaarheid van de overheid en een derde naar het effect op de markt. Echter moeten ze hiervoor allemaal tot op een bepaalde hoogte weten wat het algoritme doet en hoe. Dit is waar een gespecialiseerde toezichthouder kan helpen. Deze zou zich dan focussen niet op specifieke toepassingen maar juist op hoe de algoritmes werken. Dan kan er in samenwerking met de bestaande toezichthouders gekeken worden of de manier waarop de algoritmes werken ook overeenstemt met de regels van de desbetreffende toezichthouder. Kortom, een algoritmetoezichthouder klinkt als een goede moderne toevoeging. De afkorting wordt nog wel een probleem, want AA is helaas al bezet, maar daar wordt vast iets voor bedacht.
Hoe controleer je?
De toezichthouder zou een algoritme moeten controleren op transparantie, discriminatie en willekeur. Hoe controleer je dat? Hoe stel je vast of er een bias zit in een algoritme? Niet alleen door een toezichthouder, maar ook door een gebruiker van een algoritme of een partij die als opdrachtgever een data science bedrijf een algoritme laat maken. Voor de praktijk zou het handig zijn wanneer hier toolkits voor ontwikkeld worden. Zoals de starterskit Eerlijke Algoritmes voor gemeenten.
