Gelijke behandeling door een model?

Hoe kan gelijkheid geconcretiseerd worden bij de beoordeling van een model?

Rechtmatigheid en behoorlijkheid zijn beginselen van de verwerking van persoonsgegevens volgens de AVG. Ieder model dat persoonsgegevens verwerkt zal dus ook behoorlijk en rechtmatig moeten zijn. Bij behoorlijkheid speelt onder andere de verwachtingen van de betrokkene een rol. Een redelijke verwachting van een model is dat de uitkomsten eerlijk zijn. Eerlijk is een redelijk vaag begrip, maar er zijn wettelijke normen die een concrete uitwerking van wat oneerlijk is geven. De Algemene Wet Gelijke Behandeling verbiedt discriminatie op grond van een aantal kenmerken, zoals religie, ras, geslacht en meer, die ook bijna allemaal bijzondere persoonsgegevens zijn. Als een model voor twee mensen die alleen op deze karakteristieken verschillen een andere uitkomst geeft, dan is dat model bijna zeker oneerlijk. Het is echter wel toegestaan om in hele specifieke omstandigheden bijzondere persoonsgegevens te verwerken als de data gebruikt wordt om gelijke behandeling na te streven (art. 25 UAVG).
Over het algemeen betekent gelijkheid dat mensen die in hun kwaliteiten nauwelijks van elkaar verschillen, ook niet anders behandeld moeten worden door een model. Het kan dan zijn dat een ontwikkelaar moet kijken met behulp van bijvoorbeeld data over geslacht of zijn model ook aan deze eis voldoet.