Verwachtingen over kwaliteit van AI-systeem

Wat mag een consument van een AI model verwachten m.b.t. kwaliteit?

Bij een aankoop door een consument is het van belang dat het product dat de consument koopt, voldoet aan de eigenschappen die de consument mag verwachten. Op dit moment is dit in de wet alleen nog maar geregeld voor producten, al heeft de Hoge Raad wel aangegeven dat deze regels ook van toepassing zijn op standaardsoftware die voor onbepaalde tijd wordt gekocht. Er komt ook een wet aan die regelt dat deze regels voor alle vormen van digitale producten en diensten gelden.
De vraag is nu: wat mag je als consument verwachten als de software die je hebt gekocht onder deze bescherming valt? Dit ligt waarschijnlijk aan de garanties die de verkoper geeft en hoe de software normaal gebruikt dient te worden. Als je een auto koopt waarbij wordt medegedeeld dat de auto zelf afstand kan houden tot de voorganger, behalve als de auto aangeeft dat het zicht te slecht is, dan mag je ervan uit gaan dat de auto dit ook kan. Als dit fout gaat, dan voldoet de auto dus niet aan de eigenschappen die je mag verwachten. Voor een auto is deze verwachting nog wel duidelijk, maar bij software wordt het al lastiger. Wat als je een dienst gebruikt die het contract van jouw nieuwe baan scant om te kijken of er geen rare clausules in staan en die scanner ziet iets over het hoofd? Als de scanner gratis was, dan zal de verkoper waarschijnlijk minder risico op claims lopen, maar als je voor de scan hebt betaald, dan zullen je verwachtingen wat hoger liggen. Heeft de verkoper een garantie afgegeven over de kwaliteit, dan wordt de kans op non-conformiteit al groter.
De verwachtingen die je mag hebben, liggen dus vooral aan de mededelingen die de verkoper doet en de eigenschappen die je daar als consument aan mag ontlenen.