Hoe valideer je een AI model?

Hoe valideer je een model? Hoe kan er worden bewezen dat een model betrouwbaar is en de juiste beslissingen maakt?

Het is belangrijk om aan te tonen dat het model de juiste beslissingen maakt. Om dit te bewerkstelligen, kan er gekeken worden naar het aantal keren dat het model de verkeerde optie kiest (nauwkeurigheid) of hoe groot de gemiddelde afwijking van de echte waarde is (foutmarge). In sommige gevallen is het niet herkennen van een ziekte kwalijker dan de aanwezigheid van een positieve uitslag zonder dat de patiënt ziek is. Wanneer een vals negatieve uitslag twee keer zo erg is, dan kun je die in de score van een model dubbel mee laten tellen. Al deze methodes zijn te kwantificeren en kunnen bij de ontwikkeling goed bepaald worden.

Per toepassingsgebied zal de tolerantie voor fouten en de omvang van de foutmarges verschillen. Om een nuttige kwantificatie te bepalen is het belangrijk dat de mensen die het model gaan gebruiken, worden betrokken bij het gehele proces. Op deze manier kunnen zij aangeven wat er van het model wordt verwacht.