Hoeveel detail bij de uitleg van een model?

Hoeveel inzage en nauwkeurigheid moet er worden gegeven bij de uitleg van een model?

De Autoriteit Persoonsgegevens heeft in haar focus voor de komende jaren aangegeven dat ze aan dit aspect van de AVG meer aandacht wil geven. De uitleg van algoritmes is een concretisering van het kernbeginsel transparantie. Een paar eerste duidingen die ze geeft over de uitleg van geautomatiseerde besluiten. Een betrokkene mag verwachten dat er uitleg is over:

• Het proces (waar de data vandaan komt en hoe deze wordt verwerkt),
• De belangrijkste elementen van het algoritme (wat is het type van het algoritme en hoe werkt het trainen daarvan) en
• Hoe het proces en het algoritme resulteren in de uitkomst. Hierbij moeten de mogelijke uitkomsten en de effecten van de uitkomsten op de betrokkene ook mee worden genomen.

Een mens zal dus bij geautomatiseerde besluiten een beargumenteerde uitleg van het proces moeten kunnen geven en zelfs daarna ook nog een eigen beoordeling omdat de betrokkene het recht heeft op menselijke tussenkomst. Hiermee kunnen betrokkenen hun recht op transparantie van verwerking afdwingen.