Kamerbrief over motie transparantie algoritmes

10-10-2018

Minister Dekker voor Rechtsbescherming heeft de Tweede Kamer door middel van een Kamerbrief geïnformeerd over de uitvoering van de motie over transparantie van algoritmes in gebruik bij de overheid. De motie werd begin juni ingediend door Kamerlid Verhoeven (D66).

Door middel van de motie werd de regering verzocht “bij algoritmen en analysemethoden die om zwaarwegende redenen niet openbaar gemaakt kunnen worden een technische audit uit te voeren om te controleren of de algoritmen en analysemethodes niet onbedoeld discrimineren of andere negatieve effecten hebben die al dan niet wet- en regelgeving schenden en het resultaat van die audit openbaar te maken.” In de Kamerbrief schept de minister een beeld van de typen algoritmes en het gebruik daarvan in de praktijk, wat onder transparantie van algoritmes kan worden verstaan, welke verplichtingen op dit punt uit de huidige wet- en regelgeving voortvloeien en welke overige aspecten met betrekking tot transparantie van algoritmes in het achterhoofd moeten worden gehouden.

De minister onderschrijft verder het uitgangspunt van de motie: algoritmes die door de overheid worden gebruikt, moeten zo transparant mogelijk zijn. “Met het oog op transparantie van algoritmes is van belang dat uitlegbaarheid van het algoritme, dat wil zeggen de verklaring daarvan in begrijpelijke taal, de voorkeur kan hebben boven “technische” transparantie waarbij de gebruikte broncode en analysemethoden en de gebruikte databestanden volledig openbaar worden gemaakt. Andere aspecten die bij het transparant maken van algoritmes dienen te worden meegewogen, zijn onder meer de vraag waarop de behoefte aan transparantie precies berust. Als het vooral om inzicht in de eerlijkheid (het niet-discriminerende effect) van het algoritme gaat, kan transparantie van de trainingsdata en de variabelen daar aan bijdragen. Er dienen echter ook aspecten te worden meegewogen die mogelijk tot de conclusie leiden dat de transparantie van een algoritme beperkt moet blijven, bijvoorbeeld om de mogelijkheden voor burgers te beperken om de uitkomsten van het algoritme ongewenst te beïnvloeden. Hoe de weging tussen de in de brief genoemde aspecten uitpakt, hangt sterk af van de context waarbinnen deze moet plaatsvinden en zal daarom per geval verschillen.”

Een tweetal werkgroepen stellen op dit moment richtlijnen op voor het inzichtelijk maken van algoritmes die de overheid gebruik voor toezichthouders en de rechtspraak, respectievelijk voor publieksvoorlichting over Big Data analyses door de overheid. Ook is een werkgroep bezig met een onderzoek naar mogelijke wettelijke kwaliteitswaarborgen rond het gebruik van Big Data door de overheid. Minister Dekker verwacht de Tweede Kamer hier begin 2019 nader te informeren en een oordeel over de motie te kunnen stellen.

Klik hier om de Kamerbrief van minister Dekker te lezen.

Nieuwsbrief

Blijf op de hoogte van het laatste nieuws over privacy, cybersecurity en data. Abonneer op onze gratis nieuwsbrief.

Abonneer