De razendsnelle ontwikkeling van nieuwe technologieën leidt tot ingrijpende maatschappelijke veranderingen en beïnvloedt de wijze waarop de overheid functioneert. Tegen de achtergrond van deze constatering verscheen onlangs het ‘Ongevraagd advies over de effecten van digitalisering voor de rechtsstatelijke verhoudingen’ van de Afdeling advisering van de Raad van State. Daarin gaat de Afdeling advisering in op de gevolgen van digitalisering voor een drietal overheidstaken: 1. besluitvorming; 2. digitale dienstverlening aan de burger, en 3. wetgeving.
Auteurs: coauteur: Sandra van Heukelom-Verhage, Max Vetzo
De ontwikkeling van technologieën als Big Data, Machine Learning, robotica en Augmented Reality laat geen maatschappelijk domein onaangetast en grijpt diep in op de overheid. In de woorden van de Afdeling advisering is digitalisering ‘tot in de haarvaten van de overheid doorgedrongen.’ De Afdeling Advisering stelt dat digitalisering bij de overheid vooral wordt gedreven door het streven naar doelmatigheid en kostenbeheersing, terwijl de nadelige gevolgen van een ‘iOverheid’ bij burgers en bedrijven dreigen te worden gelegd. Dit heeft gevolgen voor de rechtsbescherming van burgers. Vanuit dit ‘burgerperspectief’ benadert de Afdeling advisering enkele belangrijke knelpunten die ontstaan als gevolg van digitalisering.
Onder de noemer ‘digitale besluitvorming’ bespreekt de Afdeling advisering een drietal situaties: geautomatiseerde besluitvorming, zelflerende besluitvorming met behulp van big data en ketenbesluitvorming. Deze vormen van (automatische) digitale besluitvorming worden gekenmerkt door de centrale rol van algoritmen, de koppeling van grote hoeveelheden data en verminderde menselijke betrokkenheid. Al deze kenmerken brengen bepaalde risico’s met zich mee. Zo kan de ondoorzichtigheid van algoritmen er bijvoorbeeld toe leiden dat niet meer duidelijk is op welke gronden een besluit is genomen. Een voorbeeld is de toepassing van het Big Data-systeem AERIUS dat gebruikt wordt bij vergunningsaanvragen voor projecten die stikstofdepositie veroorzaken. De Afdeling Bestuursrechtspraak oordeelde in 2017 dat het onduidelijk was hoe AERIUS tot haar berekeningen kwam. Daarmee was het voor belanghebbenden niet mogelijk te toetsen hoe een op AERIUS gebaseerd besluit tot stand is gekomen. Ook andere problemen doemen op, zoals discriminatie bij het analyseren van grote dataverzamelingen en het baseren van besluiten op correlaties (statistische verbanden) die afwijken van de realiteit. Om deze problemen tegen te gaan wijst de Afdeling advisering op de compenserende werking van de algemene beginselen van behoorlijk bestuur. In het bijzonder het motiveringsbeginsel en het zorgvuldigheidsbeginsel moeten in de context van digitalisering ‘verscherpt’ worden geïnterpreteerd. Dit betekent dat concreet moet worden toegelicht op welke algoritmen een besluit is gebaseerd en welke gegevens daarbij een rol spelen. In het kader van het zorgvuldigheidsbeginsel moet het bestuursorgaan ruimhartig rekening houden met de feiten en omstandigheden en op grond daarvan af kunnen wijken van de uitkomst van geautomatiseerde besluitvorming.
Van burgers wordt steeds meer verwacht dat zij langs digitale weg contact met de overheid kunnen onderhouden. Dat vereist dat zij hun weg kunnen vinden binnen de honderden overheidsinstellingen die gebruikmaken van digitale dienstverlening. Zelfredzaamheid is daarbij van groot belang. Burgers die verminderd zelfredzaam zijn, kunnen minder goed meekomen in de overgang naar digitale dienstverlening. Ook ten aanzien van deze ontwikkeling vestigt de Afdeling advisering haar vertrouwen in een – ditmaal nieuw te ontwikkelen – beginsel van behoorlijk bestuur: het recht op toegang tot en zinvol contact met de overheid. Onder dit beginsel moeten burgers inhoudelijk te woord worden gestaan, waarbij het contact kan leiden tot het bijstellen van voornemens of handelingen. In aanvulling daarop moet werk worden gemaakt van de effectieve uitvoering van de AVG, onder meer door bestuursorganen te ondersteunen bij het operationaliseren van de daarin neergelegde rechten. In het bijzonder wordt daarbij gedoeld op het recht op inzage en correctie van gegevens.
Ook de wetgever wordt geconfronteerd met diverse vraagstukken als gevolg van digitalisering. In de omgang met die vraagstukken moet de wetgever streven naar eenheid van wetgeving. Niet langer kan ad hoc worden gereageerd op de technologische vragen die zich voordoen in tijden van digitalisering. ICT-aspecten van een wet moet vanaf het begin onderdeel zijn van het multidisciplinair voorbereiden van wet- en regelgeving. Het wetgevingsproces moet hierop worden ingericht. Daarnaast doen zich problemen voor bij het ‘techniekonafhankelijk’ formuleren van wetgeving. Dit leidt tot een toenemend abstractieniveau van wettelijke bepalingen en een verdere terugtred van de wetgever, doordat materiële normstelling wordt gedelegeerd naar de lagere regelgever. Deze tendens resulteert in gebrekkige rechtszekerheid en de aantasting van de democratische legitimiteit van wetgeving.
De Afdeling advisering wijst derhalve met klem op de invloed van digitalisering op rechtsstatelijke verhoudingen. Daarin staat de Afdeling advisering uiteraard niet alleen. Al eerder is gewezen op de rechtsstatelijk problematische aspecten van de digitale transformatie (zie bijvoorbeeld het onderzoek ‘Algoritmes en grondrechten‘ van de Universiteit Utrecht en het rapport ‘Opwaarderen‘ van het Rathenau Instituut). De Afdeling advisering volgt bovendien het voorbeeld van de Afdeling Bestuursrechtspraak. In de hierboven aangehaalde AERIUS-uitspraak stelt de Afdeling Bestuursrechtspraak eisen aan de motivering van een ‘algoritmisch’ besluit in het licht van het recht op equality of arms. In een recente uitspraak over de Blankenburgtunnel verfijnde de Afdeling Bestuursrechtspraak deze norm. Zie over deze twee uitspraken onder meer ons blog ‘Verfijnde uitspraak’.
Het advies van de Afdeling advisering past daarmee in een tendens waarin met grote precisie naar de juridische implicaties van digitalisering wordt gekeken. In dat kader geeft de Afdeling aan het einde van haar advies de volgende belangrijke boodschap mee:
“Digitalisering van de samenleving zal verder gaan; dat is niet alleen onvermijdelijk maar schept onder de goede voorwaarden ook kansen.”
Samengevat tracht de Afdeling advisering in haar advies bij te dragen aan het formuleren van deze ‘goede voorwaarden’ door middel van de volgende aanbevelingen:
In de context van gedigitaliseerde besluitvorming moeten de algemene beginselen van behoorlijk bestuur, in het bijzonder het motiveringsbeginsel en het zorgvuldigheidsbeginsel, ‘verscherpt’ worden geïnterpreteerd. Inzicht in de gebruikte data en algoritmen, alsmede menselijke heroverweging van automatische besluiten spelen daarbij een belangrijke rol.
Om digitale publieke dienstverlening te verbeteren moet het recht op toegang tot en zinvol contact met de overheid nader worden ontwikkeld als een nieuw beginsel van behoorlijk bestuur. Daarnaast moeten bestuursorganen actief worden ondersteund bij het operationaliseren van de AVG, in het bijzonder bij het verwezenlijken van het recht op inzage en correctie van gegevens.
Om knelpunten door digitalisering bij wetgeving te voorkomen moet ICT vanaf het begin onderdeel zijn van het wetgevingsproces. Bovendien moet de wetgever terughoudend omspringen met het techniekonafhankelijk formuleren van wetgeving.
Een tijdige analyse van de juridische aspecten van digitalisering bij het voorbereiden van wetgeving en het nemen van besluiten kan voorkomen dat de problemen die de Afdeling advisering aanstipt, zich manifesteren. Zo worden de kansen van digitalisering volop benut, en tegelijkertijd rechtsstatelijke knelpunten voorkomen.
Dit artikel is ook te vinden in het dossier Digitale transformatie
Meer artikelen van Pels Rijcken
