Jurist Reijer Passchier over het recht, Big Tech en Big Brother
Is de Toeslagenaffaire een voorbode van de toekomst en wordt het leven van burgers straks volledig bepaald door algoritmen? Universitair docent staatsrecht Reijer Passchier waarschuwt dat de oprukkende digitalisering de uitvoerende overheid nog meer macht geeft, zodat het parlement en de rechtspraak het nakijken hebben
In uw boek ‘Artificiële intelligentie en de rechtsstaat’ concludeert u dat digitalisering een bedreiging vormt voor de democratische rechtsstaat. Hoezo?
'Omdat onze huidige constitutie, ons stelsel van checks & balances, niet is opgewassen tegen digitalisering en AI. Zo profiteert op dit moment vooral de uitvoerende macht van digitale technologie. Die kan efficiënter werken en krijgt meer macht, bijvoorbeeld dankzij Artificiële Intelligentie. AI wordt binnen de publieke sector al op heel veel plekken ingezet: om fraude op te sporen, om het risico van schooluitval te bepalen, om de betrouwbaarheid van WOZ-waardes te schatten, en ga zo maar door. De rechterlijke macht en het parlement blijven daarbij achter: zij gebruiken zelf nauwelijks AI en missen de kennis en het vermogen om het digitaliserende overheidsbestuur effectief te controleren. De reeds bestaande disbalans binnen de trias politica wordt daardoor alleen maar groter.'
'Tweede Kamerleden moeten de ministeries, met hun duizenden ambtenaren, ingehuurde consultants en enorme budget, controleren met de hulp van hooguit twee medewerkers.' - Reijer Passchier
Op welke manier is die scheefgegroeid?
'Eerst door de opkomst van de verzorgingsstaat, en na 9/11 ook doordat de overheid op steeds meer terreinen veiligheid wil garanderen. Dat heeft geleid tot steeds meer bevoegdheden voor overheidsinstanties, met een grote impact op burgers. Tweede Kamerleden moeten intussen de ministeries, met hun duizenden ambtenaren, ingehuurde consultants en enorme budget, controleren met de hulp van hooguit twee medewerkers.'
Is dat ook wat er misging bij de Toeslagenaffaire?
'Die heeft meerdere oorzaken, maar de inzet van algoritmen door de Belastingdienst voor het opsporen van fraude speelt zeker mee. Het parlement kreeg mede daardoor zeer laat door wat er nou eigenlijk precies gebeurde, en dat geldt ook voor de rechters.'
Maar inmiddels zijn politici toch wel wakker geschud?
'Min of meer. Zo is er nu een speciale Tweede Kamercommissie voor Digitale Zaken. Toch valt de daadwerkelijke kennis van politici nog tegen. Je kunt zo'n probleem bovendien niet monodisciplinair aanpakken. In de Tweede Kamer mag de woordvoerder digitalisering niets zeggen over bijvoorbeeld sociale zaken of gezondheidszorg, maar het punt is dat die technologische component verweven is met alle beleidsterreinen. Je zult dus multidisciplinair moeten samenwerken.'
Daarnaast maakt u zich zorgen over de groeiende macht van Big Tech
'Ja, want we zien dat bedrijven als Meta (voorheen Facebook) en Google burgers ook steeds meer regels kunnen opleggen. Je kunt tegenwerpen: dan ga je toch naar een ander bedrijf? Maar in de praktijk hebben veel burgers die diensten nodig om te kunnen functioneren, ook in hun werk. Als een soort private ministaten kunnen techreuzen hun macht gebruiken, naar eigen goeddunken, om zichzelf en hun aandeelhouders te verrijken.'
Waar denkt u nog meer aan om de balans te herstellen?
'Bijvoorbeeld aan een speciaal bureau voor Technology Assessment, zoals ze dat in Duitsland hebben: experts die de Kamerleden ondersteunen bij hun controlerende en medewetgevende taak, door in te schatten wat voor impact nieuwe technologie, en wetgeving daarover, zal hebben op de samenleving. In hun eentje kunnen parlementariërs relatief weinig beginnen.'
Het volledige interview is te lezen in Leidraad het magazine voor alumni van de Universiteit Leiden. Lees in het magazine ook vijf voordelen van ICT-hulpmiddelen in het onderwijs en welke leerstrategie masterstudent Journalistiek Vera Brouwer gebruikt.
Tekst: Peter Wierenga
Beeld: istock, Taco van der Eb