In een rechtsstaat moet de macht gecontroleerd kunnen worden en moeten burgers toegang hebben tot de rechter. Maar daarvoor is het ook nodig dat burgers weten wát er gecontroleerd moet worden en waaróm ze zich niet kunnen vinden in bijvoorbeeld een besluit van de overheid. Daarvoor is inhoudelijke transparantie en controleerbaarheid nodig. Ook wanneer er gebruik wordt gemaakt van kunstmatige intelligentie.

U wordt vervolgd, maar we vertellen niet waarom

‘Nee,’ zei de man bij het raam, gooide het boek op een tafeltje en stond op. ‘U mag niet weggaan, u bent immers gevangengenomen.’ ‘Daar lijkt het wel op,’ zei K. ‘En waarom dan wel?’ vroeg hij vervolgens. ‘Wij hebben niet de opdracht u dat te vertellen. Gaat u maar in uw kamer wachten. De procedure is nu eenmaal begonnen en u zult alles te bestemder tijd te horen krijgen.’

Hier begint het boek ‘Het Proces’ van Franz Kafka mee waarin Jozef K. geconfronteerd wordt met een vreemde en ellendige procesgang. Hij moet zich verweren, maar weet niet waar hij van verdacht wordt. Dus is hij genoodzaakt heel zijn leven onder de loep te nemen en een verweerschrift te schrijven waar alles in staat dat mogelijk relevant zou kunnen zijn. Hij krijgt te maken met een verwarende wereld van een ondoorzichtbare overheid waar niet mee te praten valt, waar geen informatie uit te krijgen is.

Ruim een eeuw geleden beschreef Kafka in dit boek een schrikbeeld waar geen overheid zich in wil herkennen. We noemen dit genre surrealistisch. Paranoïde fictie. Toch doet het denken aan de zwartgelakte dossiersLees hier meer over de zwartgelakte dossiers van de Belastingdienst. Waarmee “inzage” gegeven werd aan gedupeerde ouders die wilden weten waar de besluiten, die hun leven zo ingrijpend geraakt haddenLees hier wat we daar eerder over schreven, op waren gebasseerd.

Rechtsbescherming begint bij transparantie

Beslissingen die iemands leven beïnvloeden moeten transparant, uitlegbaar en controleerbaar zijn. Mensen die erdoor geraakt worden moeten in staat gesteld worden om een beslissing inhoudelijk aan te vechten. Zonder inhoudelijke kennis over de totstandkoming van een beslissing, is het immers niet mogelijk om je te verdedigen, of argumenten aan te dragen waarom er een andere beslissing genomen had moeten worden. Het is een vanzelfsprekendheid, die ook verankerd is in ons Bestuursrecht (art. 3:46 Awb e.v.Zie de Algemene wet bestuursrecht). En terecht, want zonder dat inzicht is effectieve rechtsbescherming niet mogelijk.

Maar als het om (deels) geautomatiseerde beslissingen gaat, blijkt het helemaal niet zo vanzelfsprekend te zijn dat die beslissingen uitlegbaar moeten zijn. Dan leggen mensen zich opeens neer bij het feit dat technologiën, zoals kunstmatige intelligentie, nu eenmaal niet zo transparant zijn. En daarmee wordt de lat voor rechtsbescherming wel erg laag gelegd. Wat ons betreft zijn er twee dingen mogelijk: of ontwikkelaars worden uitgedaagd om kunstmatige intelligentie toepassingen zo te ontwikkelen dat ze alsnog uitlegbaar en controleerbaar zijn, of het wordt niet gebruikt bij het maken van beslissingen die mensen raken.

De lat moet hoger

Wij zetten ons inLees hier hoe we dat doen voor Europese wetgeving waarin mensenrechten worden beschermd, onder andere door het recht op transparantie, uitlegbaarheid en controleerbaarheid af te dwingen. Ook willen we effectieve rechtsbescherming als mensen het niet eens zijn met een (deels) geautomatiseerde beslissing.