A.I. en politieke besluitvorming: staatsrechtelijk onderzoek
Hoofdconclusie
In Nederland zijn tot en met 31 juli 2026 geen drie openbaar gedocumenteerde gevallen te vinden waarin A.I. aantoonbaar een formeel besluit van de Staten-Generaal, ministerraad of regering heeft bepaald.
Wat wél overtuigend is aangetoond, is de invloed van zelflerende of algoritmische risicomodellen op de uitvoering van overheidsbeleid: wie werd gecontroleerd, onderzocht, beboet of geconfronteerd met een terugvordering. Deze besluiten vallen rechtstreeks of indirect onder ministeriële verantwoordelijkheid.
Dat onderscheid is essentieel:
- Een politiek besluit in enge zin is bijvoorbeeld een wet, motie, kabinetsbesluit of beleidswijziging.
- Een overheidsbesluit in brede zin omvat ook beschikkingen over toeslagen, studiefinanciering en uitkeringen.
- Niet ieder algoritme is A.I. De Algemene Rekenkamer beschouwt systemen die van data leren als A.I., maar eenvoudige, vooraf geprogrammeerde beslisregels niet. In politieke discussies worden beide categorieën vaak ten onrechte door elkaar gebruikt. De Rekenkamer inventariseerde in 2024 433 gemelde A.I.-systemen, waarvan 120 daadwerkelijk in gebruik waren.
Voor “aantoonbare invloed” hanteer ik vier voorwaarden: het systeem was werkelijk in gebruik, de output is te koppelen aan een vervolghandeling, die vervolghandeling had bestuurlijke gevolgen en de keten is bevestigd door een rechter, toezichthouder, parlementair onderzoek of officiële overheidsrapportage.
Drie gevallen waarin invloed is aangetoond
1. Toeslagen: aantoonbare invloed op selectie
Het Risicoclassificatiemodel van Dienst Toeslagen kreeg duizenden eerder handmatig behandelde aanvragen als trainingsmateriaal. Het model zocht statistische verbanden en berekende vervolgens een risicoscore. Die score bepaalde welke aanvragen intensief werden gecontroleerd.
De Autoriteit Persoonsgegevens stelde vast dat het gebruik van nationaliteit onrechtmatig en discriminerend was. De parlementaire enquêtecommissie Fraudebeleid en Dienstverlening concludeerde later dat het model ongelijke behandeling en stigmatisering veroorzaakte. Daarmee is de invloed op de selectie bewezen. Een onderzoek uit 2024 vond overigens geen aanwijzingen dat de daaropvolgende handmatige behandeling gemiddeld harder was dan bij andere toezichtacties.
De juiste conclusie is dus niet dat “A.I. automatisch de toeslagen afpakte”, maar dat het model mede bepaalde welke burgers aan intensief toezicht en daarmee aan een verhoogd beslisrisico werden blootgesteld.
2. DUO: van risicoselectie naar onrechtmatige besluiten
DUO gebruikte criteria zoals leeftijd, afstand tussen woonadres en ouderlijk huis en opleidingsniveau. Die ogenschijnlijk neutrale criteria hadden een discriminerend effect. De Autoriteit Persoonsgegevens kwalificeerde de werkwijze als discriminerend en illegaal. Zie het onderzoeksrapport van de AP.
Hier is de causale keten bijzonder duidelijk:
De regering erkende dat het bewijs niet gebruikt had mogen worden. Ruim 10.000 voormalige en huidige studenten kregen geld terug; het kabinet reserveerde €61 miljoen. De officiële kabinetsmededeling bevestigt zowel de selectie als het gebruik van het bewijs in de besluiten.
3. UWV: kwantitatief bewezen doorwerking
De risicoscan Verblijf buiten Nederland gebruikte onder meer IP-gegevens om mogelijke overtredingen van WW-regels te signaleren. Volgens de officiële beantwoording van Kamervragen leidden algoritmische signalen tot 3.600 vervolgonderzoeken. Daarvan eindigden er 460 met een boete, terugvordering of stopzetting van de uitkering.
Dit is het sterkste Nederlandse voorbeeld van aantoonbare doorwerking: er bestaan aantallen voor zowel de output, de vervolgonderzoeken als de sancties. De minister erkende bovendien dat de gegevens niet op deze wijze verzameld en gebruikt mochten worden. Zie de volledige beantwoording aan de Tweede Kamer.
UWV is een zelfstandig bestuursorgaan. De minister van SZW neemt daarom niet ieder individueel UWV-besluit, maar is wel politiek aanspreekbaar op het wettelijke stelsel, toezicht en de opdracht om risicogericht te handhaven.
Drie gevallen waarin geen bewijs voor beslissende invloed is gevonden
1. SyRI in Capelle aan den IJssel
SyRI wordt regelmatig voorgesteld als een A.I.-systeem dat automatisch burgers als fraudeur aanwees en bestrafte. In het project Capelle aan den IJssel werden inderdaad 137 personen gesignaleerd, resulterend in 41 risicoadressen. Maar volgens de staatssecretaris speelde geen enkele melding een rol in de uitgevoerde onderzoeken. De gegevens bleken bovendien gedeeltelijk onjuist gekoppeld.
Er is dus bewijs dat SyRI signalen produceerde, maar in deze casus geen bewijs dat die signalen tot onderzoek, boete of terugvordering hebben geleid. Dat is expliciet bevestigd in de beantwoording aan de Tweede Kamer.
De rechtbank verklaarde het wettelijke SyRI-kader later strijdig met artikel 8 EVRM. Dat oordeel bewijst een ontoelaatbaar privacyrisico, maar niet dat SyRI in deze concrete casus individuele sanctiebesluiten veroorzaakte.
2. De bewering dat het Toeslagenmodel zelfstandig toeslagen afwees
Hiervoor is geen bewijs gevonden. Geselecteerde aanvragen werden door medewerkers beoordeeld. Een onderzoek met vergelijkingsgroepen vond geen aanwijzing dat de handmatige behandeling na selectie door het model gemiddeld harder was dan andere toezichtcontroles.
Aangetoond is dus: invloed op selectie, ongelijke behandeling en stigmatisering. Niet aangetoond is: een autonome A.I.-beslissing of dat dit ene model zelfstandig de volledige toeslagenaffaire veroorzaakte.
3. Generatieve A.I. die een Nederlands Kamer- of kabinetsbesluit bepaalde
De overheidsmonitor uit 2025 vond 81 generatieve A.I.-toepassingen. Daarvan waren er veertien gericht op kennisvergaring en beleidsvorming en vier op ondersteuning van het democratische proces, zoals verslaglegging en het voorbereiden van antwoorden op Kamervragen.
Maar de monitor sloot individueel gebruik door ambtenaren uit, het Algoritmeregister was niet volledig en er werd geen herleidbare koppeling gepubliceerd tussen een prompt, A.I.-antwoord en een specifiek kabinetsbesluit, wetsvoorstel of ministerieel standpunt. De monitor erkent deze beperkingen uitdrukkelijk.
De invloed is daarom aannemelijk op het niveau van zoeken, samenvatten en tekstvoorbereiding, maar niet bewezen op het niveau van een concrete politieke keuze.
Ter vergelijking: in Porto Alegre in Brazilië werd wél achteraf openbaar gemaakt dat ChatGPT de volledige tekst van gemeentelijke wet 993/2023 had opgesteld. De gemeenteraad nam die tekst unaniem aan en de burgemeester bekrachtigde de wet. De gemeenteraad heeft dit zelf bevestigd. Zo’n directe en controleerbare bewijsketen is voor een Nederlands nationaal besluit niet gevonden.
Staatsrechtelijke beoordeling
A.I. kan staatsrechtelijk geen verantwoordelijkheid dragen. Artikel 81 van de Grondwet legt de formele wetgeving bij regering en Staten-Generaal. Artikel 42 bepaalt dat ministers verantwoordelijk zijn en artikel 68 verplicht hen de Kamers de noodzakelijke inlichtingen te geven. Een leverancier, ambtenaar of algoritme kan die verantwoordelijkheid niet overnemen. De grondwettelijke ministeriële verantwoordelijkheid blijft dus volledig bestaan.
Bij individuele bestuursbesluiten gelden daarnaast:
- Artikel 3:2 Awb: het bestuursorgaan moet de relevante feiten en belangen zorgvuldig onderzoeken.
- Artikel 3:4 Awb: nadelige gevolgen mogen niet onevenredig zijn.
- Artikel 3:46 Awb: het besluit moet deugdelijk worden gemotiveerd.
- Artikel 1 Grondwet: gelijke behandeling.
- Artikel 10 Grondwet en artikel 8 EVRM: bescherming van de persoonlijke levenssfeer.
- Artikel 22 AVG: bescherming tegen uitsluitend geautomatiseerde besluiten met rechtsgevolgen of vergelijkbare ingrijpende gevolgen. Het Europese Hof bepaalde in de SCHUFA-zaak dat ook een score hieronder kan vallen wanneer een beslisser daarop in sterke mate vertrouwt.
De Raad van State waarschuwt dat bij het vertalen van wetgeving naar software nieuwe normatieve keuzes kunnen worden gemaakt. Daarom zijn transparantie en parlementaire betrokkenheid nodig bij die digitale vertaling. Een wetstekst kan immers anders uitwerken zodra zij in beslisregels en risicomodellen wordt omgezet.
Eindconclusie
De aantoonbare Nederlandse invloed van A.I. bevindt zich voorlopig hoofdzakelijk niet in de vergaderzaal van de ministerraad of tijdens een Kamerstemming, maar in de selectie- en uitvoeringssystemen onder het politieke bestuur.
De drie harde bewijsgevallen laten zien dat algoritmen bepaalden wie extra werd gecontroleerd en daardoor een grotere kans liep op een belastend besluit. Voor een door A.I. bepaalde Nederlandse wet, Kamerstemming of kabinetskeuze ontbreekt daarentegen openbaar verifieerbaar bewijs.
Het grootste staatsrechtelijke gevaar is daarom niet een zichtbare “robotminister”, maar verborgen delegatie: een mens ondertekent het besluit, terwijl een nauwelijks controleerbaar systeem feitelijk de selectie, feitenbasis of voorkeursuitkomst heeft bepaald.
Reactie plaatsen
Reacties