Palantir: Het huwelijk tussen Orwell en Kafka

Het dataintegratieplatform waaraan AI-modellen worden gekoppeld om risicoinschattingen te maken. De risicoscore maakt de argeloze burger schuldig tot het tegendeel is bewezen.

De Nederlandse overheid is in hoog tempo aan het digitaliseren. Op het gebied van fraude- en misdaadpreventie maakt men gebruik van samengevoegde datasets uit verschillende bronnen die oorspronkelijk niet voor misdaad- of fraudepreventie bedoeld zijn. Vervolgens wordt met behulp van computeralgoritmen bepaald of in die gecombineerde data over burgers patronen zijn te herkennen die mogelijk duiden op frauduleus of crimineel handelen door diezelfde burgers.

De brondata, zoals bijvoorbeeld bankgegevens, hebben een eigen doelbinding. De samengevoegde data heeft echter een nieuwe doelbinding, namelijk: geautomatiseerde patroonanalyse die de burger zelf verdacht kan maken. Bovendien kunnen de computermodellen een bias hebben waardoor de burger ten onrechte verdacht wordt, zoals is gebeurd in de Toeslagenaffaire. De datadeling staat dus haaks op de belangen van de burger. Op organisatorisch vlak zijn verschillende samenwerkingsverbanden als het RIEC en het LIEC opgezet om verschillende instanties naast elkaars data, ook van elkaars bevoegdheden gebruik te laten maken.

Naast de hiervoor genoemde aanpak van ‘predictive policing’ en ‘data driven decision making’ blijkt de overheid een onstilbare honger naar data over haar burgers te hebben. De overheid wil toegang tot privégesprekken uit chatdiensten, social media, opleidingsgegevens, mobiliteitsdata, medische gegevens, seksueel gedrag, et cetera.

Voor het koppelen van verschillende data maakt de Nederlandse overheid sinds 2011 gebruik van gespecialiseerde software van het omstreden bedrijf Palantir. De doelstellingen die men met Palantir voor ogen heeft, het datagedreven beslissingen nemen met behulp van (AI-)algoritmen, hadden tot voor kort geen wettelijke basis. Sterker nog, deze waren in strijd met de Algemene verordening gegevensbescherming (AVG) en het Europees Verdrag voor de Rechten van de Mens (EVRM). Om deze werkwijze te legitimeren, trad in juli 2024 de Wet Gegevensdeling door Samenwerkingsverbanden (WGS) in werking.

De toepassing van datadeling, algoritmen en datagedreven werken, versterkt het gebruik van elkaars bevoegdheden onder de verschillende overheidsinstanties, daar waar deze juist gescheiden moeten blijven in het belang van de burgerrechten. Samenwerkingsverbanden als het RIEC, LIEC en de NCTV kunnen in deze context niet los worden gezien van de technologische ontwikkelingen van dataintegratie en AI, die ons leiden naar een één overheidsgedachte.

Burgers dreigen verstrikt te raken in Kafkaëske processen als gevolg van het combineren van gegevens die de overheid op Orwelliaanse wijze vergaart.

Predictive Policing: Verdacht op basis van gedeelde data en algoritmen

Sinds circa 2011 heeft in Nederland en daarbuiten een keerpunt plaatsgevonden in fraude- en criminaliteitsbestrijding. Voorheen werd criminaliteit opgespoord op basis van waarneming en informatie, verdenking, opsporing en onderzoek, om zo over te gaan op gerechtelijke vervolging. Deze volgorde hangt nauw samen met het principe dat iemand onschuldig is, tot het tegendeel wordt bewezen.

Vanaf 2011 zijn de uitgangspunten van fraude- criminaliteitsbestrijding fundamenteel gewijzigd. Men introduceerde datagedreven besluitvorming, ofwel ‘datadriven decision making’. In het kort komt het er op neer dat men verschillende databronnen koppelt en met behulp van computerprogramma’s (algoritmen) die gekoppelde databronnen analyseert. Het resultaat is een lijst met personen met daaraan gekoppeld een risico-inschatting op fraude of criminaliteit. De databronnen komen dan bijvoorbeeld van de belastingdienst, banken, zorginstellingen, telecom en openbare bronnen van internet zoals social media.

Doordat men deze verschillende databronnen koppelt op persoonsniveau, en computeralgoritmen patronen laat herkennen en analyseren, kan een persoon op basis van deze geautomatiseerde analyse op een lijst van verdachten terecht komen. Dit gebeurt zonder dat deze persoon daar zelf weet van heeft. De computer heeft bepaald dat de persoon als verdachte wordt geoormerkt op basis van bijvoorbeeld zijn financiële transacties gecombineerd met reisbewegingen, uitlatingen op social media en zorggebruik. De handhavende instantie krijgt zo een lijst met ‘verdachten’ uit de computer op basis waarvan men kan gaan vervolgen.

Deze aanpak is zeer problematisch gebleken door het Toeslagenschandaal, waarbij bijvoorbeeld de familie Jansen een score van 21 op de lijst kreeg, en de instanties klakkeloos de bovenste 80% van personen op de scorelijst ging vervolgen. De toeslagen werden stopgezet en teruggevorderd, en wanneer deze mensen dit niet konden betalen, werd er beslag gelegd op hun bezittingen. In veel gevallen vond dit plaats bij onschuldige mensen waarvan computeralgoritmen hadden bepaald dat zij ‘verdacht’ waren. Dit fenomeen wordt ook wel ‘Predictive Policing’ genoemd.

Verschillende databronnen die afzonderlijk wel een eigen doelbinding hebben, worden samengevoegd tot een complete dataset die geen eigen doelbinding heeft. Doelbinding houdt in dat persoonsgegevens alleen mogen worden verzameld voor welbepaalde, uitdrukkelijk omschreven en gerechtvaardigde doeleinden, en niet verder verwerkt op een wijze die onverenigbaar is met die doeleinden (artikel 5, lid 1, onder b, AVG). De belastinggegevens van meneer Jansen hebben als doelbinding de belastingzaken van meneer Jansen. Zijn bankgegevens hebben als doelbinding zijn bank- en betalingstransacties in zijn klantrelatie met de bank. De samengevoegde gegevens hebben een nieuwe doelbinding nodig waarvoor op dat moment geen wettelijke grondslag was. Bovendien mag een instantie alleen haar data delen met een opsporingsorgaan wanneer er een redelijke verdenking is. Die verdenking is er niet, want de data van meneer Jansen wordt op voorhand gedeeld met opsporingsinstanties om computers te laten bepalen of meneer Jansen verdacht is. Om de burger te beschermen tegen deze handelswijze zijn wetten als de AVG en EVRM opgesteld.

De verzamelnaam van de computerlogica die leidt tot het voorgaande is kunstmatige intelligentie ofwel AI. Machine Learning (ML) kan als deelverzameling van AI worden beschouwd, en algoritmen komen in zowel AI als ML voor.

Machine learning is dus een vorm van AI waarbij computers leren van gegevens (datasets) om taken uit te voeren, zoals voorspellingen maken of patronen herkennen, zonder dat ze expliciet geprogrammeerd zijn voor elke stap. Ze zijn zelflerend. Een computer krijgt een voorbeeld-dataset op basis waarvan het model getraind wordt. Een algoritme analyseert de gegevens uit de voorbeeld-dataset en zoekt naar patronen, waarmee het model wordt getraind. Tot slot bouwt het algoritme een model dat deze patronen gebruikt om nieuwe, onbekende gegevens te begrijpen.

Het door de voorbeeld-dataset getrainde model zal nu nieuwe, onbekende data van meneer Jansen kunnen verwerken door te zoeken naar patronen, waardoor het voorspellingen kan doen en een risicoscore geven aan meneer Jansen. Kortom, machine learning laat computers zelf leren van voorbeelden, om de opgedane kennis toe te kunnen passen op echte data.

Wat in de Toeslagenaffaire fout is gegaan, is dat de voorbeeld-dataset op basis waarvan het model getraind werd, constateerde dat bijvoorbeeld de naam ‘Jansen’ leidde tot een grote fraudekans, waardoor meneer Jansen zonder dat hij daar erg in had, op de lijst met potentiële fraudeurs terecht kwam nadat zijn persoonlijke gegevens van de verschillende bronnen zoals de Belastingdienst gekoppeld en geanalyseerd werden door het computermodel.

Discretie en Supervisie in AI-algoritmen

Binnen de toepassing van AI-algoritmen die helpen in beslissingen maken, wordt onderscheid gemaakt op grond van het niveau van discretie en supervisie. Discretie bepaalt hoe autonoom AI werkt en hoe menselijke supervisie betrokken blijft.

Supervisie heeft betrekking op het toezicht of de controle door mensen op AI-systemen tijdens het nemen van beslissingen.

• Met supervisie: AI ondersteunt of adviseert, maar een mens bekijkt en bevestigt de uitkomst. Dit vermindert risico's zoals fouten of bias, en zorgt voor accountability. Bijvoorbeeld: een AI-tool die uitkeringsaanvragen beoordeelt, maar waar een ambtenaar de finale beslissing neemt.

• Zonder supervisie: AI opereert autonoom en neemt beslissingen zelfstandig, zonder menselijke tussenkomst. Dit is efficiënt voor eenvoudige taken, maar riskant bij complexe of hoog-risico situaties, zoals in de publieke sector waar het burgers raakt.

Discretie verwijst naar de vrijheid van AI-systemen of mensen om zelfstandig beslissingen te nemen binnen vastgestelde regels.

• Lage discretie: AI volgt strikte regels zonder afwijking, zoals bij automatische formulierverwerking.

• Gemiddelde discretie: AI geeft suggesties, maar een mens beslist, zoals bij uitkeringsbeoordelingen.

• Hoge discretie: AI heeft veel vrijheid om complexe beslissingen te nemen, zoals bij sociale dienstverlening.

Uit de Master thesis van Hannah Frederiks blijkt dat het gebruik van algoritmen dat leidde tot de Toeslagenaffaire met lage discretie en zonder supervisie plaatsvond.

Het meest problematische aan de Toeslagenaffaire was dat er geen supervisie was op de uitkomsten van de algoritmen. Die vormden namelijk een nieuwe werkelijkheid op basis waarvan vervolging werd ingezet. Bovendien draaiden deze algoritmen op samengevoegde datasets waarvoor geen doelbinding aanwezig was.

De discriminerende elementen in het model en de tunnelvisie op fraude leidden tot een systematische, oneerlijke behandeling van ouders, wat de kern vormt van het rapport "ongekend onrecht" dat de onderzoekscommissie beschreef. In het rapport worden de punten over doelbinding van gekoppelde datasets en het gebrek aan supervisie buiten beschouwing gelaten.

Palantir

De USA PATRIOT Act, aangenomen in oktober 2001, en de Homeland Security Act uit november 2002, speelden een cruciale rol in het creëren van een juridisch en operationeel kader dat de vraag naar geavanceerde surveillance- en data-analysetools stimuleerde. Deze wetten waren een gevolg van de aanslagen op 11 september 2001 en breidden de bevoegdheden van inlichtingendiensten uit, inclusief bredere data-verzameling en informatie-uitwisseling tussen overheidsdiensten. De nieuwe bevoegdheden luidden ook investeringen in technologie voor terrorismebestrijding in. De PATRIOT Act faciliteerde bredere data-toegang zonder een bevel of machtiging, terwijl de Homeland Security Act leidde tot een compleet nieuwe inlichtingendienst die ook gebruik maakt van Palantir: The Departement of Homeland Security (DHS). In Nederland werd de Wet op de Inlichtingen en Veiligheidsdiensten (WIV) aangenomen en kort daarna werd de NCTb opgericht, dat later werd hernoemd naar de Nationaal Coördinator Terrorismebestrijding en Veiligheid (NCTV).

Palantir Technologies ontstond in 2003 in Silicon Valley als een pionier in big data analyse. Het bedrijf werd opgericht door Peter Thiel, Alex Karp, Joe Lonsdale, Stephen Cohen, een expert in algoritmen, en Nathan Gettings, een man met defensie-ervaring. De financiering kwam aanvankelijk van In-Q-Tel, de CIA's venture capital-arm, en Thiel's persoonlijke investeringen, gevolgd door rondes die opliepen tot 2,46 miljard dollar. In 2020 ging het bedrijf naar de beurs. Naast de initiële investering door de CIA bood de inlichtingendienst toegang tot CIA-analisten voor pilots en feedback.

Palantir's software is een platform voor data-integratie en -analyse en bestaat uit verschillende modules. Gotham richt zich op overheidstoepassingen zoals terrorismebestrijding, Foundry op commerciële sectoren als productie en financiën en Apollo op het beheer van de software. Het fungeert als een besturingssysteem voor data dat grote datasets kan transformeren in informatie en inzichten.

Het Artificial Intelligence Platform (AIP) van Palantir biedt de mogelijkheid voor de klant om naar eigen behoefte AI- en ML-modules op de samengevoegde data te draaien en bijvoorbeeld scorelijsten te produceren. Door deze combinatie biedt Palantir zelfs de mogelijkheid tot autonome besluitvorming. Het zet naar eigen zeggen data om in macht, hetgeen ethische vragen oproept over privacy.

Een overheid die grote hoeveelheden data koppelt en analyseert met Palantir's modules zoals Gotham en Foundry, kan geavanceerde surveillance en besluitvorming uitvoeren. Dit stelt overheden in staat tot:

• Traceren en profileren van burgers door data samen te voegen, netwerken in kaart te brengen en patronen te detecteren. Bijvoorbeeld voor fraude-opsporing, criminaliteitsvoorspelling of immigratiehandhaving.

• AI-gedreven analyses ten behoeve van voorzorgsmaatregelen: Real-time inzichten genereren voor besluitvorming door inlichtingendiensten, defensie en gezondheidzorg. Bijvoorbeeld dreigingsdetectie, resource-allocatie of pandemie-respons. Hiervoor worden tools gebruikt voor gezichtsherkenning en zoekopdrachten door gebruikers.

• Data-harmonisatie en samenwerking: Versnipperde systemen verbinden voor veilige data-uitwisseling, met focus op privacy en beveiliging, maar potentieel voor misbruik zoals massasurveillance of bias in profiling.

In onderstaand fragment licht CEO Alex Karp op ideologische wijze toe met welk doel de technologie van Palantir wordt ingezet.

Geautomatiseerde Doodvonnissen

Israël is een goede klant van Palantir. In januari 2024 sloot het bedrijf een strategisch partnerschap met het Israëlische ministerie van Defensie. Het land was kort ervoor in conflict met Hamas geraakt en de toepassing van geautomatiseerd decision making in oorlogssituaties zou met behulp van het AI-platform van Palantir (AIP) worden uitgebreid.

Unit 8200 van de Israëlische inlichtingendienst heeft zelf al AI decision making software ontwikkeld die op basis van diverse samengevoegde datasets militaire beslissingen kan nemen om zo tot een ‘Kill List’ te komen. Dit systeem heeft de naam Lavender. Lavender analyseert massale surveillance-data – inclusief visuele informatie, mobiele telefoondata, sociale media en foto's – om individuen te beoordelen op een schaal van 1 tot 100 op basis van hun vermeende banden met Hamas. Het systeem werd intensief ingezet in de vroege fasen van de oorlog, resulterend in bombardementen op huizen. De menselijke controle of supervisie op de resultaten van de Kill List met slechts 20 seconden per doelwit, was minimaal. Aanvullende tools zoals "Where’s Daddy?" traceren doelwitten naar hun familiehuizen voor bombardementen. Het systeem had naar eigen zeggen een foutmarge van 10%, maar veroorzaakte veel burgerdoden. Ongeveer 15 tot 20 onschuldige slachtoffers per militant die doelbewust werd uitgeschakeld. Het beleid gaf prioriteit aan kwantiteit boven nauwkeurigheid in een zaak op leven of dood.

Wanneer Peter Thiel tijdens een lezing onverwacht een vraag over Lavender moest beantwoorden, sprak zijn reactie boekdelen.

Naast Lavender wordt het AI-systeem Habsora gebruikt om gebouwen geautomatiseerd als doelwit van bombardementen te markeren. Dagelijks worden honderden doelwitten genereert door data-integratie en AI-algoritmen die automatisch aan de bommenwerpers worden doorgegeven. Hierbij worden soepelere regels gehanteerd voor het aantal onschuldige burgerdoden die men accepteert om één Hamas commandant uit te kunnen schakelen. Soms tot wel honderden burgerdoden. In dit proces is bij het Israëlische leger in detail bekend hoeveel onschuldige slachtoffers men heeft geaccepteerd voor de poging om één bepaald doelwit uit te schakelen op basis van bijvoorbeeld mobiele telefoondata.

Palantir, Trump en de kettingzaag van Musk

Kort na de inauguratie van Donald Trump voor zijn tweede termijn kondigde de president aan dat hij korte metten ging maken met de Amerikaanse bureaucratie en de verkwisting van belastinggeld. Hij richtte hiervoor het Department of Government Efficiency (DOGE) op, dat theatraal werd aangekondigd door tech-ondernemer Elon Musk die met een kettingzaag op het podium verscheen.

Deze symboliek werd onder luid gejuich ontvangen door de achterban van Trump. De succesverhalen waar de Amerikaanse burger zo naar hunkerde, volgden zich in rap tempo op. Grote bedragen aan besparingen werden dagelijks gerapporteerd, met als hoogtepunt de ontmanteling van USAID, het financieringsmechanisme ten behoeve van clandestiene operaties van de geheime diensten.

Wat echter schuilging achter DOGE was de grootste dataharvesting operatie uit de geschiedenis door een nieuw aangetreden administratie, waarmee de geoogste data beschikbaar werd gesteld aan Palantir. Een proces dat zich door de ophef rond ontslagrondes en de ontmanteling van USAID aan het gezichtsveld van de burger onttrok. Verschillende databases van de overheid, waaronder die van de belastingdienst (IRS), werden ontsloten door software engineers van Palantir en de IRS. Trump legaliseerde de datadeling op 20 maart 2025 door middel van een decreet.

Het Immigration and Customs Enforcement (ICE) speelde een belangrijke rol in Trump’s MAGA-beweging om de massale immigratie een halt toe te roepen. ICE had al een contract met Palantir voor $30 miljoen om real-time inzicht te geven in de bewegingen van immigranten. De deportaties konden versnellen door middel van een "master database" die door de koppeling van verschillende gegevensbronnen tot stand was gekomen.

CEO Alex Karp maakte er in de media geen geheim van dat hij DOGE een goede ontwikkeling vond voor Palantir. De nauwe banden tussen DOGE en Palantir worden zichtbaar via voormalige Palantir-medewerkers en connecties met Peter Thiel, de ex-compagnon van Elon Musk waarmee hij betaalservice Paypal oprichtte. Personen die betrokken waren bij DOGE en banden met Palantir hebben, zijn: Anthony Jancso, George Cooper, Akash Bobba, Jordan Wick, Allan Mangaser, Ryan Wunderly en Edward Coristine.

Het DOGE-team werd bij circa 40 overheidsinstanties ingezet om hun werk te verrichten. Afgezien van FEMA en CISA die onder de DHS vallen, zijn de opvallende afwezigen in de lijst van instanties waar DOGE zich op richtte, de inlichtingendiensten FBI, DHS, CIA en NSA. Dit geldt ook voor de minder bekende inlichtingendiensten die de Verenigde Staten rijk zijn, zoals: ODNI, DIA, NGA, NRO, DEA, DOE, OIA, INR, AFISR, INSCOM, CGI, MCIA, ONI en SFISRE.

Vice president JD Vance heeft zijn politieke carrière voor een belangrijk deel te danken aan zijn goede banden met Peter Thiel. Vance ontmoette Thiel in 2011 tijdens een lezing aan Yale Law School, waarna Vance ging werken bij Mithril Capital, een van Thiel’s venture capital-fondsen. Later doneerde Thiel 15 miljoen dollar voor Vance's Senaatscampagne in Ohio in 2022 die hij uiteindelijk won.

Het DOGE-project heeft geleid tot het ontsluiten en koppelen van grote overheidsdatabases ten behoeve van Palantir, waarmee overheidstaken die weinig supervisie op algoritmen vereisen, zijn geautomatiseerd. Dit gaat hand in hand met de ontslaggolven die DOGE teweeg heeft gebracht. Het was een grote operatie om mensenwerk door AI te vervangen.

Palantir in de Polder

In Nederland maakt men sinds 2011 gebruik van Palantir, waarbij het eerste contract werd ondertekend door Dick Schoof. Dit blijkt uit vrijgegeven WOO-documenten.

Het project waarin men voor het eerst gebruik maakte van Palantir heette ‘Proeftuin’ en liep tot en met 2013. Tussen 2014 en 2017 werd het werk met Palantir voortgezet als ‘Bredere operationele pilot op operationele thema’s’. In 2018 werden de contracten met Palantir vernieuwd voor de opzet van een nieuw project: ‘De Raffinaderij’.

Het contract tussen de Politie en Palantir werd door toenmalig politiechef Pieter Jaap Aalbersberg ondertekend.

De carrières van Schoof en Aalbersberg vertonen enige gelijkenissen als het gaat om Politie- en inlichtingenwerk. Dick Schoof was directeur-generaal van de Politie in de tijd van de aanschaf van Palantir, waarbij relevant is dat het Ministerie van Justitie in die tijd grondig werd hervormd naar het ‘superministerie’, waarvan Schoof één van de architecten was. Zijn volgende functies bekleedde hij als baas van de AIVD en NCTV voordat hij een belangrijke rol in de coronacrisis speelde om daarna premier van Nederland te worden, zonder verbonden te zijn aan een politieke partij. Pieter Jaap Aalbersberg volgde in 2019 Dick Schoof op als baas van de NCTV.

De geopenbaarde WOO-documenten over Palantir zijn grotendeels zwartgelakt. Uit de leesbare fragmenten is echter goed op te maken dat het een clandestien project is, waar men liever niet te veel ruchtbaarheid aan geeft. Veel documenten hebben de status “zeer vertrouwelijk” en Palantir werd heimelijk verworven, hetgeen betekent dat de wettelijke aanbestedingsprocedures niet werden gevolgd. Dit is te verklaren omdat de Politie dan een programma van eisen zou moeten opstellen, op basis waarvan alle softwareleveranciers een offerte zouden kunnen maken. Uit zo’n programma van eisen zou ongetwijfeld openbaar zijn geworden wat men van plan was met verschillende databronnen en algoritmen.

Palantir had het contract dus verkregen op basis van heimelijke verwerving en informatie mag alleen gedeeld worden op ‘need to know basis’. Dit betekent dat betrokken personen uitsluitend de informatie krijgen die zij nodig hebben om hun taak uit te voeren. Alsof er een geheime militaire operatie wordt voorbereid.

De financiering van de Raffinaderij werd na het heimelijk afsluiten van het contract met Palantir georganiseerd door budgetten te gebruiken uit het regeerakkoord en uit de CTER-afdeling. CTER staat voor Contraterrorisme, Extremisme en Radicalisering en is een afdeling die onder de NCTV valt. Feitelijk financierde de NCTV dus het Palantir-project van de Politie.

In een reactie op een ander WOO-verzoek wordt een tipje van de sluier opgelicht over de data die men in de raffinaderij laadt met behulp van Palantir. Data van in beslag genomen telefoons en computers, onderzoeksdata uit BHV, Summ-IT, BVI, telefoontaps, bakens (telefoniemasten), internetdata en kenteken camera’s (ANPR).

Vooral de data van in beslag genomen telefoons en computers zijn gevoelig omdat hier weer informatie zou kunnen worden gevonden over onschuldige personen.

De AVG schrijft voor dat mensen recht hebben op vergetelheid. Dit houdt in dat burgers het recht hebben om een instantie die data over deze persoon hebben vastgelegd, te vragen om deze gegevens te verwijderen. Uit een interne e-mail blijkt dat men in de raffinaderij aanvankelijk deze functionaliteit niet ondersteunde. Wanneer jouw data was verwijderd in de bron, maar in het verleden wel in Palantir was geladen, bleef deze data aanwezig in de database van de Raffinaderij, ondanks dat deze gegevens later waren verwijderd uit de bron van aanlevering.

Men had grote plannen met Palantir. Het datagedreven werken zou het ‘nieuwe normaal’ worden, datauitwisseling met externe en buitenlandse partners was al opgezet en daar waar de wetgeving niet op de toekomstvisie past, moet deze worden aangepast. In 2018 werd het groeipad tot 2024 uitgestippeld.

De Wet Politiegegevens (WPG) was één van de wetten die zou moeten bijgesteld naar ‘de nieuwe mogelijkheden met data’.

Uit deze WOO-documenten blijkt de Kafkaëske mentaliteit dat de regels worden aangepast op hetgeen men wil bereiken. Iets dat binnen het superministerie van Justitie en Veiligheid (J&V) al eerder aan de orde is gekomen over de grondslagen van de NCTV.

De heersende mentaliteit was: Je voert je taken uit. Als hier geen grondslag voor is, maak je de overweging om door te gaan buiten de wettelijke kaders, of door een nieuwe wettelijke grondslag te creëren waarmee je de taken alsnog legaliseert.

Palantir tijdens de Coronacrisis

Tijdens de coronacrisis hebben zes veiligheidsregio’s gebruik gemaakt van Palantir-software. Verschillende onbevestigde bronnen spreken ook van een rol bij de totstandkoming van het coronadashboard. De website waar de ontwikkelingen omtrent het coronavirus op dagelijkse basis waren te volgen.

Uit vrijgegeven WOO-documenten blijkt wel dat Palantir heeft meegedongen naar een dashboard dat zou helpen in de covidrespons, en dat een VVD-kamerlid voor het Amerikaanse bedrijf heeft gelobby’t.

Palantir zou door middel van het combineren van data en reeds ontwikkelde algoritmen kunnen ondersteunen in het ‘decision making’ proces. De beleidsmakers zouden dan datagedreven werken tijdens de covidrespons. Dit blijkt uit productfolder die tussen de vrijgegeven WOO-documenten zat.

Palantir heeft ook nog een voorstel gedaan voor de ontwikkeling van de corona check app.

Sommige WOO-documenten die jaren geleden zijn vrijgegeven maar destijds onvoldoende geduid konden worden, krijgen alsnog een betekenis door later vrijgegeven WOO-documenten.

In een eerder verschenen artikel over het LIMC, de militaire eenheid die onlinegedrag van burgers observeerde en hierover rapporten uitbracht, is de functie van deze eenheid tijdens corona toegelicht. Het LIMC ontving ook data van de NCTV, zo valt op te maken uit vrijgegeven documenten. Hier was zelfs een convenant voor opgesteld, dus kan geconcludeerd worden dat deze data-aanleveringen van structurele aard waren. Hierbij is het relevant om te beseffen dat de NCTV zelf geen wettelijke grondslag heeft om persoonsgegevens te verwerken.

Deze structurele aard wordt nog duidelijker uit een verslag waarin de werkwijze binnen het LIMC wordt besproken. Het LIMC analyseert en duidt informatie die wekelijks ontstaat uit bulkdata die de NCTV aanlevert.

De praktijken van het LIMC raakten in opspraak na enkele artikelen die hierover verschenen in de NRC. De journalisten haalden boven water dat er binnen Defensie forse weerstand tegen de werkwijze was, omdat de wettelijke basis voor de activiteiten ontoereikend was. Na de ontstane ophef volgde een Tweede Kamerdebat, waarna het LIMC werd opgeheven. De details uit de WOO-documenten over het LIMC wijzen met de kennis van nu sterk in de richting van datagedreven werken, en wellicht de inzet van Palantir of informatieproducten uit Palantir.

Iedere donderdag was een OSINT-analist (Open Source Intelligence) van de Politie aanwezig bij het LIMC.

In onderstaand WOO-document spreekt een militair over ‘producten die ogen als informatieproducten waarbij aan de hand van bronnen voorspellingen worden gedaan met een zekere graad van waarschijnlijkheid’. Deze omschrijving past naadloos op de productomschrijving van Palantir.

De Toeslagenaffaire

Zoals eerder behandeld aan de hand van voorbeelden, is de Toeslagenaffaire tot stand gekomen door het koppelen van datasets en het gebruik van zelflerende modellen. Het Datagedreven Werken. De Toeslagenaffaire heeft een enorm leed onder onschuldige burgers veroorzaakt en bracht uiteindelijk het kabinet ten val. Eind 2020 werd het rapport "ongekend onrecht" dat door de Parlementaire Ondervragingscommissie tot stand kwam, naar het parlement gestuurd.

Door een harde en onrechtmatige fraudeaanpak van de Belastingdienst werden duizenden gezinnen onterecht als fraudeurs bestempeld en moesten hoge bedragen aan kinderopvangtoeslag terugbetalen. Dit leidde tot financiële problemen, zoals schulden, beslagleggingen, en zelfs gedwongen verkoop van woningen. Vooral kwetsbare gezinnen met lage inkomens werden zwaar getroffen, met langdurige armoede en stress tot gevolg. De groepsgewijze aanpak, zonder individueel onderzoek, en een gebrek aan rechtsbescherming verergerden het onrecht. Excuses en compensatie kwamen laat, waardoor velen jarenlang machteloos stonden tegenover een rigide systeem.

In het rapport worden de institutionele vooringenomenheid en groepsgewijze aanpak als centrale elementen in de Toeslagenaffaire beschouwd. Met name in de werkwijze van het Combiteam Aanpak Facilitators (CAF), dat in 2013 werd opgericht. Deze aanpak richtte zich op vermeende fraude door kinderopvanginstellingen en gastouderbureaus, maar trof vooral ouders die gebruikmaakten van deze instellingen. Door deze werkwijze kwam de toeslagenaffaire tot stand. Het CAF-team gebruikte een zelflerend risicoclassificatiemodel om kinderopvanginstellingen en gastouderbureaus te identificeren die mogelijk fraudeerden.

In het Kwaliteitsverbetering en Fraudebestrijding Gastouderbureaus-project (KEF) werden toeslagen stopgezet om gastouderbureaus te raken. Het risicoclassificatiemodel, gevoed door gecombineerde databronnen zoals toeslagaanvragen en informatie van kinderopvanginstellingen, versterkte deze aanpak door groepen ouders als verdacht te markeren. Het gebruikte algoritme bevatte discriminerende elementen zoals nationaliteit en buitenlandse namen. Dit is tot stand gekomen doordat het ML-model werd getraind op basis van een voorbeeld dataset, en daarmee een vooringenomenheid of bias ontwikkelde voor nationaliteit en buitenlandse namen.

Het Machine Learning (ML) model analyseerde patronen in aanvragen, zoals afwijkingen in contracten, urenstaten, of betalingen, om verdachte instellingen te selecteren. Zodra een instelling als verdacht werd aangemerkt, werden alle gerelateerde ouder-aanvragen automatisch als risicovol beschouwd, wat leidde tot groepsgewijze stopzettingen van toeslagen.

Wat onvoldoende tot uitdrukking komt in het rapport, is de koppeling van datasets en het datagedreven werken, dat leidde tot een ‘verdachtenlijst’ op basis van een algoritme. Bovendien leidde deze verdachtenlijst automatisch tot consequenties (vervolging). Men paste geen supervisie toe op algoritmen van hoge discretie.

Wet Gegevensdeling door Samenwerkingsverbanden (WGS)

De Wet gegevensverwerking door samenwerkingsverbanden (WGS) is een kaderwet die een juridische basis biedt voor het systematisch delen en verwerken van persoonsgegevens door samenwerkingsverbanden. Deze verbanden bestaan uit bestuursorganen en private partijen die gezamenlijk gegevens verwerken voor zwaarwegende algemene belangen, zoals de bestrijding van fraude en georganiseerde criminaliteit. Voorbeelden van deze samenwerkingsverbanden zijn het Financieel Expertise-centrum (FEC), de Infobox Crimineel en Onverklaarbaar Vermogen (iCOV), Regionale Informatie- en Expertisecentra (RIEC’s) en Zorg- en Veiligheidshuizen (ZVH’s). De wet regelt onder meer de taken, inrichting en werkwijze van deze samenwerkingsverbanden, waarbij aanvullende details (zoals welke verbanden onder de wet vallen) worden vastgelegd via algemene maatregelen van bestuur (AMvB’s). Kortom: er kunnen naar behoefte nieuwe samenwerkingsverbanden ontstaan die op grond van de WGS data kunnen delen. Volgens sommigen is de WGS een Paard van Troje.

De samenwerkingsverbanden waarvoor de WGS een grondslag voor datadeling geeft, bestonden al langer. Met de Toeslagenaffaire, het LIMC en Palantir in het achterhoofd, kan iedereen zijn eigen inschatting maken van het potentieel van de WGS.

Het schaamteloos handelen, het gebrek aan empathie en de afwezigheid van berouw door onze beleidsmakers, komen op 17 december 2020 aan het licht. Dit is de dag dat Parlementaire Ondervragingscommissie het verslag “Ongekend Onrecht” naar de Tweede Kamer stuurt. Dit is exact dezelfde dag dat de Tweede kamer moet stemmen over een nieuwe wet: WGS. De Tweede Kamer nam de wet aan.

Tweede Kamerleden zullen tijdens de stemming voor de WGS weinig of geen kennis hebben kunnen nemen van de inhoud van het verslag. Dit roept vragen op over de timing van beiden en wie daarvoor verantwoordelijk zijn geweest. De Parlementaire Ondervragingscommissie had bovendien op uitstel van de behandeling van de WGS kunnen aansturen.

De WGS kan niet los worden gezien van het datagedreven werken, Predictive Policing, de inzet van Palantir, de Toeslagenaffaire en zelfs het LIMC. De WGS was een reparatiewet die het kunnen koppelen van gegevens met een eigen doelbinding zou moeten legaliseren. Het buitenwettig handelen van overheidsinstellingen die recent hadden geleid tot de Toeslagenaffaire en mogelijk het opdoeken van het LIMC, zou op deze manier worden gerepareerd.

De NCTV, dat zich profileert als een op zichzelf staand samenwerkingsverband, bleek betrokken te zijn geweest bij een advies over gegevensverwerking.

In juli 2024 werd de wet uiteindelijk aangenomen door de Eerste Kamer, na verschillende alarmerende berichten over de dystopische wet die datadeling, algoritmen en predictive policing mogelijk maakt. Het College van de Rechten van de Mens (CRM) oordeelde dat de wet discriminatie in de hand werkt en de rechtsbescherming van burgers aantast. Uit een vrijgegeven WOO-document blijkt dat de juristen van het ministerie van Justitie en Veiligheid (J&V) de kritiek van het CRM onderschreven, maar dat de samenwerkingsverbanden ‘haken en ogen’ zagen aan het garanderen van de rechtsbescherming van burgers.

Op 9 november 2021 bracht de Autoriteit Persoonsgegevens (AP) een advies aan de Eerste Kamer uit om de WGS niet aan te nemen. Dit deed de privacywaakhond door direct de media op te zoeken. De NOS nuanceerde later haar berichtgeving op de voor haar gebruikelijke wijze door de belanghebbenden bij de WGS aan het woord te laten, zoals de samenwerkingsverbanden en haar partners zelf. Dit nam niet weg dat het advies van de AP en het opzoeken van de media, op de ambtelijke burelen insloeg als een bom.

De privacywaakhond doorzag de risico’s die de WGS impliceert goed, en wees op het gevaar van een tweede toeslagenaffaire. Daarnaast richtte de kritiek zich op de mogelijkheid om private partijen te betrekken in gegevensdeling en verleiding die het biedt tot massasurveillance.

De wet beoogde vage doelen en konden vage signalen al leiden tot een verdachtmaking. Het RIEC zou de beschikking krijgen over veel soorten gegevens zoals burgerservicenummer, woonsituatie, verblijfstatus, financiële gegevens, politiegegevens en zelf gegevens over seksueel gedrag en seksuele geaardheid.

De ambtenaren waren niet gecharmeerd van de actie van de Autoriteit. Ze hadden liever gehad dat de wet geruisloos door de kamers werd geloodst. Men spreekt van een ‘doelbewuste actie van AP om het persbericht heel groot te maken’.

Essentieel is dat zowel AP als de ambtenaren van J&V zich bewust waren van waar de WGS toe zou leiden als verschillende instanties databronnen gaan koppelen en op basis daarvan patronen proberen te herkennen. Het geheel van gekoppelde data overstijgt de som der delen.

Hieraan zou kunnen worden toegevoegd dat dit ook voor de bevoegdheden van de samenwerkingsverbanden als RIEC en iCOV geldt. Dit blijkt uit een vrijgegeven WOO-documenten van 11 november 2021, waarin men het samenwerkingsverband duidt als een ‘samenkomst van deelnemers die faciliterend in de voorfase’ werken. Het ingrijpen gebeurt onder taakstelling en bevoegdheid.

Dit raakt de essentie van het probleem. Men kijkt gezamenlijk naar de uitkomst van de algoritmen op de samengevoegde datasets, en beoordeelt vervolgens door welke instantie de burgers met de hoogste score op een fraudekans kunnen worden vervolgd. Deze instantie zou op zichzelf nooit tot vervolging zijn overgegaan als die datasets en algoritmen daar niet op hadden gewezen.

Men werkt binnen samenwerkingsverbanden met ‘zwarte lijsten’. Dit zijn de lijsten die de algoritmen opstellen op basis van de gekoppelde datasets. Vervolgens komt het RIEC bijeen om de aanpak verder te bepalen. Deze aanpak proberen de ambtenaren nog anders te formuleren of te ontkennen nadat de ophef was ontstaan.

Een collega bevestigt dit een dag later via de email. In de praktijk kan het voorkomen dat binnen samenwerkingsverbanden een lijst wordt bijgehouden. De partners stemmen met elkaar de interventie af en ‘wie er aan de lat staat’.

Als gevolg van het noodsignaal van de AP, besluiten ambtenaren om meer waarborgen in de WGS op te nemen die de burgerrechten beter beschermen. De ambtenaren onderkennen dat de overheid, ‘zacht uitgedrukt’, niet altijd alleen rechtmatige gegevens inbrengt in samenwerkingsverbanden.

De waarborgen die de jurist voorstelt om toe te voegen aan de WGS, zouden op de lachspieren werken als deze kwestie niet zo serieus zou zijn. Men stelt voor om periodiek audits uit te voeren waarvan de resultaten worden gedeeld met de AP. Bij non-compliance, volgt als straf een nieuwe audit. Een rechtmatigheidscommissie kan adviezen uitbrengen die ‘in principe’ moeten worden nageleefd. Wanneer een deelnemer van een samenwerkingsverband dit niet doet, wordt deze afwijking geregistreerd. Eventueel wil men zo ver gaan dat de leden van de rechtmatigheidscommissie geen instructies ontvangen met betrekking tot de uitvoering van hun taken.

Epiloog

Palantir is het softwarepakket dat een overheid in staat stelt om allerlei databronnen efficiënt met elkaar te koppelen, algoritmen te laten draaien en vervolgens tot een eenvoudige beslissingslijst te komen. Het problematische is gebleken in de toeslagenaffaire wanneer deze zwarte lijst zonder menselijke tussenkomst leidt tot een veroordeling of andere verregaande consequenties.

De onstilbare datahonger en de hang naar meer surveillance van overheden, maakt dat de werkwijze van datagedreven besluitvorming tot Orwelliaanse en Kafkaëske toestanden kan leiden.

De overheid heeft zichzelf al enige tijd geleden gereorganiseerd in samenwerkingsverbanden zoals het RIEC, waarin Politie, OM, de Rechtspraak en de Belastingdienst zijn vertegenwoordigd. Door het koppelen van databronnen en het draaien van algoritmen, kunnen burgers zonder zich daarvan bewust te zijn, op een verdachtenlijst terecht komen. Diezelfde burger ondervindt daar de consequenties van wanneer binnen het RIEC wordt afgestemd welk overheidsorgaan de vervolging kan inzetten op basis van de bevoegdheid van dat orgaan.

Deze kanteling naar één overheid waarin alle bevoegdheden worden samengevoegd en verantwoordelijkheden worden gecodeerd in algoritmen, levert een dystopisch vooruitzicht op, wanneer men zich beseft dat de data- en surveillancehonger van de overheid nog niet gestild is.