'Digitaal ontwaken' > 19 juni 2025

Data zijn onbetrouwbaar, onoverzichtelijk en we delen ze met Donald Trump; zo schetst Maxim Februari een deel van het probleem. Rijksambtenaren spraken met hem over de afhankelijkheid van digitale middelen en Amerikaanse techbedrijven. Hoe moet de overheid daarmee omgaan? Welke gevaren zijn er eigenlijk allemaal? En voeren we wel de juiste gesprekken over de juiste onderwerpen? ‘I told you so’ – zo’n zeventig mensen luisterden naar zijn urgente lezing.

Reguleren

Jurist, essayist en romancier Februari schetst drie oplossingsrichtingen, of drie manieren waarmee we kunnen omgaan met steeds verder gaande digitalisering: reguleren, publieke alternatieven bedenken, en het terugdringen van het technosolutionisme als algemene ideologie.

De uitvoerende diensten gaan de macht in de trias politica overnemen wanneer je datagedreven of datagestuurd gaat werken. Technologie neemt in zo’n geval de democratie over, wil je dat? Wat wil je dat technologie voor je gaat doen? Diezelfde vragen kun je stellen over het bedrijfsleven. Bedrijven nemen nu al taken over van de overheid. Wanneer je een paspoort aanvraagt, en dat volledig digitaal moet doen, of straks misschien zelfs alleen nog een digitaal paspoort hebt, dan moet je je bedenken dat je daar te maken hebt met bedrijven: die nemen hier de uitgifte van paspoorten over. Ook publiek-private samenwerkingen zijn steeds normaler. Banken die helpen fraude op te sporen zonder wettelijke grondslag, bijvoorbeeld. Is dat wenselijk? Wat wil je als overheid? Het gesprek hierover wordt te weinig gevoerd, en Februari maakt zich daar grote zorgen over. Hij vertelt dat hij in zijn columns meerdere keren heeft gewezen op de politie die preventief wilde gaan werken: op basis van data voorspellen wie criminele dingen gaat doen en hen preventief oppakken, en niemand leek erop aan te slaan. Terwijl, zo schetst Februari, dit tekenen zijn van een politiestaat; de rechtsstaat wordt hier van binnenuit overschreden. In een bepaalde mate kan de overheid hier reguleren, en grenzen stellen aan wat kan en mag. Maar ook gezien de enorme afhankelijkheid die er al is van digitale computersystemen is deze aanpak waarschijnlijk niet heel werkbaar, zeker niet wanneer dit de enige manier is waarop de bevolking beschermd moet worden tegen digitale afhankelijkheid en alle risico’s die daarbij komen kijken.

Publieke oplossingen

Een andere manier waarmee de overheid om kan gaan met het probleem van digitale afhankelijkheid is te zoeken naar publieke alternatieven, en alternatieven die niet gemaakt zijn door grote Amerikaanse techbedrijven. Denk aan Signal in plaats van Whatsapp, en DuckDuckGo in plaats van Google als zoekmachine. Op websites als Tweakers staan hele lijsten met deze alternatieven, zegt Februari. “Ik krijg vaak de vraag: wat kan ik morgenochtend gelijk al doen? Nou, dit. Zoek zo’n lijst op en ga alternatieven gebruiken.”

“Maar,” werpt een ambtenaar tegen, “als we van Facebook af gaan, hoe bereiken we dan de mensen die alleen nog maar op Facebook zitten?” “Dat is echt zo moeilijk niet. Vroeger was er ook geen Facebook, en deed je gewoon een briefje bij iedereen door de brievenbus. Dat kun je nu ook weer doen,” aldus Februari.

En er is nog de maakkant van alternatieve technologieën: je kunt als overheid helpen, zelf bouwen en stimuleren dat lokale of Europese technologieën ontwikkeld worden. Al met al is het vooral belangrijk dat je als overheid gaat handelen, want de haast is erg groot. We zijn niet alleen afhankelijk van Amerikaanse techbedrijven, we zijn ook afhankelijk van Chinese grondstoffen bijvoorbeeld, en het wordt nu al duidelijk welke consequenties dat voor ons heeft. We moeten wel nadenken over wat we willen als overheid, maar ethiek is geen rookgordijn om je achter te verschuilen. De overheid moet gaan handelen en een publieke infrastructuur gaan neerzetten, want de digitale en soms zelfs de fysieke sferen worden al beïnvloed door bedrijven. Denk aan Huawei die samenwerkt om van Groningen een Smart City te maken en Facebook die betaalbare huizen helpt financieren. Op www.sphere-transgression-watch.org , een project van de Radboud Universiteit, kun je zien op welke manieren technologieën en de bedrijven erachter hun stem laten gelden in verschillende domeinen.

Weg met het solutionisme

En dat brengt ons bij de derde oplossingsrichting van Februari: dring het denken van het technosolutionisme terug. Stel meer vragen over wat je wil met een democratie, een publieke sfeer en wat je verwacht van technologie. Waarom wil je überhaupt een Smart City zijn? Waarom wil je ChatGPT gebruiken als overheid? Naast alle grote zorgen over grondstoffen, energieverbruik, uitbuiting en andere ernstige overschrijdingen is het een vraag over hoe je de wereld wilt inrichten. Wanneer je je daarin laat leiden door data en technologie krijg je een beperkte wereld, want data en technologie zijn heel beperkt. Is dat onze democratie? Februari verwijst onder andere naar een stuk van het Vaticaan over technologische afhankelijkheid, waarin de auteurs de vergelijking maken tussen de organische groei van een mens, en de organische groei van een samenleving en het samenleven als maatschappij, tegenover de logische, wiskundige benadering die ten grondslag ligt aan alle technologieën. Als die wiskundige benadering je startpunt is, moet je goed begrijpen dat publieke waarden er niet in worden meegenomen. En je kunt niet achteraf nog wat waarden toevoegen; rechtvaardigheid kan geen nagedachte zijn.

Kwetsbaren

We moeten ons als overheid grote dingen afvragen als hoe het zit met de vrijheid van meningsuiting en het publieke debat als chatbots overal gesprekken gaan voeren. En hoe je de zorg wilt inrichten. De statistische benadering in de zorg, waar veel voorstanders voor zijn, heeft grote nadelen. Het gevolg is namelijk dat je er als gemiddeld mens best goed vanaf komt, maar een gemiddeld mens is niet iemand die zorg nodig heeft. Juist de groep kwetsbare mensen is uit beeld in deze benadering en kan niet geholpen worden. Bovendien wordt gedacht dat AI en technologie de zorg goedkoper zullen maken, maar dat is nog nooit bewezen. De ontwikkeling van deze technologieën is heel duur, en er is geen bewijs dat het goedkoper wordt op termijn.

Bovendien wijst Februari ons op de richting die de gesprekken hierover vaak hebben: op dit moment wordt er veel gesproken over de bescherming van kinderen op sociale media, maar het gesprek is daarin vaak “kinderen gebruiken veel sociale media”. Hoewel dat waar kan zijn, blijft de andere kant uit beeld: “Sociale media gebruiken kinderen”, en de gevaren van dat tweede zijn misschien nog wel groter dan die van het eerste. In eenzelfde lijn haalt Februari een voorbeeld aan van vermeende seksistische advertenties: vrouwen zouden geen advertenties voor techbanen te zien krijgen. Wat bleek? Die advertenties werden aan hen niet vertoond, omdat de advertentieruimte werd gekaapt door winkels waar deze vrouwen eerder spullen hadden gekocht. Kortom, transparantie over een enkel algoritme en hoe dat werkt is niet genoeg, omdat het doorwerkt op de hele techno-sociale structuur. Je zult als overheid dus ook moeten kijken naar het hele techno-sociale ecosysteem voordat je gaat handelen.

Ook in het openbaar bestuur speelt dit mee. Februari zei eerder al hoe datagedreven werken de trias politica verandert. Ga je daar ook nog AI aan toevoegen? Je moet heel goed nadenken over wat dat doet en hoe het de verhoudingen verandert binnen bestuur en hiërarchie. De informatiestromen zijn nu al groot; ga je vanuit die stromen sturen in plaats van via regels? Dan zal dat gevolgen hebben voor de rechtsbescherming. Hoe kan iemand berecht worden die je preventief aanhoudt? Waarop mag die persoon dan nog naar de rechter stappen? En als dat gaat om een hele groep mensen, dan zou je redelijkerwijs ook moeten toestaan dat die hele groep naar de rechter stapt vanwege die profilering.

In gesprek

Eén van de aanwezige ambtenaren haakt daarop aan en vraagt onze spreker naar ethics washing, het argument dat “we het doen voor hun veiligheid”, dat “het nodig is”, met andere woorden: hoe blijven we waakzaam voor de verandering van de ethiek door de technologie, omdat mensen de technologie als bijna inherent goed en nuttig beschouwen?
Februari: “Het begrip veiligheid wordt voortdurend misbruikt. Het wordt heel onveilig door al die technologie, en de datadeling et cetera. Je moet het zo regelen dat iemand zonder telefoon ook nog gewoon mee kan doen in de maatschappij.” Want, ook dat zit tussen de regels van dit gesprek: de afhankelijkheid van digitale middelen en technologieën heeft een impact op wat wij aan vrijheid hebben. En daarin moet de overheid keuzes maken: mag je zo vrij zijn dat je nog mag kiezen geen smartphone te gebruiken? De alpha’s (de filosofen, kunstenaars, denkers) en de bèta’s (de techontwikkelaars en visionairs) moeten meer met elkaar praten. Dat gebeurt nu wel steeds meer, maar om echt met elkaar in beeld te krijgen wat ons te doen staat en welke dingen op ons afkomen zullen we nog meer in gesprek moeten gaan en blijven. En handelen, want dat is het grootste appèl aan de overheid vandaag. We kunnen niet wachten.

De lezing en het gesprek krijgen een vervolg in een gespreksgroep / kring over hoe als rijksoverheid om te gaan met onze digitale afhankelijkheid. Dialoog en Ethiek neemt hiertoe het initiatief, ook om een volgend ‘I told you so’ te voorkomen.

Dit Hannah Arendt Podium werd geïnitieerd door Désirée Castillo Gosker, voorbereid door Winnie Hänschen en Esther Blaauw en gemodereerd door Hanne Bikker.