Hoe het gif van de digitalisering de democratie sloopt. ‘De macht belandt bij een handvol bedrijven’

Marietje Schaake (2024), De tech coup. Hoe tech is gaan regeren en we de macht weer terugwinnen, Atlas Contact


De digitale revolutie heeft ons leven ontwricht, zo luidt de heldere diagnose van Marietje Schaake in De tech coup. Wat kunnen we ertegen doen?


Wie in het analoge tijdperk geboren is, weet nog hoe het is om je te vervelen, om verliefd te worden op iemand die je in een datingapp nooit instemmend naar rechts zou swipen. Of om geholpen te worden door échte mensen achter een toonbank, in plaats van te moeten klungelen met een chatdienst. Digitalisering heeft veel menselijkheid uit de samenleving geramd.

In De tech coup geeft Marietje Schaake geen ruimte aan nostalgische vergelijkingen. Ze analyseert vooral haarscherp de huidige digitale wereldwijde ontwrichting. Belangrijkste probleem daarbij zijn de overheden die de grootste techbedrijven van de wereld (Google, Amazon, Facebook (Meta) en Apple) hun ongebreidelde gang laten gaan.

Voorbeelden te over: onze privacy ligt op straat, desinformatie en nepnieuws verpesten verkiezingen, elk mobieltje kan spionagesoftware bevatten. Om maar te zwijgen over algoritmen die, zoals bij de Belastingdienst, vooroordelen van de makers kopiëren en daardoor discrimineren.


Stortvloed aan lobbyactiviteiten

Het boek is gebaseerd op Schaakes jarenlange ervaring als cyberexpert. Tegenwoordig is ze directeur van het Cyber Policy Center van de Universiteit van Stanford, waar ze ook lesgeeft en de gevolgen van kunstmatige intelligentie onderzoekt. Daarvoor werkte ze tien jaar als Europarlementariër voor D66 aan Europees cyberbeleid, zoals aan de AVG (Algemene Verordening Gegevensbescherming) die in 2016 door de EU is aangenomen.

De totstandkoming ervan ging gepaard met een ongekende stortvloed aan lobbyactiviteiten, schrijft Schaake: ‘Bedrijven gaven tegendruk en gebruikten elke truc en tactiek uit hun draaiboek’. Facebook verdubbelde zijn lobbybudget en dreigde investeringen in Europese landen terug te trekken. Vergeefs: de AVG werd ‘de meest robuuste online privacybescherming ter wereld’.

De tech coup is oorspronkelijk in het Engels geschreven, hier en daar aangevuld met Nederlandse voorbeelden. Het is goed gecomponeerd en focust scherp op de gevolgen van de digitale revolutie voor de democratie. Het boek bevat veel feiten. Sommige bekend uit het nieuws van afgelopen jaren, maar andere laten je de mond openvallen. Chips uit broodroosters en wasmachines worden nu hergebruikt in Iraanse drones die boven Oekraïne vliegen. Wie had dat kunnen voorspellen?

Schaake schrijft onder meer over haar ervaringen als internationaal waarnemer bij landelijke verkiezingen in Kenia in 2017. In deze uiterst kwetsbare democratie overheersten ook toen al geweld, corruptie en wantrouwen. Digitalisering kon verkiezingsfraude tegengaan, zo geloofden vooral veel jonge Kenianen.


Chaotisch verloop

Een westers bedrijf leverde de nodige software. De identiteit van de kiezers werd met een digitale vingerafdruk vastgesteld. Hun stemmen werden geregistreerd door 45 duizend tablets. Kenia trok een half miljard dollar uit voor deze operatie, 23 euro per Keniaan. (In het veel rijkere Nederland is het bedrag 3,70 euro per kiezer). Daarmee werd deze Keniase verkiezing een van de duurste ter wereld.

Maar het verkiezingsproces verliep chaotisch. Een week voor de verkiezingsdatum bleek de manager van het kiescomité gemarteld en vermoord. Op de dag zelf konden de tablets de stemmen niet doorsturen vanwege haperende elektriciteit.

De uitslag riep hevige protesten op bij de oppositie. Controle op de uitslag was onmogelijk omdat het softwarebedrijf geen toegang had tot de data die op servers in Frankrijk stonden. Lang verhaal kort: de Hoge Raad verklaarde de verkiezingen ongeldig. Het geweld en het wantrouwen in de Keniaanse democratie laaiden weer op.


Reguleren of verbieden

Naast deze specifieke voorbeelden schetst Schaake de mondiale invloed van big tech. Ze onderscheidt vier machtsblokken. Europa focust duidelijk op burgerrechten: ‘Silicon Valley mag dan het centrum voor technologische innovatie zijn, maar Brussel – de hoofdstad van Europa – is de voorhoede van de regulering van technologische innovatie.’ De Verenigde Staten leggen meer de nadruk op veiligheid. Het mogelijke verbod op TikTok, de populaire app van Chinese makelij, is er een voorbeeld van.

Op beide continenten beïnvloedt big tech diepgaand de politieke verhoudingen. Zoals Barack Obama al in 2008 de verkiezingen won dankzij een uitgekiende, door data gedreven communicatie met kiezers via sociale media, zo kwam de brexit tot stand met hulp van Cambridge Analytica, het softwarebedrijf dat hulp bood aan het Leave-kamp – en later ook aan Donald Trump.

Waar Europa en de Verenigde Staten nog proberen om de invloed van big tech te verminderen, investeert China juist krankzinnige bedragen in technologie om de bevolking te onderwerpen aan censuur, totale controle en propaganda. Nieuwe technologieën worden getest op de zwaar onderdrukte Oeigoerse bevolking, zoals software die emoties kan herkennen tot in de poriën van de huid.

Als vierde machtsblok noemt Schaake India. Hoewel dat land op papier een democratie is, heeft de nationaal-hindoeïstische regering Modi het land vaker dan welke overheid ter wereld het internet afgesloten voor zijn bevolking.


Makkelijk te hacken

Modi is ook fan van Aadhaar, een biometrisch systeem dat grootschalig vingerafdrukken en irisscans verzamelt en verbindt aan het equivalent van een burgerservicenummer. Positief is dat vooral arme plattelandsbewoners zo toegang krijgen tot overheidsdiensten. Het systeem blijkt echter makkelijk te hacken. Dramatisch voor de burgerrechten van de Indiërs is dat Modi het systeem wil koppelen aan de registratie van kiezers. Wie zich niet laat registreren verliest daardoor wellicht zijn stemrecht.

Schaake richt haar pijlen ook op specifieke technologieën die het publieke belang in het bijzonder schaden. Eén ervan is de cryptovaluta. Die spelen misdaad in de kaart en bedreigen de wereldwijde economische stabiliteit. Overheden hebben er haast geen invloed op.

Schaake stelt dat cryptovaluta eigenlijk gekoppeld moeten worden aan centrale banken. Ze citeert Johan Van Overtveldt, voormalig minister van Financiën van België en tegenwoordig lid van het Europees Parlement, die cryptovaluta ‘speculatief vergif’ noemt, zonder ‘economische of maatschappelijke toegevoegde waarde. Als een overheid drugs verbiedt, zou ze crypto’s ook moeten verbieden.’


Ongecontroleerd hun gang gaan

Ook herkenningsoftware zoals Clearview is schadelijk voor de democratie. Deze technologie verrijkt zichzelf met data door portretten op LinkedIn en twitter (X) af te schrapen. Dit soort software herkende een tijd geleden een Nederlandse vrouw als actievoerder van Extinction Rebellion op de landingsbaan van Schiphol. Ze kreeg een stevige waarschuwing van de politie. In werkelijkheid zat ze in de speeltuin met haar kinderen.

Het idee dat je onschuldig bent totdat het tegendeel is bewezen, erodeert hierdoor snel, zegt Schaake. Het patroon is duidelijk: techbedrijven kunnen ongecontroleerd hun gang gaan, totdat wetgeving ze terugfluit. Het verschil met geneesmiddelen en auto’s is groot. Die moeten aan vele voorwaarden voldoen voordat ze op de markt mogen komen. Schaake stelt: je kan ook aan digitale technologieën veel zwaardere eisen stellen. Ze zouden pas toegelaten moeten worden als vaststaat dat ze de privacy, persvrijheid en zelfbeschikking van burgers respecteren.

Of zo’n eis juridisch haalbaar is, laat ze hier en ook bij andere voorstellen in het midden. De digitale disruptie is zó groot dat we in dit stadium vooral moed en verbeeldingskracht nodig hebben, schrijft ze. Democratische waarden staan in de voorstellen voorop, de praktische uitwerking is voor de lange adem.


Paus in donsjas

Schaake schrijft ook over de toepassing van AI. Wie kan zich nog de foto herinneren van de paus in een gewatteerde jas van Balenciaga? Dat was een grapje, een fake-afbeelding gemaakt door een bouwvakker nadat hij een paar paddo’s had verorberd. Minder grappig is het beeld dat Schaake schetst: ‘Hoe meer democratische samenlevingen essentiële operaties overlaten aan AI-getrainde systemen, hoe meer de macht verder geconcentreerd zal raken bij een handvol bedrijven’.

Voorbeelden te over: AI-systemen bepalen wie er in aanmerking komt voor een medische behandeling of een baan. Schaake wil dat gebruikers vooraf geïnformeerd worden over toepassingen met AI, of het nu gaat om een afbeelding of over een beslissing van een overheid die je persoonlijk leven raakt.

Europa heeft inmiddels de AI-ACT, waarmee de EU sinds 2023 de risico’s van kunstmatige intelligentie aan banden legt. Als ik Schaake goed begrijp, gaat die wet nog lang niet ver genoeg.


Vervuilende technologie

Transparantie zou ook moeten gelden voor techbedrijven. Zij weten veel van ons maar wij weten weinig van hen. Ze zouden moeten vertellen hoe milieuvervuilend hun technologie is, maar ook waar hun kapitaal vandaan komt. Zo schrijft Schaake in haar boek dat Elon Musk, zelfbenoemd ridder van het vrije woord, zijn ‘X’ laat financieren door prins Al-Waleed bin Talal van Saoedi-Arabië, een land dat geen vrijheid van meningsuiting kent.

Afgelopen maand werd bekend dat ook Russische oligarchen investeren in X. Dat nieuws kwam te laat voor Schaakes boek, dat op de huid van een zeer verontrustende actualiteit is geschreven.


Trouw, 05-09-2024 (Tanny Dobbelaar)