'Surveillancekapitalisme'

[bijlinda]

De EU moet zijn slappe houding tegen big tech aanscherpen, of we zijn verloren


Big tech bedreigt met AI niet alleen onze privacy, maar ook onze vrijheid, schrijft Tim Brys. Alleen strengere regelgeving kan ons redden.


De digitale wereld is eigenlijk een grote ruilhandel opgezet door techbedrijven. Neem nu Google met zijn diensten, die een enorm marktaandeel bezitten: met Gmail sturen we mails, met Search zoeken we het internet af, met Photos stockeren we onze foto’s, met Maps navigeren we, met Youtube kijken we filmpjes, met Chrome browsen we en met Android besturen we onze smartphones. In ruil voor al die gratis diensten mag Google onze mails lezen, onze foto’s bekijken, onze bewegingen volgen, weten wat we ons afvragen, wat ons interesseert, welke websites we bezoeken en hoe we onze smartphone gebruiken. De verantwoording die Google aanvoert voor die ruilhandel is dat de data moeten dienen om zijn diensten te verbeteren. Het enige wat wij moeten doen, is op “I agree” klikken. En, stelt Google ons gerust: het zijn niet mensen, maar algoritmes die onze data analyseren.

Je hoeft geen cynicus zijn om te vermoeden dat Google niet gemotiveerd wordt door altruïsme bij die datagaring. Elf jaar geleden al noemde onderzoekster Shoshana Zuboff Googles werkwijze “surveillancekapitalisme”: “Een nieuwe economische orde die beslag legt op menselijke ervaring als gratis, grondstof voor heimelijke, commerciële praktijken van ontginning, voorspelling en verkoop.” De data die de algoritmes van Google ontginnen uit onze interacties met hun vele platformen leiden dus tot nauwkeurige analyses en voorspellingen over ons denken, verlangen en handelen. Die voorspellingen zijn goud waard: ze kunnen verkocht worden aan anderen die ons willen beïnvloeden.


Natte reclamedroom

Zo verwezenlijkte het surveillancekapitalisme de natte droom van elke adverteerder: niet meer in het wilde weg schieten met dure tv-spotjes en reclameborden langs de weg. De reclame die Google faciliteert, is hypergepersonaliseerd en dus goedkoper en effectiever. In een handomdraai bereik je het juiste publiek: aanstaande vakantiegangers om je sandalen aan te slijten of zwangere vrouwen om van jouw pampers te overtuigen. Maar ook ideologen en propagandisten maken er gretig gebruik van: burgers een politiek duwtje geven met op maat gemaakte boodschappen (zie de Amerikaanse verkiezingen van 2016 en het referendum over de Brexit), ontevreden jongeren radicaliseren (denk aan Islamitische Staat), of samenzweringstheorieën verspreiden onder potentiële believers (de lijst is eindeloos).

Het surveillancekapitalisme is dus niet alleen een enorme inbreuk op onze privacy, maar ook een globaal systeem van gedragswijziging. We ruilen niet alleen onze privacy in voor gratis internetdiensten, maar ook onze vrijheid. Surveillancekapitalisten willen uiteindelijk ons gedrag zo veel mogelijk automatiseren. Hoe voorspelbaarder we zijn, hoe zekerder ze weten welke advertenties zullen werken en hoe meer geld ze aan ons verdienen. Zo wordt onze individuele vrijheid ondermijnd, én de democratische systemen die erop stoelen.

De doorbraak van ChatGPT en co. maakt nu een surveillancekapitalisme op steroïden mogelijk. De techbedrijven hebben een nog grotere goudmijn aangeboord: gesprekken met chatbots. Die variëren van professionele interacties, waarin gevoelige en vertrouwelijke info gedeeld wordt, tot regelrechte relaties, waarin gebruikers hun interesses, angsten, verlangens, noden en trauma’s tot in de intiemste details bespreken. Die waardevolle data kunnen gebruikt worden om een nog veel nauwkeuriger profiel van ons op te stellen, voor nog betere voorspelling en manipulatie. (En aan de horizon zien we de ultieme surveillancetool opdoemen: het soort brein-computer-interface waar Elon Musks Neuralink aan werkt.)


Faustiaans contract

Surveillancekapitalisme vangt ons in een faustiaans contract: onze ziel in ruil voor de diensten van een digitale Mefistofeles. Alleen mocht Faust wachten tot het hiernamaals om zijn demon terug te betalen, wij doen dat vandaag al door te dansen naar de pijpen van onze Amerikaanse meesters. Ook het hellevuur voelen we nu al: techbedrijven verwerven het soort concentratie van macht, rijkdom, kennis en controle over de bevolking dat doet denken aan totalitaire regimes. Is het verwonderlijk dat Rusland en China gelijkaardige technieken gebruiken (DS 1 september)? Het verschil is dat wij vrijwillig kiezen voor onze geleidelijke onderwerping.

Wanneer zal het de Europese Unie lukken om het demonische surveillancekapitalisme uit te drijven? Trump dreigde vorige week opnieuw met hoge invoertarieven voor landen die Amerikaanse technologie proberen te reguleren, zoals de EU doet met haar GDPR en met verordeningen zoals de Digital Services Act en de Digital Markets Act. Verdere regulering zal ons dus iets kosten. Zullen we de moed hebben om voor onze vrijheid te vechten? Voorlopig lijkt de EU alleen maar bescheiden boetes uit te delen (DS 4 september).

Bij Faust loopt het verhaal goed af: God redt de dokter uit de klauwen van zijn demon. Wij mogen ook de hoop niet opgeven, surveillancekapitalisme is niet ons onvermijdelijke lot. Het komt voort uit menselijke keuzes en menselijke keuzes kunnen die ongedaan maken, we kunnen het uit de wereld helpen met doeltreffende regulering, we kunnen alternatieve digitale systemen bouwen gestoeld op ethische businessmodellen, we kunnen PbD-tools (privacy by design) gebruiken zoals de DuckDuckGo-zoekmachine, Brave-browser of Punkt-smartphone. We kunnen dat, want we zijn, voorlopig toch nog, vrij.

Tim Brys, doctor in artificiële intelligentie (VUB)


Blog DS, 04-09-2025