Essay: Technologie versus privacy
 

U wordt digitaal gekoloniseerd


Hoe beter we gezien worden, hoe minder we worden gehoord. Zo slaat het optimisme over technologie om in onbehagen.


Wat zou Google doen? Tien jaar geleden werd die vraag nog met het nodige ontzag gesteld. Het was de titel van een invloedrijk managementboek, waarin techgoeroe Jeff Jarvis ons aanspoorde om te leren van het ‘snelst groeiende bedrijf ooit’. Optimisme over digitale technologie en nieuwe media vierde hoogtij. Techbedrijven waren de good guys. Er hoefden in die jaren maar twaalf mensen op een plein met een spandoek te zwaaien of de samenkomst werd door journalisten pardoes tot de zoveelste ‘Facebook-revolutie’ bestempeld. Bovendien leek het onomstreden dat de wereldwijde beschikbaarheid van internet tot een ongekende democratisering van kennis en macht zou leiden.

Tien jaar later ontkom je er niet aan om met terugwerkende kracht ook een zeker onbehagen op die vraag te projecteren. Want ja, wat dééd Google eigenlijk, daar achter die bedrieglijk simpele webpagina? Alle informatie ter wereld organiseren en toegankelijk maken, luidde de officiële missie van het bedrijf. Een duizelingwekkende missie, waarvoor heel veel ingewikkelde algoritmes nodig waren, die met grote geheimzinnigheid omgeven werden.

Hoe het werkte, ging Google je niet precies vertellen – bedrijfsgeheim – maar het werkte duidelijk goed en efficiënt. Daar zit misschien een aspect van het onbehagen in: het idee van technologie die ons boven het hoofd groeit, die steeds slimmere beslissingen kan nemen, en steeds betere oplossingen kan bedenken dan wij mensen ooit zullen kunnen. Maar die niet aansprakelijk is voor de gevolgen van die beslissingen, omdat die genomen zijn door een onpersoonlijk algoritme.

Dat technologisch optimisme – of, zo u wilt, humanistisch defaitisme – van de jaren tien werkte een soort logica van de onvermijdelijkheid in de hand, die de afgelopen jaren onze leefomgeving drastisch heeft veranderd. Denk bijvoorbeeld aan al die steden die hun openbare ruimte volgehangen hebben met slimme camera’s, sensors, wifitrackers en andere surveillance-apparatuur, in de ambitie een ‘smartcity’ te worden. Zonder gedegen discussie over de wenselijkheid daarvan, want tja, ‘die kant gaat het toch op’. En zonder dat ze benul hebben op wat de techbedrijven die zulke projecten uitvoeren allemaal doen met de geoogste data, zoals in 2017 bleek uit een inventarisatie door Trouw.

“De vuilniswagen hoeft minder ritjes te maken”, aldus een woordvoerder van Amstelveen destijds. “Dat is toch fantastisch?” Zeker, maar met zulke efficiëntie groeit ook het onbehagen, omdat we voor die efficiëntie betalen met een munt waarvan we de wisselkoers nog niet goed kennen: persoonlijke data.

Af en toe krijgen we per ongeluk een kijkje onder de motorkap, en vangen we een glimp op van hoe zulke data inmiddels brandstof geworden zijn voor de commerciële aspiraties van techbedrijven. Bijvoorbeeld toen in 2010 uitlekte dat de camera-auto’s die namens Google rondreden om ’s werelds wegen in kaart te brengen voor Google Street View meer deden dan foto’s maken: ze zogen ook alle e-mails, wachtwoorden, medische gegevens en andere data van nietsvermoedende internetgebruikers uit open wifinetwerken.

Niet alleen Google maakt zich schuldig aan zulke praktijken. Zelfs speelgoedbedrijf Mattel stapte in de datahandel, en bracht in 2015 een ‘slimme’ Barbie op de markt. De pop kon niet alleen praten, maar vooral heel goed luisteren: alles wat in de beslotenheid van kinderkamers aan de poppen werd toevertrouwd, werd opgeslagen op de servers van Mattel. Ouders konden desgewenst per e-mail een transcriptje ontvangen, het bedrijf zelf gebruikte de opgenomen kindergesprekken voor het trainen van spraaktechnologie, kunstmatige intelligentie, en niet nader gespecificeerde ‘overige doeleinden’.

Of wat te denken van de Roomba, die handige kleine robotstofzuiger? Die blijkt ook plattegronden van je interieur door te seinen naar het hoofdkantoor. In 2017 kondigde de fabrikant aan dat het op zoek ging naar manieren om al die data te gelde te maken.

Bovenstaande voorbeelden lijken in eerste instantie groteske uitwassen. Maar vergeleken bij de onthullingen uit 2013 van Edward Snowden over de reikwijdte van de surveillance door Amerikaanse inlichtingendiensten, valt een stofzuiger die de afmetingen van je kamer naar een adverteerder doorseint nog best mee. Zulke surveillance door staten blijft in dit verhaal verder buiten beschouwing, we concentreren ons op de effecten van de zucht naar data door commerciële partijen. Maar wat de onthullingen van Snowden wel duidelijk maakten, is dat die twee hand in hand gingen.

Nog zo’n bron van onbehagen: staten leunden deels op grote techbedrijven om hun eigen surveillanceprogramma’s mogelijk te maken, in plaats van dat ze ons beschermden tegen de datazucht van zulke bedrijven.


Slimme deurbellen met gezichtsherkenning

Die datazucht strekt zich naar steeds nieuwe domeinen uit. Het begon natuurlijk met het in kaart brengen van alle informatie op het internet. Die oorspronkelijke missie van Google was tien jaar geleden lang en breed voltooid. Inmiddels had het bedrijf zich op een tweede project gestort: het in kaart brengen van de openbare ruimte in de fysieke wereld, via Maps en Street View.

Als je de openbare ruimte in kaart hebt gebracht, ligt de volgende uitdaging voor de hand: onze privé-leefomgeving. Evengoed reageerden veel analisten nog verbaasd, toen Google in 2014 voor ruim 3 miljard dollar Nest overnam, een fabrikant van slimme thermostaten. Wat had een internetbedrijf in hemelsnaam te zoeken in de verwarmingsbusiness? Inmiddels zitten er ook slimme deurbellen met gezichtsherkenning, slimme beveiligingscamera’s, slimme rookmelders en allerlei andere slimme snufjes in het assortiment van Nest, die allemaal 24 uur per dag data doorsturen naar de servers van Google, en die, zo moest Google dit jaar erkennen, ook uitgerust zijn met microfoons, zonder dat klanten daarvan op de hoogte waren gesteld. Vorig jaar kondigde Google bovendien een partnerschap aan met de maker van de Roomba-stofzuigers.

Nadat onze leefomgeving in kaart is gebracht, is de volgende grens het in kaart brengen van onszelf, ons binnenste. Ook op die missie hebben techbedrijven zich de afgelopen jaren enthousiast gestort. Met allerlei wearables en stappentellers is onze medische gesteldheid steeds beter uit te lezen. En ook onze emotionele gesteldheid blijkt kenbaar, uit de sporen die we online achterlaten. Ook al doordat de digitale publieke sfeer de afgelopen jaren steeds meer onder toezicht kwam te staan van enkele sociale-mediagiganten. De persoonlijke blogs die het internet in de jaren nul hadden gedomineerd verdwenen, ten gunste van Twitter, Facebook en Instagram, bedrijven die hun geld verdienen door persoonlijke data te gelde te maken.


‘Surveillancekapitalisme’

Onze emotionele gesteldheid is niet alleen kenbaar, maar zelfs manipuleerbaar, zo bleek toen Facebook in 2014 de resultaten publiceerde van een grootscheeps onderzoek naar ‘emotionele besmetting’ online. Het sociale-mediabedrijf had de nieuwsfeeds van miljoenen gebruikers expres gevuld met meer positief of juist negatief getoonzette berichten, en wat bleek: die dominante sfeer werkte ook door in de berichten die gebruikers zelf op Facebook plaatsten. Een paar jaar later maakte het schandaal rondom Cambridge Analytica nog maar eens duidelijk dat ook ons stemgedrag niet immuun is voor zulke pogingen tot beïnvloeding. Dat bedrijf bestookte kiezers met individueel gerichte politieke advertenties, op basis van tientallen miljoenen facebook-profielen die het op clandestiene wijze bemachtigd had.

Natuurlijk is dit alles niet onopgemerkt gebleven, en zwol de kritiek aan op al die ‘gratis’ producten die ons opgedrongen werden. Want wat als je zorgverzekeraar je een boete geeft als je de gegevens van je fitnessapp niet wilt delen? (Zoiets wordt natuurlijk meestal andersom gebracht: maak kans op kortingen als je het wel doet!) Of als je geen lening krijgt omdat een algoritme je op basis van je dataprofiel je niet kredietwaardig acht? Als je er niet voor betaalt, dan ben je waarschijnlijk het product, zo wil de moderne internetwijsheid.

Voor socioloog Shoshana Zuboff, die in 2018 een veelbesproken studie over ‘surveillancekapitalisme’ publiceerde, is zelfs dat nog te naïef. Je bent niet het product, schreef ze, je bent het achtergelaten karkas van de olifant die gestroopt werd om zijn ivoor. Wij zijn alleen nog interessant als toeleverancier van die waardevolle grondstof: persoonlijke data. Ooit werden die gebruikt om de service te verbeteren, en dat was verdedigbaar. Maar in het tijdperk van surveillancekapitalisme gebruiken grote bedrijven onze data voor hun eigen doeleinden: niet alleen om ons gedrag te voorspellen, maar zelfs in gewenste richting bij te sturen. We dreigen een soort geautomatiseerde consumptierobots te worden.


Geschiedenis van de cartografie

Ze kreeg forse kritiek van de linkse techniekfilosoof Evgeny Morozov, die haar op zijn beurt naïviteit verweet, maar dan over kapitalisme. Dat heeft ons immers altijd al in een door de markt gewenste richting bijgestuurd; dat is nu precies die ‘onzichtbare hand’ waar iedereen al eeuwen zo hoog over opgeeft. En dat de praktijken van Google en Facebook verontrustend zijn, zeker, maar dat surveillancekapitalisme de dominante logica van de economie is geworden, dat blijft onbewezen. Waarde wordt in de techeconomie immers ook nog steeds op heel veel andere manieren geproduceerd.

Terwijl zulke debatten onder technologiecritici voortwoeden, kunnen we evengoed al wat conclusies trekken over hoe de wereld de afgelopen jaren is veranderd, doordat ze steeds gedetailleerder in kaart is gebracht. Want dat is een inzicht dat we kunnen ontlenen aan de geschiedenis van de cartografie: iets in kaart brengen is ook een vorm van machtsuitoefening. Dat gold toen het Europese kolonialisme de rest van de wereld in kaart bracht en onderwierp, en het geldt ook bij de pogingen van de grote techbedrijven om eerst het internet, toen onze publieke ruimte, toen onze privéruimte en uiteindelijk ons binnenste in kaart te brengen.

Eigenlijk is kolonisatie een heel toepasselijke metafoor voor de effecten daarvan. Het begint al met de rechtvaardiging: zoals Europese machten er prat op gingen dat ze ontwikkeling brachten, bruggen, wegen en onderwijs, zo beloven techbedrijven betere service, beter contact met vrienden, en gratis onlinecolleges en TED-talks.


Techbedrijven eigenen zich onze arbeid toe

Maar wie wat beter kijkt, ziet dat techbedrijven ook andere praktijken van het kolonialisme kopiëren. Ze eigenen zich onze publieke ruimte toe om er winst aan te onttrekken. Google Maps is het standaardvoorbeeld, maar Zuboff haalt daarnaast Pokémon Go aan, een wereldwijde hype in 2016. Het verzamelde data over de bewegingen van spelers, die op zoek naar virtuele Pokémons door de echte straten struinden, en verkocht die door voor advertentiedoeleinden. Maar het stuurde de spelers ook in de gewenste richting, door Pokémons in de buurt van bedrijven te plaatsen die betaalden voor zulke extra klandizie. En als je ineens overvallen werd door een massa gamers in je voortuin, omdat daar een Pokémon neergezet was: succes met klagen.

Techbedrijven eigenen zich daarnaast onze arbeid toe. Neem Google: dat schrijft zelf geen teksten, maakt geen foto’s, bedrijft geen journalistiek, maar verdient wel miljarden aan het verkopen van advertenties op basis van haar ordening van al die vruchten van andermans arbeid.

En ten slotte: techbedrijven herinvesteren die winsten niet daar waar ze behaald zijn, maar verschepen ze naar hun eigen enclaves. De tech-economie biedt uitgelezen mogelijkheden aan bedrijven om niet langer in een lokale gemeenschap ingebed te zijn. De elektronicazaak waar we in de jaren negentig ons scheerapparaat kochten, had lokale mensen in dienst, en sponsorde waarschijnlijk ook nog het lokale sportteam. Die winkelier is inmiddels weggeconcurreerd door een webwinkel die spullen onder de kostprijs kan verkopen met dank aan miljardeninvesteerders die groei belangrijker vinden dan winst op de korte termijn, en die op basis van dataprofielen die goedkope scheerapparaten precies kan aanbieden aan mensen die er een zoeken.

Zo’n webwinkel investeert niet in lokale gemeenschappen, integendeel. Amazon.com, de grootste webwinkel ter wereld, organiseerde de afgelopen jaren een prijsvraag voor het vestigen van een tweede hoofdkantoor. Amerikaanse steden probeerden elkaar af te troeven met nog meer belastingvoordelen en voorzieningen voor het bedrijf.


De techbedrijven zullen hun formidabele macht niet zomaar opgeven

De baas van Amazon, Jeff Bezos, is volgens Forbes inmiddels de rijkste man ter wereld, met een vermogen van 131 miljard dollar. In de toptien komen we verder de oprichters van Facebook, Google, Microsoft en Oracle tegen. Zo veel spreiding van macht en kennis bewerkstelligt al die nieuwe technologie dus kennelijk toch niet.

Ze gaan vaak prat op hun filantropie, maar ook daarin openbaren zich bepaalde prioriteiten. Google-oprichters Sergey Brin en Larry Page pompen honderden miljoenen in Calico, een project om onderzoek te doen naar onsterfelijkheid. Terwijl ze het ook in publieke gezondheidszorg hadden kunnen stoppen. Tesla-oprichter Elon Musk investeert honderden miljoenen in onderzoek naar ruimtereizen en ondergrondse tunnels voor privéauto’s. Terwijl hij dat geld ook in openbaar vervoer had kunnen steken.

Zulke prioriteiten hoeven niet te verbazen. Hoe nauwkeuriger ze ons in kaart brengen, hoe beter ze ons kunnen zien, hoe minder ze naar ons hoeven te luisteren.

De tegenkrachten beginnen zich, voorzichtig, te organiseren. In Europa is vorig jaar privacywetgeving aangenomen, in Amerika klinkt de roep om het openbreken van de grote techmonopolies. Het zal nog wel wat strijd kosten, met techbedrijven die in de afgelopen tien jaar een formidabele machtspositie hebben opgebouwd, die een enorme politieke invloed hebben, en die door hun surveillancesystemen een beter zicht hebben op de publieke opinie dan wie dan ook.

Ze zullen die machtspositie niet vrijwillig opgeven. Wat zou Google doen?


Trouw, 28-12-2019 (Seije Slager)