De machine zoekt u


Verklaart de politieke polarisatie de losgeslagen haat op internet, of heeft the medium the message geschapen? Of is het een wisselwerking: politieke frustratie meets technologische middelen? De Derde Wereldoorlog is digitaal. En hoe hem te overleven.


Flashback. Een avondje cinema met een vriend. The Matrix slaat in als een bom: het besef dat de wereld zoals we haar zien een zorgvuldig geconstrueerde leugen is, wekt in mij een heroïsch verlangen om de waarheid bloot te leggen. Mijn vriend ziet een ander visioen: de Matrix perfectioneren en een eigen versie van de wereld scheppen. Hij werd social media-strateeg, ik journalist. Het was eind jaren 90. Vlaanderen had nog een gematigd politiek landklimaat.


Digitale vervuiling

Vandaag zijn seksisme, racisme en haatpraat dagelijkse kost in het publieke debat. Over heikele onderwerpen als islam, migratie en de crisis kan nauwelijks nog normaal worden gepraat: een trollenleger begraaft elke rationele stem onder kilo’s bagger. Daardoor treedt normvervaging op. Denk maar aan de ‘Zou u haar doen?’-oproep van geenstijl.nl, nadat columniste Loes Reijmer zich kritisch had uitgelaten over de site: een eindeloze stroom verkrachtingsfantasieën was het gevolg.

Op de Twitteraccounts van, ik zeg maar wat, onze staatssecretaris voor Asiel en Migratie, staan uitspraken die zelfs het Vlaams Belang 20 jaar geleden nooit zou hebben durven doen. Over #opkuisen, en zo.

Verklaart de politieke polarisatie de losgeslagen haat op internet, of heeft the medium the message geschapen? Of is het een wisselwerking: politieke frustratie meets technologische middelen? Docent Nieuwe Media en Politiek Ico Maly beschrijft het systeem in Diggit Magazine aan de hand van PVV-kopstuk Geert Wilders: grofgebekte clickbait wordt herhaald door militanten en versterkt door de filterbubbels van het internet. Voor- en tegenstanders delen de posts, de mainstreammedia berichten erover en plots weerklinken volstrekt politiek incorrecte stemmen in de publieke ruimte.

Is Trump verkozen dankzij het internet? Moeilijk te bewijzen, maar wie de Matrix naar zijn hand weet te zetten, beschikt over een machtig wapen. Feiten zijn nauwelijks nog van belang, algoritmes kunnen getraind worden om leugens voor waar te verkopen. En de filterbubbels omgeven ons met gelijkgestemden, waardoor dissidente stemmen worden gesmoord. Die relativiteit van de waarheid is problematisch: een beetje handige jongen houdt ons moeiteloos een vals wereldbeeld voor, en wij beseffen niet eens dat we niet naar de werkelijkheid kijken, maar naar een projectie.

The Matrix is the world

that has been pulled over your eyes

to blind you from the truth.

Algoritmes zijn formules die op basis van historische data en een ingevoerde definitie van succes voorspellingen doen over toekomstig gedrag van die data. ‘Succes’ is gekoppeld aan een commerciële, consumentistische logica: maken dat mensen een product dat hen bevalt, blijven kopen, het liefst steeds meer. Vertaald naar politiek betekent dat: polariseren, radicaliseren. De machines nemen de macht over en het zijn extremistische bastards. Welcome to the real world.

We beseffen niet, waarschuwt Cathy O’Neil in haar boek Weapons of Math Destruction, hoezeer onze maatschappij op big data models steunt. Sollicitaties, ziekteverzekering, gezichtsherkenningstechnologie… Zelfs de politie gebruikt algoritmes: op basis van statistieken over gepleegde misdaden worden hot zones afgebakend, waar meer gepatrouilleerd wordt. Helaas blijkt dat agenten door zulke ‘voorspellingen’ agressiever optreden in die wijken. Veiligheid door algoritme, of selffulfilling prophecy?

Het internet, waar we uren tijd doorbrengen en het leeuwendeel van onze informatie halen, is een integraal door formules geschapen schijnwerkelijkheid. Een Matrix. ‘De meeste mensen,’ stelt Rebecca MacKinnon, directeur van het Ranking Digital Rights-project in The Guardian, ‘zien het internet als de lucht die we inademen en het water dat we drinken. Maar wat we vergeten, is dat het geen natuurlijk landschap is. Het is geschapen door programmeurs, redacteurs, designers. Mensen, die keuzes maken.’

Alles, van onze Facebookpagina tot de Google-zoekresultaten die we zien, is gepersonaliseerd. Maar dat hebben we niet door, omdat we het niet kunnen vergelijken met een ‘objectieve’ pagina.

Morpheus: Have you ever had a dream, Neo,

that you seemed so sure it was real?

If you were unable to wake up from that dream,

how would you tell the difference

between the dream world & the real world?

Ons wereldbeeld wordt dus grotendeels bepaald door de keuzes van mensen die de algoritmes schrijven. Alleen kennen we die niet, want Google en Facebook weigeren hun algoritmes publiek te maken.

Kleine index van de problemen


GOOGLE

Stel: je vraagt in de bibliotheek naar boeken over Joden. De bibliothecaris overhandigt je tien boeken, waarvan negen antisemitische. Het overkwam een journaliste van The Observer, toen ze op Google ‘Are Jews ...’ intikte. Meteen vulde de zoekmachine aan: ...evil? en suggereerde antisemitische pagina’s zoals Jewwatch.org. Andere autocompletes: Are black men …criminals? Are women …prostitutes? Wil dat zeggen dat er seksisten en racisten achter de knoppen zitten? Wellicht niet. Het is ‘gewoon’ het algoritme dat ontspoort.

Algoritmes liegen. Ze versterken vooroordelen, omdat we vooral doorklikken op antwoorden die bevestigen wat we al denken. En mensen zijn pessimisten: negatieve suggesties worden tot 15 keer vaker aangeklikt dan positieve. Maar soms worden algoritmes bewust gemanipuleerd, stelt Brittan Heller, directeur Technology & Society bij de Anti-Defamation League. ‘Groeperingen zoals alt-right gebruiken dezelfde technieken als grote marketingbedrijven om hun propaganda omhoog te duwen in de zoekresultaten.’ Daardoor krijgen extreemrechtse sites én meer klikverkeer én een betrouwbaarheidslabel. Vervelend als Google, dat ons wereldbeeld én ons stemgedrag bepaalt, extreemrechtse nonsens voor waar verkoopt.

Na een klacht van de Anti-Defamation League over het feit dat de zoekterm ‘Jews’ naar antisemitische pagina’s leidde, plaatste Google er een asterisk bij met ‘Deze zoekresultaten kunnen verontrustend zijn, maar dit is een automatisch proces’. Blame the machine.

Robert Epstein van het American Institute for Behavioral Research and Technology is ervan overtuigd dat Google verkiezingen kan beïnvloeden via SEME, search engine manipulation effect. Uit zijn experimenten bleek dat veranderingen in de volgorde van zoekresultaten zwevende kiezers over de streep kunnen trekken. En als het weghalen van een negatieve suggestie, die 15 keer vaker wordt aangeklikt, de verkoop van een product zwaar beïnvloedt, wat betekent dat dan voor verkiezingen? Want Google verwijdert soms manueel bepaalde autocompletes. Alleen: ze zeggen niet wanneer. Er zijn geen regels. Geen aansprakelijkheid.


FACEBOOK

Mark Zuckerberg wilde mensen verbinden, helaas connecteert Facebook ook extremisten, van neonazi’s tot jihadi’s. En het filterbubbel-algoritme, dat ons met gelijkgestemden omringt, polariseert de wereld: tijdens de Amerikaanse verkiezingen was er een blue feed en een red feed. Bovendien maakt het van Facebook een gigantische echokamer: nergens verspreiden leugens zich zo snel. Fake news raasde als een bosbrand door het sociale netwerk. Wat telt, is dat iets wordt gedeeld en geliket, want dat doet de kassa rinkelen. Voor het businessmodel van de site is de waarheid van geen belang.

De ideale omgeving voor clickbait van onder meer het extreemrechtse Breitbart News. Kiezers werden overstelpt met valse informatie die bevestigde wat ze al dachten. Hoe vaker ze doorklikten, hoe meer propaganda ze kregen. Toch wil Facebook geen redactionele verantwoordelijkheid nemen voor de inhoud op de site – tenzij het bloot betreft: liever tien nazi’s dan één tepel – want ‘ze zijn geen mediabedrijf’. Kras, als je weet dat 44 procent van de Amerikanen zijn nieuws via de site binnenkrijgt.

‘Crazy nonsense’, vindt Zuckerberg, te denken dat Facebook zwevende kiezers beïnvloedt. Toch zien marketingjongens in de data die ze van Facebook plukken dé manier om kiezers te lokken. Segmenteren, heet dat: precies die ads naar de kiezer sturen die aansluiten bij zijn gevoeligheden. Trump gebruikte tijdens zijn campagne meer dan 50.000 versies van dezelfde advertenties.

Dezelfde truc leverde de Nederlandse politicus Thierry Baudet twee zetels op door specifiek kiezers uit de transportsector te targetten. En ook de N-VA gebruikt dit systeem. De door Zuckerberg & co. geschapen toekomst helt behoorlijk over naar rechts.


TWITTER

Wat scheldtirades betreft, is Twitter met voorsprong de koploper. Hier bekampen hele trollenlegers elkaar, van gefrustreerde huisvaders tot hybride trollen, die gerekruteerd en betaald zijn om het debat rond gevoelige thema’s te koloniseren. Met stofwolken van fake news maken ze onzichtbaar wat er echt gebeurt en via trending hashtags bepalen ze welke topics hot zijn.

De impact van trollen op het maatschappelijke debat, de politieke agenda en de nieuwsselectie in de media is veel groter dan we denken. Volgens alt-right-specialiste Shane Burley manipuleert vooral (extreem)rechts de sociale media met massale acties. Ze framen bijvoorbeeld grotendeels het debat rond migratie: onder invloed van de ‘trend’ stellen politici en media hun koers bij.


FAKE NEWS

Uit een analyse van Buzzfeed tijdens de Amerikaanse verkiezingen bleek dat 40 procent van de posts op drie rechtse en 20 procent van de posts op drie linkse FB-pagina’s valse informatie bevatte. Trump valideerde de leugens live, en probeerde tegelijkertijd de reguliere media te discrediteren, want zo functioneert de Matrix optimaal. Virtueel is het criterium voor waarheid kwantiteit: elke repost maakt een leugen meer ‘waar’. Wie ‘zijn’ waarheid wil laten primeren, heeft dus zoveel mogelijk sites nodig die zijn boodschap herhalen.

Die industrie bestaat. Assistent-professor Communicatie Jonathan Albright onderzocht dataverspreiding door rechtse websites. Vanuit 306 fake news-sites strekken zich miljoenen weblinks uit naar Youtube, Facebook en honderden sites, die op hun beurt weer duizenden links uitsturen. ‘Het reguliere medialandschap is omsingeld door een satellietschild van rechtse propagandasites. In 3D ziet het eruit als een virus, en Facebook, de ideale omgeving voor snelle vermenigvuldiging, treedt op als host. Het is geen samenzwering, maar een ecosysteem dat de reguliere media verstikt.’

Een informatieoorlog, noemt hij het. Vaak gaat het niet om leugens, maar om grijze zones van complexe thema’s zoals migratie, klimaat en economie. Zorgvuldig uitgekozen cijfers en feiten worden retorisch ingezet, als wapen voor één ideologische boodschap. En het systeem leidt een eigen leven: zelfs als we het niet meer voeden, wordt het groter en extremistischer. ‘Met elke muisklik versterkt het zichzelf: hatesites staan bovenaan in de zoekresultaten, mensen klikken door, de pagina’s krijgen meer verkeer, de links stijgen in de ranking en winnen aan geloofwaardigheid.’

Het is een gesloten economie die de haatboodschap continu versterkt. Razendsnel.

Tussen de lancering van fake news en de correctie na factchecking zit gemiddeld 13 uur. In die tijd heeft het originele bericht zich miljoenen keren vermenigvuldigd. Dankzij, onder meer, de echokamer van Facebook. De correctie via reguliere media, die niet strookt met onze vooroordelen, wordt minder snel vermenigvuldigd en bereikt veel minder lezers.


DATAMINING

Het ‘schaduwweb’ verspreidt niet alleen (extreem)rechtse propaganda, maar wordt ook gebruikt voor datamining. Wie de sites bezoekt, wordt door trackers gevolgd over het hele net. Op basis van die data worden gepersonaliseerde politieke campagnes opgezet door bedrijven als Cambridge Analytica, dat de campagnes van Trump en het Britse ‘Vote Leave’ voerde. Twee keer ‘raak’.

Detail: in de raad van bestuur zetelt onder anderen ex-Trump-adviseur Steve Bannon, oprichter van het extreemrechtse Breitbart News. Op de site prijkt de slogan: Cambridge Analytica uses data to change audience behaviour. Dankzij de psychologische profielen van 220 miljoen Amerikaanse kiezers, van wie het dankzij datamining alle persoonlijke voorkeuren en gewoontes kent. Campagnes konden zo verfijnd worden tot een demografische groep of zelfs toegespitst op één wijk.

Een propagandamachine die mensen op individuele basis rekruteert voor een ideologie: zo’n niveau van social engineering is volgens Albright ongezien. En zo slagen de bedrijven erin, stelt professor Martin Moore, 150 jaar verkiezingswetgeving te omzeilen.

Kortom: Google en Facebook hebben een gigantische impact op de democratie, hun ceo’s schuiven elke verantwoordelijkheid af en juridisch is er geen kader. Of: wij denken dat wij het nog steeds voor het zeggen hebben, terwijl de machines het allang overgenomen hebben. Mensen zijn plug-ins geworden die het systeem voeden met data. Meer niet.

What is the Matrix? Control.

The Matrix is a computer-generated dream world

built to turn a human being into this.

*Holds up a battery*

Digital Warfare

Dodge this.

Rusland is een van de koplopers in digital warfare. Kremlin-gelinkte nepaccounts kochten voor 100.000 dollar FB-ads tijdens de presidentsverkiezingen in de VS. Journalist Max Seddon bestudeerde tijdens de Oekraïnecrisis een door het Kremlin gefinancierd troll agency: elke blogger plaatst dagelijks 50 comments op nieuwssites, drie posts op zijn 6 FB-accounts en 50 tweets op zijn 10 Twitter-accounts. Het resultaat? In een gerichte aanval kreeg The Guardian 40.000 comments per dag binnen op berichtgeving over het neergehaalde vliegtuig van Malaysia Airlines: ziehier de weaponisation of social media.

Uit een case study van de NAVO, Internet Trolling as a hybrid warfare tool, blijkt dat langdurig trollen de overtuigingen van mensen kan veranderen. En doordat de indruk wordt gewekt dat de nepprofielen de stem van een grassroot-groep vertegenwoordigen, leidt trollen ook tot etnische en politieke polarisering. Vraagt u zich nog steeds af waarom het debat de laatste jaren zo verhard is?


Geheim wapen

Sinds kort zetten alle Belgische partijen voor hun campagnes zwaar in op sociale media, alleen de N-VA deed dat al eerder, naar internationaal model. In 2013 rekruteerde ze een digitaal marketeer van een commercieel bureau als socialmedia-strateeg en in 2014 voerde reclamebureau Brandhome haar digitale campagne.

De kracht van de sociale media werkte: 600.000 surfers bezochten de partijsite, de ‘echte mensen’-filmpjes werden 1,4 miljoen keer bekeken, de online ads 420 miljoen keer. Via een online dashboard, volgens campagnemaker Erik Saelens het ‘geheime wapen’ van de partij, werd minutieus gemonitord wie hoe reageerde op welke reclame. Likes, shares, comments werden nauwgezet geanalyseerd, waarna 800.000 gepersonaliseerde mails de deur uit gingen. Propaganda-op-maat.

Ook op Facebook en Twitter wist de N-VA het sneeuwbaleffect van de sociale media in haar voordeel om te buigen. ‘De N-VA bepaalde de agenda van en voor iedereen. De andere partijen hebben dat pas begrepen toen het al te laat was. Ze waren zo druk bezig de N-VA tegen te werken, dat ze niet doorhadden dat we hen onze campagne lieten versterken. Idem dito voor een aantal traditionele media’, schrijft Saelens in Gebrandmerkt, zijn boek over de campagne.

Tegenwoordig maakt de partij (net als Open VLD) gebruik van data-analyses van persoonsgegevens die we ondoordacht afstaan omdat we zelden de gebruiksvoorwaarden van een site lezen. Wettelijk is er geen probleem: datamining mag. Ook op Twitter is de N-VA met 52 procent twitterende kandidaten veruit de grootste speler, én de partij met de meeste trollen. Betaalt de N-VA dat trollenleger om haar visie te pushen? Wellicht niet. Het is best mogelijk dat de hybride trollen van vandaag niets anders zijn dan de partijmilitanten van vroeger. De plak-en-knokploeg.

Trollen, weten we intussen, worden aangedreven door boosheid en frustratie. Logisch dus dat vooral de N-VA er zoveel heeft: de campagne-ideologie steunt op het idee van stille wraak. Saelens citeert De Wever: ‘De Vlaming is een stille wreker. Hij kan zich ongelooflijk lang zo stil als een muis houden, maar op een gegeven moment komt al die verzwegen boosheid er toch uit. Dan verandert die muis in een leeuw.’ Of in een trol.


Reclaim internet

Zijn de digitale wapenwedloop en de politieke polarisering nog te stoppen? Haat is altijd beter georganiseerd en militanter dan tolerantie. En mensen met een andere mening dan de meeste van hun FB-vrienden zwijgen, waardoor de roepers vrij baan krijgen. ‘De spiraal van de stilte’ noemt het PEW Research Centre dat. We zitten diep in de nesten, maar het tij valt nog te keren, als we erin slagen het internet terug te claimen van de rechtse roepers en een ecosysteem van informatie opzetten dat mensenrechten en democratie dient in plaats van ze te vernietigen. En dat, concludeert MacKinnon, is de verantwoordelijkheid van ons allen. Of met filosoof Edmund Burke: All that is necessary for the triumph of evil is that good men do nothing.

Pardon? klinkt het vanuit de zetel, wat kunnen wij, machteloze burgers, beginnen tegen twee machtige bedrijven? Onze boze reacties vormen alleen maar extra tentakels voor Albrights ‘schaduwnet’. Kunnen we de roepers niet beter negeren?


Indignez-vous

Onverschilligheid, zei Sartre, is de slechtst denkbare houding tegenover geweld. Maar meer polarisatie brengt ons nergens. Is geweldloos verzet een optie? Gandhi stopte paarden door te gaan zitten, maar werkt dat met trollen en algoritmes?

Cyberspace heeft een achilleshiel: winstbejag. In plaats van – wellicht vruchteloos – klacht in te dienen voor seksuele intimidatie, schreef Loes Reijmer met honderd andere mediavrouwen een open brief aan de adverteerders van geenstijl.nl. Fijntjes wezen ze de Efteling, McDonald’s en de Nederlandse overheid erop dat hun merk prijkt op een site die bulkt van seksisme, racisme en homofobie. Nogal wat adverteerders trokken zich terug. Winnen kan dus.

Trinity: What is he doing?

Morpheus: He’s beginning to believe.

Menselijkheid, schreef Stéphane Hessel in Indignez-vous, is de nood voelen om in opstand te komen en het engagement dat daaruit voortvloeit. Dat is precies wat we nodig hebben. Het engagement van de gematigden. Het is de gematigde massa zwijgende Vlamingen die moet opstaan en zeggen: genoeg. Niet op mijn internet. Niet in mijn realiteit. Dus laat dit een oproep zijn tot verontwaardiging. Tot verzet tegen de digitale vervuiling en verrechtsing, tegen polarisatie en haatpraat. Een terugclaimen van onze menselijkheid, een opstand van de mens tegen de machines. Tegen de Matrix. Hoe? Simpelweg door militant gematigd te zijn.

Unfortunately, no-one can be told what The Matrix is. You have to see it for yourself.

Disclaimer: Is dit de waarheid? Geen idee. Mijn research werd bepaald door mijn filterbubbel, en ik ken de algoritmes niet die mijn wereldbeeld bepalen. Ik kan alleen proberen beter te kijken. Ik raad u aan hetzelfde te doen.


DS, 23-09-2017 (Gaea Schoeters)

__________________
"Never argue with an idiot, they'll just bring you
down to their level and beat you with experience." (c)TB