bijlinda
8th April 2018, 03:01
Hoeveel geeft u deze tekst?
Restaurants, winkels, ook geldautomaten, alles recenseren we online. Zelfs de consument krijgt nu reviews. Worden we straks afgerekend op de minste sociale misstap? ‘Na zo’n review kan ik het wel schudden als huurder op Airbnb.’
‘Eindelijk een geldautomaat in de stationsbuurt. Alleen jammer dat hij nogal traag is’, schrijft onbekend over een bankautomaat in onze buurt. Rapport voor de automaat: 3 sterren. De Verbrande Brug in Vilvoorde scoort iets beter met 3,5 sterren. ‘Vaak file’, leest het commentaar. ‘De brug gaat ook pal in de spits voor enkele boten tegelijk open.’
‘De recensieterreur is overal’, vatte de Nederlandse cabaretier Jan Derks die groeiende neiging onlangs samen om over alles wat te moeten vinden. ‘Restaurants worden rijk of arm gerecenseerd, bedrijven vragen klanten om hun medewerkers te beoordelen, elke webshop hanteert sterren voor elk product. Klant is koning, maar wat moeten we met miljoenen koningen?’
Wat die koning vandaag veel minder beseft, is dat ook hij wordt beoordeeld, merkte François toen hij onlangs een Ubertaxi bestelde op een afgelegen plek in het Brusselse. ‘Toen de chauffeur me oppikte, vertelde hij dat mijn goede score de enige reden was dat hij was komen opdagen. De app gaf 5 sterren aan. Uberchauffeurs beoordelen hun klanten na een rit. Als je niet of laat komt opdagen, kan je een lagere score krijgen, legde hij uit.’
François, een frequent Ubergebruiker, was er zich niet van bewust. En hij is niet de enige. Is de klant dan niet langer koning? ‘Wij hebben twee klanten: de passagiers én de chauffeurs’, reageert Daniel Byrne, communicatieverantwoordelijke van Uber. ‘Door de wederzijdse reviews wordt in onze community niet alleen een passagier maar ook een chauffeur respectvol behandeld. Passagiers waarderen dat ook zij gerecenseerd worden. Zo weten ze dat ook zij zich moeten gedragen.’
Een slechte score krijg je volgens Byrne ‘als je kotst in de auto, stomdronken instapt, luidruchtig bent of je agressief gedraagt tegenover de chauffeur. Als de chauffeur een passagier een score lager dan 5 sterren geeft, vragen wij waarom. Die feedback kunnen we terugkoppelen naar de betrokkene. Als dat regelmatig voorvalt bij dezelfde persoon, weten de chauffeurs dat ze met die passagier moeten oppassen.’
De informatie wordt vertrouwelijk bewaard, zegt Byrne. ‘Het zijn verzamelde gegevens, geen individuele. Volgens de Europese wetgeving mogen we ze niet gebruiken.’ Byrne benadrukt dat één slechte recensie weinig effect heeft, je krijgt pas een algemene score na vijf recensies. ‘Chauffeurs mogen niet discrimineren, maar sommige vervoeren liever enkel klanten met een goede score. Maar dat is uitzonderlijk.’ François begrijpt het best. ‘De plek waar de chauffeur me moest oppikken, was afgelegen. Het blijft ook een zakelijke transactie. Als je klant niet komt opdagen, maak je verlies.’
Black Mirror
Rankings en lijsten zijn populair, omdat ze perfect aansluiten bij hoe we zélf in het leven staan. ‘Bij een eerste ontmoeting beoordelen we mensen niet grondig, maar snel en oppervlakkig’, zegt professor persuasieve technologie Karolien Poels (UAntwerpen). ‘Sterrenscores en recensies spelen daarop in. Ze zijn handig om snel beslissingen te maken. Als je een hotel wil boeken, is het makkelijk als je je zoektocht kan beperken tot hotels met minimaal 8 op 10. Daarna graaf je dieper.’
Het gebruik van recensies in de nieuwe economie, zoals bij Uber of Airbnb, is niet noodzakelijk negatief, zegt Poels. ‘Op platformen zonder tussenpersonen is een wederzijds beoordelingssysteem goed, zelfs nodig. Het leidt tot vertrouwen tussen onbekenden en maakt economische transacties tussen vreemden mogelijk.’ Die wederzijdse beoordeling kan zelfs vooroordelen wegwerken, zegt Poels. ‘Als een chauffeur aan de score ziet dat de klant betrouwbaar is, zal hij sneller geneigd zijn hem wel op te pikken in een gevaarlijke buurt, terwijl hij bij een anonieme beller misschien zou aarzelen. Maar klanten uit moeilijke buurten zullen misschien wel nog moeten opboksen tegen stereotiepe denkbeelden en zo minder snel een goede score opbouwen. Een wederzijdse beoordeling zorgt dus voor zelfregulatie, op voorwaarde dat ze op een faire manier gebeurt.’
Wat als een van beide partijen zijn gal online spuwt en de andere zichzelf niet herkent? Het overkwam Philippe deze zomer, nadat hij een Airbnb-woning had gehuurd met zijn vrienden en kinderen. Toen hij afscheid nam van de eigenares, meldde hij dat er servies was gesneuveld. Of dat vergoed moest worden? Niet nodig, suste de vrouw. Na het afscheid plaatste hij een lovende recensie – het huis was netjes en in orde. Pas na zijn post kon hij haar oordeel over hem lezen. Het was vernietigend.
‘Ik werd, kort samengevat, neergezet als een lawaaierige, achterbakse huurder die spullen stukmaakt zonder ze te willen vergoeden.’ Philippe vond het onfair en laf. ‘Ze nam met de glimlach afscheid en brak me nadien online af.’ De vrouw had zelfs kritiek op hoe Philippe met zijn kinderen omgaat. ‘Dat ging me te ver.’
Airbnb-woordvoerder Bernard D’Huyghere verwijst naar de algemene voorwaarden bij geschillen op de site. Die vermelden dat je na een review waarmee je het niet eens bent contact kan opnemen met de globale klantendienst. Dat kan enkel online, een telefoonnummer vonden we niet meteen. Je kan reageren op een review, maar ze deleten kan niet. Reviews worden niet verwijderd, tenzij ze het ‘inhoudelijke beleid’ van Airbnb schenden. ‘Negatieve ervaringen zijn zeldzaam’, zegt D’Huyghere. ‘We zullen nog contact met de gebruiker opnemen, maar we hebben gezien dat hij alle info heeft gekregen over hoe te reageren op een review.’
Philippe was aanvankelijk te verbouwereerd om te reageren. Hij moest een paar dagen bekomen van die negatieve commentaar, zegt hij. ‘In een klein dorp werd je vroeger ook beoordeeld als je levensstijl afwijkend was. Door de technologie gaat de impact maal honderdduizend. Ik kan het schudden als huurder op Airbnb. Wie wil nu iemand die zogezegd achterbaks is, veel lawaai maakt, dingen beschadigt en zijn kinderen niet opvoedt?’
De vrouw online van repliek dienen, wou hij niet. ‘Dan eindig je in een online opbod. En die negatieve commentaar blijft toch hangen.’ Het is gevaarlijk zegt hij, zo’n beoordelingssysteem waarbij mensen elkaar vrijelijk kunnen afkraken. ‘Ik heb een dienstverlening beoordeeld, de verhuurster mijn persoonlijkheid. Ik had het gevoel dat ik in de aflevering “Nose Dive” van Black Mirror terecht was gekomen. Sociaal veroordeeld zonder eerlijk proces.’
Mijn sociale kredietscore
In die aflevering van de Netflixserie, die ons een gitzwart technologisch toekomstbeeld toont, is de wereld veranderd in een shiny happy roze gekleurde, maar hypocriete plek waar je sociale status en het oordeel van anderen alles bepalen: waar je mag wonen, wie je vrienden kunnen zijn, welke lening of privileges je krijgt. Na elke interactie – een ontmoeting in de lift, een gesprek in de winkel – geven bekenden en onbekenden elkaar scores van 1 tot 5. Ben je onbeleefd, uit je kritiek over je geannuleerde vlucht, kom je te laat voor je taxi: elke kleine ‘sociale’ misstap is goed om je totaalscore te verlagen en bijgevolg je levenskwaliteit.
De Britse Rachel Botsman onderzoekt hoe technologie ons en de samenleving beïnvloedt en wijzigt. In haar jongste boek, Who Can You Trust? How Technology Brought Us Together and Why It Could Drive Us Apart, vraagt ze zich af of die gevaren wel zo ver af zijn als ze lijken. In China lijkt die toekomst alvast angstaanjagend dichtbij te komen. Een allesomvattend puntensysteem zal daar vanaf 2020 elke Chinese burger een ‘sociale kredietscore’ geven die zijn leven bepaalt: welke lening hij krijgt, welke baan, welk vervoersmiddel. Niet alleen data over financiële betrouwbaarheid en kredietwaardigheid tellen mee voor punten, ook die over ‘ideologisch goed gedrag’ worden meegerekend. Zo kan je een strafpunt krijgen als je vijf keer oversteekt bij rood licht. Wie te veel strafpunten heeft, krijgt een lage score. Voorlopig nemen Chinezen vrijwillig deel, vanaf 2020 is het verplicht.
‘Black Mirror lijkt een toverbol geworden die de toekomst voorspelt’, mailt Rachel Botsman ons. ‘In februari 2017 kondigde het Volkshooggerechtshof van China aan dat 6,15 miljoen mensen in het land de afgelopen vier jaar geen vliegtuig op mochten wegens sociaal wangedrag. 1,65 miljoen mensen kunnen de trein niet nemen, omdat ze op de zwarte lijst voor sociaal krediet staan, de lijst van “oneerlijke mensen”. Aan de ene kant zal een sociaal kredietsysteem vrijwel zeker mensen aanmoedigen om eerlijker te handelen en zich aan de regels te houden. Aan de andere kant is het een verontrustende versie van reputatie-economie die overheden ongekende controle geeft over wat zij beschouwen als goede en slechte manieren om je te gedragen.’
Als Botsman westerlingen vertelt over China, reageren ze ongelovig en ontzet. Nochtans leven ook wij al in een wereld waarin onze dagelijkse activiteiten voortdurend worden gemonitord en geëvalueerd: wat je in welke online shop koopt, waar je je wanneer bevindt, wie je vrienden zijn, hoeveel stappen per dag je zet. Dat leidt nog niet tot een algemeen overkoepelende burgerscore, wel tot tal van mini-scores, stelt Botsman. ‘We beoordelen restaurants, films, boeken en zelfs artsen. Auteurs hebben Amazon-scores, Airbnb-gastheren en -gasten hebben netheidsscores. Boodschappenjongens op Taskrabbit, Deliveroo-chauffeurs en andere “gig-workers” worden beoordeeld – en vaak beoordelen zij op hun beurt klanten. Een Klout-score zegt te kunnen identificeren hoe invloedrijk je bent als socialmediagebruiker. En dat zijn alleen de gegevens waarvan we weten dat ze worden verzameld. Veel bedrijven tonen daarin weinig transparantie.’
Hallo ombudsdienst?
Luciano Floridi is de onderzoeksdirecteur van het prestigieuze Oxford Internet Institute en adviseerde Google over het recht om vergeten te worden, waarbij mensen een verzoek konden indienen om bepaalde informatie over hen te weren uit zoekresultaten. Hij denkt dat het in het Westen niet direct zo’n vaart zal lopen als in China. ‘Er is een essentieel verschil’, zegt hij aan de telefoon. ‘In China is de score in handen van de overheid, als consument heb je hier nog steeds de vrije keuze. Je mag ervan uitgaan dat een vijfsterrenhotel je privacy niet op de straatstenen zal gooien, maar Airbnb is geen vijfsterrenhotel. Als klant wéét je dat ook.’
Wel pleit Floridi voor meer mogelijkheden om een vernietigende review recht te kunnen zetten. ‘Offline kan iemand zich bij een conflict verontschuldigen en daarna is het van de baan. Op commerciële ratingplatformen is dat nog niet altijd mogelijk. De informatie blijft staan.’ Een ombudsdienst zou daarbij kunnen helpen, zegt Floridi, eBay geeft het goede voorbeeld. ‘Dat bestaat het langst en heeft intussen een zwaar bemande klachtendienst, waar mensen hun uiterste best zullen doen om je als consument tevreden te houden. Als een klant na afloop maar 4 sterren geeft, neemt de dienst contact op met de vraag wat er beter kan. Tripadvisor geeft restaurants nu ook de mogelijkheid om een weerwoord te plaatsen. Dat is een leerproces, jongere platformen zullen daar gaandeweg in bijsturen. Als je nu privacy wil en niet beoordeeld wilt worden als klant, kies dan niet voor Airbnb of Uber.’
Gemixt in het machinebrein
Oneerlijke of vernietigende recensies kunnen bitter smaken, maar zijn nog geen monitoring. ‘Dagenlang achtervolgd worden door reclame omdat je online iets liket, dat is monitoring’, benadrukt Floridi. ‘Dat is een ernstiger probleem.’
‘Het is duizelingwekkend hoeveel surveillance en monitoring al in het Westen gebeurt, door zowel overheden als bedrijven, en hoeveel ze vandaag over ons weten’, zegt Rachel Botsman. ‘Mochten we weten op welke manieren we ingeschat en beoordeeld worden, we zouden ons ongemakkelijk voelen. De Chinese overheid zou nog kunnen argumenteren dat haar systeem transparant is: de Chinezen wéten dat ze in de gaten worden gehouden en beoordeeld.’
Technologie maakt ook steeds meer mogelijk. Facebook kan je nu identificeren in een foto zonder je gezicht te zien. Er worden apps ontwikkeld voor verzekeringen die op basis van sensoren in je smartphone kunnen voorspellen of je een agressieve of een rustige chauffeur bent. Op straat en elders zijn camera’s alomtegenwoordig. Geconnecteerde devices – van je smartphone tot je auto en je koelkast – verzamelen steeds meer data die bedrijven bestuderen. ‘We leven in een wereld van voorspellende algoritmes die overal data verzamelen om te bepalen of we een nuttige klant zijn of niet, een bedreiging, een betrouwbaar persoon of een goede burger’, zegt Botsman. ‘We komen dichter bij het Chinese systeem, al beseffen we niet dat het gebeurt.’
De gevolgen van de beoordelingen van Airbnb en Uber zijn bij ons voorlopig secundair, stelt Bart Preneel, professor informatiebeveiliging (KU Leuven). Hij is vooral bezorgd over de volgende stap. ‘Platformen zoals Uber of Airbnb zitten op een schat aan informatie. Hoe zullen ze die te gelde maken? Bedrijven als Amazon of Google weten vaak veel meer over je dan je bank soms doet. Wat als Amazon, dat de marktpositie van de banken bedreigt, die data in de toekomst wil gebruiken om te bepalen of je een lening krijgt of niet? In Europa zijn er op dit moment barrières, maar de vraag is hoe je dat gaat tegenhouden als er veel economisch belang mee gemoeid is.’
Bovendien worden meer en meer gegevens verwerkt op een niet-transparante manier in voorspellende algoritmes, zegt Preneel. ‘Deep learning-systemen gooien alle gegevens samen in een soort machinebrein dat een resultaat produceert: hoog- of laagrisicoklant, wél of geen lening. De nieuwe privacywetgeving zegt dat jij het recht hebt om te weten waarop je wordt beoordeeld, maar soms is dat zo complex dat het bijna niet te controleren valt. Bij deep learning weten zelfs ingenieurs niet meer wat het algoritme precies inhoudt.’
Ook overheden doen aan monitoring. Als je naar de Verenigde Staten wilt reizen, moet je bij je aanvraag bij de Amerikaanse douane je socialemedia-accounts vermelden. ‘Voorlopig is het optioneel,’ zegt Preneel, ‘maar het is weer een stap richting monitoring. Als je je account niet wilt geven, is het niet uitgesloten dat jou de toegang tot de VS wordt ontzegd.’
Preneel heeft een jaar in de Verenigde Staten gewoond, waar ‘ratings’ meer ingeburgerd zijn. ‘Europa is terughoudender, maar ook hier bestaan lijsten van wanbetalers en wordt geëxperimenteerd met voorspellende algoritmes. Vooral banken en verzekeringen proberen zo in te schatten of iemand een lening krijgt of niet, al experimenteert de overheid ook met datamining om te achterhalen wie belastingen ontduikt. Gelukkig laat de privacywetgeving niet toe dat alle informatie zomaar kan worden gebruikt.’
Gebruikers beginnen nu pas langzaam te beseffen dat ook zij beoordeeld worden, zegt Preneel. ‘Het is een tweesnijdend zwaard. Wij weten als consument meer over de kwaliteit van hotels en restaurants dan vroeger, maar verkoopsystemen en instanties weten ook meer over ons. Die informatie blijft behouden. De nieuwe privacywetgeving is een goede zaak, maar de vraag is of je webbedrijven zoals Uber of Amazon echt zal kunnen verplichten om informatie over jou te deleten.’
Vals beleefd
Ga je je anders gedragen als je weet dat je nadien online gerecenseerd wordt? Langetermijnonderzoek is er niet, maar je kan het effect wel vermoeden. ‘Denk aan Uber’, schrijft Botsman. ‘Ben je niet vriendelijker als je weet dat de chauffeur jou ook beoordeelt?’ Op zich is dat positief, maar soms wil je gewoon anoniem een rit kunnen maken zonder getaxeerd te worden, vertelt gebruiker Bart. ‘Toen ik onlangs een Uber deelde met enkele collega’s, kregen we een lage score omdat de chauffeur vond dat we te veel plezier maakten. Een vriendin heeft beslist dat ze liever taxi’s gebruikt. Daar word je niet beoordeeld op je persoonlijkheid en op je smalltalk. Altijd charmant moeten zijn tegen Uberchauffeurs vond ze uitputtend.’
Herkenbaar, vindt Botsman. ‘Als ik weet dat ik achteraf beoordeeld word, ben ik geneigd om vals beleefd te zijn. Maar ik wil me niet de hele tijd afvragen of ik beoordeeld word. Ik wil niet eindigen zoals Lacie (het hoofdpersonage in “Nose dive”, red.).’
Botsman hoopt dat de nieuwe privacyregelgeving in Europa een grote impact zal hebben, want consumenten hebben ook een verantwoordelijkheid als ze hun persoonlijke gegevens laten gebruiken. ‘Door het schandaal met Cambridge Analytica (waarbij 87 miljoen Facebook-profielen werden gebruikt voor politieke beïnvloeding, red.) zullen sommigen nu misschien stoppen met Facebook, anderen zullen hun privacy-instellingen aanpassen. Maar zullen ze ook Instagram en Whatsapp, allebei eigendom van Facebook, verwijderen? Ik betwijfel het. De voordelen van “gratis” apps lijken de knagende twijfel of we persoonlijke informatie wel kunnen toevertrouwen aan een platform telkens weer te overstemmen. Terwijl we zouden stil moeten leren te staan en grondig nagaan: is dit bedrijf, systeem, deze persoon of app mijn vertrouwen wel waard?’
DS Weekblad, 07-04-2018 (Nathalie Carpentier)
Restaurants, winkels, ook geldautomaten, alles recenseren we online. Zelfs de consument krijgt nu reviews. Worden we straks afgerekend op de minste sociale misstap? ‘Na zo’n review kan ik het wel schudden als huurder op Airbnb.’
‘Eindelijk een geldautomaat in de stationsbuurt. Alleen jammer dat hij nogal traag is’, schrijft onbekend over een bankautomaat in onze buurt. Rapport voor de automaat: 3 sterren. De Verbrande Brug in Vilvoorde scoort iets beter met 3,5 sterren. ‘Vaak file’, leest het commentaar. ‘De brug gaat ook pal in de spits voor enkele boten tegelijk open.’
‘De recensieterreur is overal’, vatte de Nederlandse cabaretier Jan Derks die groeiende neiging onlangs samen om over alles wat te moeten vinden. ‘Restaurants worden rijk of arm gerecenseerd, bedrijven vragen klanten om hun medewerkers te beoordelen, elke webshop hanteert sterren voor elk product. Klant is koning, maar wat moeten we met miljoenen koningen?’
Wat die koning vandaag veel minder beseft, is dat ook hij wordt beoordeeld, merkte François toen hij onlangs een Ubertaxi bestelde op een afgelegen plek in het Brusselse. ‘Toen de chauffeur me oppikte, vertelde hij dat mijn goede score de enige reden was dat hij was komen opdagen. De app gaf 5 sterren aan. Uberchauffeurs beoordelen hun klanten na een rit. Als je niet of laat komt opdagen, kan je een lagere score krijgen, legde hij uit.’
François, een frequent Ubergebruiker, was er zich niet van bewust. En hij is niet de enige. Is de klant dan niet langer koning? ‘Wij hebben twee klanten: de passagiers én de chauffeurs’, reageert Daniel Byrne, communicatieverantwoordelijke van Uber. ‘Door de wederzijdse reviews wordt in onze community niet alleen een passagier maar ook een chauffeur respectvol behandeld. Passagiers waarderen dat ook zij gerecenseerd worden. Zo weten ze dat ook zij zich moeten gedragen.’
Een slechte score krijg je volgens Byrne ‘als je kotst in de auto, stomdronken instapt, luidruchtig bent of je agressief gedraagt tegenover de chauffeur. Als de chauffeur een passagier een score lager dan 5 sterren geeft, vragen wij waarom. Die feedback kunnen we terugkoppelen naar de betrokkene. Als dat regelmatig voorvalt bij dezelfde persoon, weten de chauffeurs dat ze met die passagier moeten oppassen.’
De informatie wordt vertrouwelijk bewaard, zegt Byrne. ‘Het zijn verzamelde gegevens, geen individuele. Volgens de Europese wetgeving mogen we ze niet gebruiken.’ Byrne benadrukt dat één slechte recensie weinig effect heeft, je krijgt pas een algemene score na vijf recensies. ‘Chauffeurs mogen niet discrimineren, maar sommige vervoeren liever enkel klanten met een goede score. Maar dat is uitzonderlijk.’ François begrijpt het best. ‘De plek waar de chauffeur me moest oppikken, was afgelegen. Het blijft ook een zakelijke transactie. Als je klant niet komt opdagen, maak je verlies.’
Black Mirror
Rankings en lijsten zijn populair, omdat ze perfect aansluiten bij hoe we zélf in het leven staan. ‘Bij een eerste ontmoeting beoordelen we mensen niet grondig, maar snel en oppervlakkig’, zegt professor persuasieve technologie Karolien Poels (UAntwerpen). ‘Sterrenscores en recensies spelen daarop in. Ze zijn handig om snel beslissingen te maken. Als je een hotel wil boeken, is het makkelijk als je je zoektocht kan beperken tot hotels met minimaal 8 op 10. Daarna graaf je dieper.’
Het gebruik van recensies in de nieuwe economie, zoals bij Uber of Airbnb, is niet noodzakelijk negatief, zegt Poels. ‘Op platformen zonder tussenpersonen is een wederzijds beoordelingssysteem goed, zelfs nodig. Het leidt tot vertrouwen tussen onbekenden en maakt economische transacties tussen vreemden mogelijk.’ Die wederzijdse beoordeling kan zelfs vooroordelen wegwerken, zegt Poels. ‘Als een chauffeur aan de score ziet dat de klant betrouwbaar is, zal hij sneller geneigd zijn hem wel op te pikken in een gevaarlijke buurt, terwijl hij bij een anonieme beller misschien zou aarzelen. Maar klanten uit moeilijke buurten zullen misschien wel nog moeten opboksen tegen stereotiepe denkbeelden en zo minder snel een goede score opbouwen. Een wederzijdse beoordeling zorgt dus voor zelfregulatie, op voorwaarde dat ze op een faire manier gebeurt.’
Wat als een van beide partijen zijn gal online spuwt en de andere zichzelf niet herkent? Het overkwam Philippe deze zomer, nadat hij een Airbnb-woning had gehuurd met zijn vrienden en kinderen. Toen hij afscheid nam van de eigenares, meldde hij dat er servies was gesneuveld. Of dat vergoed moest worden? Niet nodig, suste de vrouw. Na het afscheid plaatste hij een lovende recensie – het huis was netjes en in orde. Pas na zijn post kon hij haar oordeel over hem lezen. Het was vernietigend.
‘Ik werd, kort samengevat, neergezet als een lawaaierige, achterbakse huurder die spullen stukmaakt zonder ze te willen vergoeden.’ Philippe vond het onfair en laf. ‘Ze nam met de glimlach afscheid en brak me nadien online af.’ De vrouw had zelfs kritiek op hoe Philippe met zijn kinderen omgaat. ‘Dat ging me te ver.’
Airbnb-woordvoerder Bernard D’Huyghere verwijst naar de algemene voorwaarden bij geschillen op de site. Die vermelden dat je na een review waarmee je het niet eens bent contact kan opnemen met de globale klantendienst. Dat kan enkel online, een telefoonnummer vonden we niet meteen. Je kan reageren op een review, maar ze deleten kan niet. Reviews worden niet verwijderd, tenzij ze het ‘inhoudelijke beleid’ van Airbnb schenden. ‘Negatieve ervaringen zijn zeldzaam’, zegt D’Huyghere. ‘We zullen nog contact met de gebruiker opnemen, maar we hebben gezien dat hij alle info heeft gekregen over hoe te reageren op een review.’
Philippe was aanvankelijk te verbouwereerd om te reageren. Hij moest een paar dagen bekomen van die negatieve commentaar, zegt hij. ‘In een klein dorp werd je vroeger ook beoordeeld als je levensstijl afwijkend was. Door de technologie gaat de impact maal honderdduizend. Ik kan het schudden als huurder op Airbnb. Wie wil nu iemand die zogezegd achterbaks is, veel lawaai maakt, dingen beschadigt en zijn kinderen niet opvoedt?’
De vrouw online van repliek dienen, wou hij niet. ‘Dan eindig je in een online opbod. En die negatieve commentaar blijft toch hangen.’ Het is gevaarlijk zegt hij, zo’n beoordelingssysteem waarbij mensen elkaar vrijelijk kunnen afkraken. ‘Ik heb een dienstverlening beoordeeld, de verhuurster mijn persoonlijkheid. Ik had het gevoel dat ik in de aflevering “Nose Dive” van Black Mirror terecht was gekomen. Sociaal veroordeeld zonder eerlijk proces.’
Mijn sociale kredietscore
In die aflevering van de Netflixserie, die ons een gitzwart technologisch toekomstbeeld toont, is de wereld veranderd in een shiny happy roze gekleurde, maar hypocriete plek waar je sociale status en het oordeel van anderen alles bepalen: waar je mag wonen, wie je vrienden kunnen zijn, welke lening of privileges je krijgt. Na elke interactie – een ontmoeting in de lift, een gesprek in de winkel – geven bekenden en onbekenden elkaar scores van 1 tot 5. Ben je onbeleefd, uit je kritiek over je geannuleerde vlucht, kom je te laat voor je taxi: elke kleine ‘sociale’ misstap is goed om je totaalscore te verlagen en bijgevolg je levenskwaliteit.
De Britse Rachel Botsman onderzoekt hoe technologie ons en de samenleving beïnvloedt en wijzigt. In haar jongste boek, Who Can You Trust? How Technology Brought Us Together and Why It Could Drive Us Apart, vraagt ze zich af of die gevaren wel zo ver af zijn als ze lijken. In China lijkt die toekomst alvast angstaanjagend dichtbij te komen. Een allesomvattend puntensysteem zal daar vanaf 2020 elke Chinese burger een ‘sociale kredietscore’ geven die zijn leven bepaalt: welke lening hij krijgt, welke baan, welk vervoersmiddel. Niet alleen data over financiële betrouwbaarheid en kredietwaardigheid tellen mee voor punten, ook die over ‘ideologisch goed gedrag’ worden meegerekend. Zo kan je een strafpunt krijgen als je vijf keer oversteekt bij rood licht. Wie te veel strafpunten heeft, krijgt een lage score. Voorlopig nemen Chinezen vrijwillig deel, vanaf 2020 is het verplicht.
‘Black Mirror lijkt een toverbol geworden die de toekomst voorspelt’, mailt Rachel Botsman ons. ‘In februari 2017 kondigde het Volkshooggerechtshof van China aan dat 6,15 miljoen mensen in het land de afgelopen vier jaar geen vliegtuig op mochten wegens sociaal wangedrag. 1,65 miljoen mensen kunnen de trein niet nemen, omdat ze op de zwarte lijst voor sociaal krediet staan, de lijst van “oneerlijke mensen”. Aan de ene kant zal een sociaal kredietsysteem vrijwel zeker mensen aanmoedigen om eerlijker te handelen en zich aan de regels te houden. Aan de andere kant is het een verontrustende versie van reputatie-economie die overheden ongekende controle geeft over wat zij beschouwen als goede en slechte manieren om je te gedragen.’
Als Botsman westerlingen vertelt over China, reageren ze ongelovig en ontzet. Nochtans leven ook wij al in een wereld waarin onze dagelijkse activiteiten voortdurend worden gemonitord en geëvalueerd: wat je in welke online shop koopt, waar je je wanneer bevindt, wie je vrienden zijn, hoeveel stappen per dag je zet. Dat leidt nog niet tot een algemeen overkoepelende burgerscore, wel tot tal van mini-scores, stelt Botsman. ‘We beoordelen restaurants, films, boeken en zelfs artsen. Auteurs hebben Amazon-scores, Airbnb-gastheren en -gasten hebben netheidsscores. Boodschappenjongens op Taskrabbit, Deliveroo-chauffeurs en andere “gig-workers” worden beoordeeld – en vaak beoordelen zij op hun beurt klanten. Een Klout-score zegt te kunnen identificeren hoe invloedrijk je bent als socialmediagebruiker. En dat zijn alleen de gegevens waarvan we weten dat ze worden verzameld. Veel bedrijven tonen daarin weinig transparantie.’
Hallo ombudsdienst?
Luciano Floridi is de onderzoeksdirecteur van het prestigieuze Oxford Internet Institute en adviseerde Google over het recht om vergeten te worden, waarbij mensen een verzoek konden indienen om bepaalde informatie over hen te weren uit zoekresultaten. Hij denkt dat het in het Westen niet direct zo’n vaart zal lopen als in China. ‘Er is een essentieel verschil’, zegt hij aan de telefoon. ‘In China is de score in handen van de overheid, als consument heb je hier nog steeds de vrije keuze. Je mag ervan uitgaan dat een vijfsterrenhotel je privacy niet op de straatstenen zal gooien, maar Airbnb is geen vijfsterrenhotel. Als klant wéét je dat ook.’
Wel pleit Floridi voor meer mogelijkheden om een vernietigende review recht te kunnen zetten. ‘Offline kan iemand zich bij een conflict verontschuldigen en daarna is het van de baan. Op commerciële ratingplatformen is dat nog niet altijd mogelijk. De informatie blijft staan.’ Een ombudsdienst zou daarbij kunnen helpen, zegt Floridi, eBay geeft het goede voorbeeld. ‘Dat bestaat het langst en heeft intussen een zwaar bemande klachtendienst, waar mensen hun uiterste best zullen doen om je als consument tevreden te houden. Als een klant na afloop maar 4 sterren geeft, neemt de dienst contact op met de vraag wat er beter kan. Tripadvisor geeft restaurants nu ook de mogelijkheid om een weerwoord te plaatsen. Dat is een leerproces, jongere platformen zullen daar gaandeweg in bijsturen. Als je nu privacy wil en niet beoordeeld wilt worden als klant, kies dan niet voor Airbnb of Uber.’
Gemixt in het machinebrein
Oneerlijke of vernietigende recensies kunnen bitter smaken, maar zijn nog geen monitoring. ‘Dagenlang achtervolgd worden door reclame omdat je online iets liket, dat is monitoring’, benadrukt Floridi. ‘Dat is een ernstiger probleem.’
‘Het is duizelingwekkend hoeveel surveillance en monitoring al in het Westen gebeurt, door zowel overheden als bedrijven, en hoeveel ze vandaag over ons weten’, zegt Rachel Botsman. ‘Mochten we weten op welke manieren we ingeschat en beoordeeld worden, we zouden ons ongemakkelijk voelen. De Chinese overheid zou nog kunnen argumenteren dat haar systeem transparant is: de Chinezen wéten dat ze in de gaten worden gehouden en beoordeeld.’
Technologie maakt ook steeds meer mogelijk. Facebook kan je nu identificeren in een foto zonder je gezicht te zien. Er worden apps ontwikkeld voor verzekeringen die op basis van sensoren in je smartphone kunnen voorspellen of je een agressieve of een rustige chauffeur bent. Op straat en elders zijn camera’s alomtegenwoordig. Geconnecteerde devices – van je smartphone tot je auto en je koelkast – verzamelen steeds meer data die bedrijven bestuderen. ‘We leven in een wereld van voorspellende algoritmes die overal data verzamelen om te bepalen of we een nuttige klant zijn of niet, een bedreiging, een betrouwbaar persoon of een goede burger’, zegt Botsman. ‘We komen dichter bij het Chinese systeem, al beseffen we niet dat het gebeurt.’
De gevolgen van de beoordelingen van Airbnb en Uber zijn bij ons voorlopig secundair, stelt Bart Preneel, professor informatiebeveiliging (KU Leuven). Hij is vooral bezorgd over de volgende stap. ‘Platformen zoals Uber of Airbnb zitten op een schat aan informatie. Hoe zullen ze die te gelde maken? Bedrijven als Amazon of Google weten vaak veel meer over je dan je bank soms doet. Wat als Amazon, dat de marktpositie van de banken bedreigt, die data in de toekomst wil gebruiken om te bepalen of je een lening krijgt of niet? In Europa zijn er op dit moment barrières, maar de vraag is hoe je dat gaat tegenhouden als er veel economisch belang mee gemoeid is.’
Bovendien worden meer en meer gegevens verwerkt op een niet-transparante manier in voorspellende algoritmes, zegt Preneel. ‘Deep learning-systemen gooien alle gegevens samen in een soort machinebrein dat een resultaat produceert: hoog- of laagrisicoklant, wél of geen lening. De nieuwe privacywetgeving zegt dat jij het recht hebt om te weten waarop je wordt beoordeeld, maar soms is dat zo complex dat het bijna niet te controleren valt. Bij deep learning weten zelfs ingenieurs niet meer wat het algoritme precies inhoudt.’
Ook overheden doen aan monitoring. Als je naar de Verenigde Staten wilt reizen, moet je bij je aanvraag bij de Amerikaanse douane je socialemedia-accounts vermelden. ‘Voorlopig is het optioneel,’ zegt Preneel, ‘maar het is weer een stap richting monitoring. Als je je account niet wilt geven, is het niet uitgesloten dat jou de toegang tot de VS wordt ontzegd.’
Preneel heeft een jaar in de Verenigde Staten gewoond, waar ‘ratings’ meer ingeburgerd zijn. ‘Europa is terughoudender, maar ook hier bestaan lijsten van wanbetalers en wordt geëxperimenteerd met voorspellende algoritmes. Vooral banken en verzekeringen proberen zo in te schatten of iemand een lening krijgt of niet, al experimenteert de overheid ook met datamining om te achterhalen wie belastingen ontduikt. Gelukkig laat de privacywetgeving niet toe dat alle informatie zomaar kan worden gebruikt.’
Gebruikers beginnen nu pas langzaam te beseffen dat ook zij beoordeeld worden, zegt Preneel. ‘Het is een tweesnijdend zwaard. Wij weten als consument meer over de kwaliteit van hotels en restaurants dan vroeger, maar verkoopsystemen en instanties weten ook meer over ons. Die informatie blijft behouden. De nieuwe privacywetgeving is een goede zaak, maar de vraag is of je webbedrijven zoals Uber of Amazon echt zal kunnen verplichten om informatie over jou te deleten.’
Vals beleefd
Ga je je anders gedragen als je weet dat je nadien online gerecenseerd wordt? Langetermijnonderzoek is er niet, maar je kan het effect wel vermoeden. ‘Denk aan Uber’, schrijft Botsman. ‘Ben je niet vriendelijker als je weet dat de chauffeur jou ook beoordeelt?’ Op zich is dat positief, maar soms wil je gewoon anoniem een rit kunnen maken zonder getaxeerd te worden, vertelt gebruiker Bart. ‘Toen ik onlangs een Uber deelde met enkele collega’s, kregen we een lage score omdat de chauffeur vond dat we te veel plezier maakten. Een vriendin heeft beslist dat ze liever taxi’s gebruikt. Daar word je niet beoordeeld op je persoonlijkheid en op je smalltalk. Altijd charmant moeten zijn tegen Uberchauffeurs vond ze uitputtend.’
Herkenbaar, vindt Botsman. ‘Als ik weet dat ik achteraf beoordeeld word, ben ik geneigd om vals beleefd te zijn. Maar ik wil me niet de hele tijd afvragen of ik beoordeeld word. Ik wil niet eindigen zoals Lacie (het hoofdpersonage in “Nose dive”, red.).’
Botsman hoopt dat de nieuwe privacyregelgeving in Europa een grote impact zal hebben, want consumenten hebben ook een verantwoordelijkheid als ze hun persoonlijke gegevens laten gebruiken. ‘Door het schandaal met Cambridge Analytica (waarbij 87 miljoen Facebook-profielen werden gebruikt voor politieke beïnvloeding, red.) zullen sommigen nu misschien stoppen met Facebook, anderen zullen hun privacy-instellingen aanpassen. Maar zullen ze ook Instagram en Whatsapp, allebei eigendom van Facebook, verwijderen? Ik betwijfel het. De voordelen van “gratis” apps lijken de knagende twijfel of we persoonlijke informatie wel kunnen toevertrouwen aan een platform telkens weer te overstemmen. Terwijl we zouden stil moeten leren te staan en grondig nagaan: is dit bedrijf, systeem, deze persoon of app mijn vertrouwen wel waard?’
DS Weekblad, 07-04-2018 (Nathalie Carpentier)