‘Sommige tieners zullen alleen nog virtuele vrienden willen’
 

‘Sommige tieners zullen alleen nog virtuele vrienden willen’

Frances Haugen, De Facebookfaçade, Haarlem: Xander Uitgevers, 2023.


In haar eentje bracht Frances Haugen Facebook aan het wankelen. Vandaag werkt de voormalige klokkenluider aan recepten om sociale media te redden. ‘Stel je voor dat Facebook moet rapporteren hoeveel kinderen om middernachtnog online zijn. Dan hebben ouders echte cijfers om op voort te gaan.’


Twee jaar geleden verliet Frances Haugen Facebook, diep teleurgesteld omdat het bedrijf de strijd tegen gevaarlijke desinformatie – de taak waarvoor ze in 2019 was aangenomen – niet ernstig nam. In haar laatste weken bij het bedrijf fotografeerde Haugen 7.000 pagina’s interne documenten op haar laptopscherm (digitale kopieën waren te riskant). Die documenten zijn intussen bekend als de Facebook files, en ze bewezen onomstotelijk dat Facebook goed op de hoogte was van de schade die zijn sociale netwerk de maatschappij toebracht.

De schokkendste onthullingen: hoe Facebook in Myanmar werd ingezet om een genocide tegen de Rohingya-minderheid te organiseren en later ook in landen als Ethiopië werd gebruikt om aan te zetten tot etnisch geweld – en hoe het bedrijf besluiteloos toekeek. Verder had intern onderzoek bij Facebook aangetoond hoe schadelijk de apps zijn voor jonge meisjes met een negatief zelfbeeld, terwijl de toplui van het bedrijf dat publiek steevast ontkenden.

Het was niet de eerste keer dat Facebook in een schandaal terechtkwam – denk maar aan Cambridge Analytica, dat gestolen profielen kon verkopen om verkiezingen te manipuleren. Dat het deze keer niét overwaaide, had te maken met de koppigheid, de welsprekendheid en de politieke geslepenheid van Haugen, toen 37.

Haugen slaagde erin om links én rechts in Amerika ervan te overtuigen dat er bij Facebook een probleem was, dat moest – en kón – worden opgelost. Ze komt ook zelf met haalbare en werkbare voorstellen om Facebook en andere sociale netwerken te herstellen. Dat doet ze nu met haar vorig jaar opgerichte organisatie Beyond the Screen. ‘Ik wil niet herinnerd worden als de Facebook-klokkenluider, maar als de persoon die iets veranderd heeft’, zegt ze tijdens een gesprek in Amsterdam.

In haar boek De Facebookfaçade beschrijft Haugen hoe ze tot het besef kwam dat wat fout liep bij Facebook niet van binnenuit recht te trekken viel. Dus ruilde ze een comfortabel, dikbetaald bestaan in voor een hoogst onzekere toekomst.

Haugens urenlange getuigenis in de Amerikaanse Senaat in oktober 2021 was een keerpunt. Het resultaat van een harde voorbereiding, vertelt ze. ‘Twee dagen lang zat ik in een kamer met 15 à 20 mensen, sommigen op Zoom, die vragen afvuurden en me dan vertelden dat mijn antwoord nergens op leek. Ze hielpen mij om mijn antwoorden scherp te stellen, korter, meer gefocust. Wat mij gered heeft, is dat ik op school al aan debatwedstrijden deelnam.’

Een maand later sprak ze het Europees Parlement toe, met concrete suggesties over hoe Europa zijn Digital Services Act (DSA), die sociale media in de pas moet doen lopen, kon aanscherpen.

Haugen was al een door de wol geverfde tech-veteraan, met ervaring bij Google, Yelp en Pinterest, toen ze een job aangeboden kreeg van Facebook. Ze zou er gaan strijden tegen desinformatie. ‘Ik verwachtte te zullen werken rond de Amerikaanse verkiezingen van 2020, maar ik werd ingezet op al de rest’, vertelt ze. ‘Facebook werkte al samen met externe factcheckers in alle machtige landen: in Europa, in de VS en een beetje in India. Ik moest werken op desinformatie elders. Al snel besefte ik dat Facebook actief was in landen waar het niets te zoeken had. Het had die landen afhankelijk gemaakt van zijn platform en hen dan in de steek had gelaten. Het waren namelijk markten waaraan Facebook geld verloor. Tegelijk was daar waarschijnlijk meer nood aan beveiliging dan in de VS.’

Was het onverantwoord dat Facebook daar actief werd?

‘Ze gingen die markten in om zakelijke redenen: ze vreesden dat daar anders een concurrent zou ontstaan. En waar is uiteindelijk de eerste grote concurrent voor Facebook opgedoken? In China, het enige land waar ze niet actief konden zijn. Puur zakelijk gezien was die strategie een succes, maar het probleem was dat ze de investering niet deden om het veilig te houden, omdat er geen reclame-inkomsten waren. Mensen in Europa en in de VS kunnen Facebook verlaten, maar in veel van die landen is Facebook het internet, ze zitten eraan vast. We mogen dat niet zomaar loslaten. Dat wij Facebook nu irrelevant vinden, doet er niet toe.’

Het verhaal dat de wereldmedia het meest oppikten uit de Facebook files, ging over de gevaren van Instagram voor jonge meisjes.

‘Ik dacht dat genocide het grotere verhaal was. Het is moeilijk voor mensen in de VS om zich in te beelden hoe anders Facebook elders is. Maar iedereen heeft wel kinderen in zijn leven. Het is dus niet verwonderlijk dat die kwestie het meeste mensen heeft aangesproken, en dat er op dat gebied zo’n vooruitgang is geweest. De Surgeon General van de VS heeft er vorige maand zelfs een waarschuwing over gepubliceerd. Zoiets is sinds de jaren 60 maar 10 of 15 keer gebeurd. Dat betekent wel iets.’

U koos bewust voor een rechtse krant, The Wall Street Journal, om uw verhaal naar buiten te brengen.

‘Ja, het moest zo gebeuren. Als het verhaal was verschenen in The New York Times, had men vast gezegd dat het gelogen was.’

In uw boek legt u uit hoe doordacht u het aanpakte, om maximale impact te scoren. Eigenlijk leest het als een gids voor klokkenluiders.

‘Op advies van mijn advocaat moet ik u zeggen dat het dat zeker niet is. Ik wilde mensen context geven. Het is niet bedoeld als een handleiding. Maar de meeste mensen doen niet wat hun hart hen vertelt, uit angst. Dus als ik inzicht kan geven in wat ik deed of waarom ik het deed, kan dat die angst misschien helpen te verminderen.’

Voor een klokkenluider was u opvallend mild over het bedrijf dat u net had verlaten. U vergoelijkte haast mensen bij Facebook.

‘Als we mensen demoniseren, missen we de kans om van hen te leren. Als Mark Zuckerberg gewoon een boosaardige sociopaat is, valt er niets te leren. Het echte probleem is dat bedrijven als Facebook niet transparant zijn. Facebook is een schoolvoorbeeld van wat er gebeurt als er geen controlemechanismen zijn. Bij generatieve AI zien we exact hetzelfde gebeuren.’

Baart de snelheid waarmee AI-technologie ontwikkeld en verspreid wordt, u zorgen?

‘Google probeert zich verantwoordelijk te gedragen. Facebook probeert zich verantwoordelijk te gedragen. Ik zou zelfs zeggen dat Microsoft zich verantwoordelijk probeert te gedragen. Maar als er geen systeem is dat verantwoordelijkheid beloont, zullen zij die sneller gaan, de winnaars zijn. Dat is letterlijk een herhaling van wat gebeurde met sociale media. Facebook is sneller kunnen groeien dan de rest, deels omdat het groei boven alle andere overwegingen stelde. Als snelheid en het aantal functies beloond worden, maar veiligheid niet, krijg je geen veiligheid.’

U denkt dat Facebook, het sociale netwerk, nog gered kan worden?

‘Natuurlijk. Het is software en die kun je altijd veranderen. De vraag nu is hoe in Europa de nieuwe Digital Services Act zal worden afgedwongen. Zullen we echte transparantie krijgen zodat we plots toegang krijgen tot een heel spectrum aan nieuwe hefbomen om druk uit te oefenen op het bedrijf? Er was één keer een vrij succesvolle boycot van Facebook door adverteerders. Dat was de “Stop hate for profit”- actie in 2021. Die werd beëindigd nadat Facebook verklaard had dat het het probleem van hatespeech had opgelost. Ze hadden 500 accounts verwijderd. Ze konden dat beweren omdat er geen onafhankelijke bron van informatie is, maar uit interne documenten blijkt dat ze maar 3 tot 5 procent van alle haatberichten verwijderen.’

Toen u het boek afwerkte, waren de aandelen van Facebook, nu Meta, naar een dieptepunt gezakt. De afgelopen maanden stegen ze pijlsnel. Is alles al vergeten?

‘Elon Musk heeft bij Twitter aangetoond dat je 75 procent van je personeel kunt ontslaan, zonder dat er iets gebeurt. Mark Zuckerberg heeft openlijk gezegd dat hij dat bewondert. De aandelen van Facebook waren onder meer gedaald omdat het bedrijf zijn bestedingen aan veiligheid had verdubbeld. Maar nu hebben ze ontdekt dat ze 20.000 mensen kunnen ontslaan. En veel van die mensen werken aan veiligheid.’

Door zijn bedrijf om te dopen tot ‘Meta’, probeerde Zuckerberg, na de onthullingen van Haugen, van de intussen vergiftigde bedrijfsnaam af te raken. Maar de nieuwe naam diende nog een ander doel: Zuckerberg wil dat zijn bedrijf de hoofdrol speelt in de ontwikkeling van het metaverse. Dat idee is de jongste maanden wat weg*gelachen. Ten onrechte, vindt Frances Haugen.

‘Een van de redenen voor Zuckerbergs interesse in AI is dat hij het wil gebruiken in zijn metaverse. Er zijn nu al mensen die een virtuele vriendin hebben, met de oude, slechte chatbot-software. Maar hoe zal het zijn als die virtuele vriendin echt interessant is? Wij lachen beter niet met het metaverse, want alles wat er nu fout aan is – de brillen zijn groot en ongemakkelijk, het beeld is onscherp, de batterij is meteen leeg – zal opgelost worden in de komende vijf tot tien jaar. Beeld je een prachtige headset in en chatbots waaraan ze nog vijf jaar hebben voortgewerkt. Er zullen tieners zijn die alleen nog maar virtuele vrienden willen. Dat is geen probleem voor over 30 jaar, zoals de vrees dat de AI-systemen plots ontwaken. Dat is een probleem waarover we nú moeten praten.’

Jongeren brengen veel tijd door op Tiktok. Is dat even zorgwekkend als Instagram?

‘Ik maak me zorgen over Tiktok om een aantal redenen. Ten eerste: Tiktok is oorspronkelijk ontworpen voor de Chinese markt. In China zijn er extreem strenge regels over wat je mag zeggen en wat niet. Een van de redenen waarom video’s zo sterk viraal gaan op Tiktok, is omdat ze de content per dag willen beperken. Enkele duizenden filmpjes maken 80 procent uit van wat iedereen ziet, want op die manier kan alle content gecontroleerd worden. Enkele jaren geleden bleek bijvoorbeeld dat je video niet viraal kon gaan als je zichtbaar gay was of een beperking had. Dat gebeurde zogezegd om je te beschermen tegen pesterijen. Denk daar maar eens over na. Van de mensen onder de 35 jaar in de VS zegt zo’n 30 procent dat ze hun nieuws van Tiktok halen. Willen we dat een Chinese app, die ontworpen is voor het controleren van content, gebruikt wordt voor informatie? Dat lijkt mij absurd.’

‘De tweede kwestie is het verslavende karakter van de app. Ik maak me zorgen over het concentratievermogen van kinderen. Je hoort van leerkrachten die al 20 jaar lesgeven, dat ze nu leerlingen zien van 13 en 14 jaar die zich heel anders gedragen en niet kunnen stilzitten. Slaap*gebrek is ook een domein waarop een beetje transparantie een enorm effect zou hebben. Stel je een wereld voor waarin Facebook wekelijks moet rapporteren hoeveel kinderen er online zijn om middernacht en om 3 uur ’s morgens. In een wereld waar alle apps dat moeten rapporteren, hebben ouders echte cijfers om op voort te gaan. Dan kun je zien hoe verslavend die apps precies zijn.’

Ziet u dat als uw rol? Dit soort voorstellen uitwerken en verkopen aan politici?

‘Een van de projecten van Beyond the Screen is het definiëren van de gevaren. De volgende stap is kijken welke hefbomen we kunnen gebruiken om die gevaren te voorkomen of te beperken, en hoe we die hef*bomen kunnen bedienen.’

Hoe vind je mensen die deze materie voldoende beheersen? Werken zij niet liever voor techbedrijven?

‘Daarom doen we het op een opensourcemanier. Vanaf deze zomer staan we open voor bijdragen van de gemeenschap. Ik denk dat bij technologiebedrijven veel mensen werken die graag een manier zouden vinden om te helpen, maar ze kunnen dat niet openlijk doen. Door deze open aanpak kunnen we hun hulp vragen zonder dat hun naam erop staat.’

U bent dus eigenlijk meer klokkenluiders aan het rekruteren?

‘We vragen hen niet om interne bedrijfsgegevens, we vragen hen om hun expertise rond deze problemen bij te dragen.’


DS, 24-06-2023 (Dominique Deckmyn)