‘The Social Dilemma’ Review: Unplug and Run

This documentary from Jeff Orlowski explores how addiction and privacy breaches are features, not bugs, of social media platforms.

That social media can be addictive and creepy isn’t a revelation to anyone who uses Facebook, Twitter, Instagram and the like. But in Jeff Orlowski’s documentary “The Social Dilemma,” conscientious defectors from these companies explain that the perniciousness of social networking platforms is a feature, not a bug.

They claim that the manipulation of human behavior for profit is coded into these companies with Machiavellian precision: Infinite scrolling and push notifications keep users constantly engaged; personalized recommendations use data not just to predict but also to influence our actions, turning users into easy prey for advertisers and propagandists.

As in his documentaries about climate change, “Chasing Ice” and “Chasing Coral,” Orlowski takes a reality that can seem too colossal and abstract for a layperson to grasp, let alone care about, and scales it down to a human level. In “The Social Dilemma,” he recasts one of the oldest tropes of the horror genre — Dr. Frankenstein, the scientist who went too far — for the digital age.

In briskly edited interviews, Orlowski speaks with men and (a few) women who helped build social media and now fear the effects of their creations on users’ mental health and the foundations of democracy. They deliver their cautionary testimonies with the force of a start-up pitch, employing crisp aphorisms and pithy analogies.

“Never before in history have 50 designers made decisions that would have an impact on two billion people,” says Tristan Harris, a former design ethicist at Google. Anna Lembke, an addiction expert at Stanford University, explains that these companies exploit the brain’s evolutionary need for interpersonal connection. And Roger McNamee, an early investor in Facebook, delivers a chilling allegation: Russia didn’t hack Facebook; it simply used the platform.

Much of this is familiar, but “The Social Dilemma” goes the extra explainer-mile by interspersing the interviews with P.S.A.-style fictional scenes of a suburban family suffering the consequences of social-media addiction. There are silent dinners, a pubescent daughter (Sophia Hammons) with self-image issues and a teenage son (Skyler Gisondo) who’s radicalized by YouTube recommendations promoting a vague ideology.

This fictionalized narrative exemplifies the limitations of the documentary’s sometimes hyperbolic emphasis on the medium at the expense of the message. For instance, the movie’s interlocutors pin an increase in mental illness on social media usage yet don’t acknowledge factors like a rise in economic insecurity. Polarization, riots and protests are presented as particular symptoms of the social-media era without historical context.

Despite their vehement criticisms, the interviewees in “The Social Dilemma” are not all doomsayers; many suggest that with the right changes, we can salvage the good of social media without the bad. But the grab bag of personal and political solutions they present in the film confuses two distinct targets of critique: the technology that causes destructive behaviors and the culture of unchecked capitalism that produces it.

Nevertheless, “The Social Dilemma” is remarkably effective in sounding the alarm about the incursion of data mining and manipulative technology into our social lives and beyond. Orlowski’s film is itself not spared by the phenomenon it scrutinizes. The movie is streaming on Netflix, where it’ll become another node in the service’s data-based algorithm.

Bron: NYTimes, 9 september 2020 https://www.nytimes.com/2020/09/09/...mma-review.html

Trailer: https://youtu.be/uaaC57tcci0

Netflix: https://www.netflix.com/title/81254224

De ongemakkelijke waarheid over sociale media


Het algoritme van Netflix raadt tegenwoordig een documentaire aan over de gevaren van algoritmen. Het lijkt ironisch, maar wordt snel onrustwekkend.

Probeert u het maar. Leg uw telefoon op de salontafel voor u op ‘play’ drukt bij de Netflix-documentaire The social dilemma, die al even in de top 10 van de streamingdienst kampeert. Turf vervolgens elke trilling, elk geluid en elk knipperlichtje dat het ding tijdens dat anderhalve uur uitstoot. Tel daarbij voor de goede orde na afloop alle notificaties die u opwachten bij uw startscherm en stel vast: uw smartphone smacht meer om aandacht dan een hongerige peuter. Dat is niet zonder gevolgen, betoogt documentairemaker Jeff Orlowski. Na Chasing ice (over smeltende ijsschotsen) en Chasing coral (over wegkwijnende koraalriffen) mocht hij voor Netflix nog een doemscenario onderzoeken: hoe nieuwe media het sociale weefsel van de samenleving eroderen.

Daarvoor worden de grote middelen bovengehaald. Apocalyptische nieuwsberichten, dreigende strijkers, en een flinterdun maar hyperdramatisch fictieverhaaltje als illustratie, over een gezin dat verscheurd wordt door een smartphoneverslaving. Toch komen de krachtigste momenten uit de interviews met Silicon Valley-pioniers als Tristan Harris (Google), Justin Rosenstein (Facebook), Jeff Seibert (Twitter) en een reeks collega’s van Instagram, Youtube en Pinterest. Geen van hen werkt nog voor het bedrijf dat ze mee groot maakten. Bijna allemaal vertrokken ze er met ethische bezwaren. De meesten gunnen hun kinderen geen smartphones. Een groot deel van hen maakt nu carrière door het monster te bestrijden dat ze zelf hielpen te creëren.


Konijnenpijp

Wat The social dilemma uitstekend doet, is dat monster schetsen. Ook voor kijkers die denken dat ze de gevaren van het informatietijdperk stilaan kennen. Want er staat meer op het spel dan achtervolgd worden door sneakeradvertenties. Ja, onze aandacht wordt per opbod verkocht aan adverteerders. Maar het nefaste schuilt in de manieren waarop de algoritmes achter nieuwsfeeds onze aandacht proberen trekken en dan zo lang mogelijk vasthouden: de pushmeldingen van apps, het beletselteken dat je in spanning houdt in een chatvenster. Dat je telefoon op de salontafel haast in real time dat gedrag vertoont, maakt het alleen maar griezeliger.

En dan schakelt The social dilemma een versnelling hoger. De documentaire trekt een lijn tussen de likeknop van Facebook en zelfmoorden bij tienermeisjes. Ze legt uit hoe de konijnenpijp van het nieuwsfeedalgoritme leidt naar een echokamer van gekleurd nieuws – al dan niet fake – en hoe verschillende polen in de samenleving daardoor elk hun eigen setje van feiten hebben. En ze betoogt hoe autoritaire regimes zoals Myanmar of Rusland het platform niet eens moeten hacken om aan te zetten tot etnische zuiveringen of beïnvloede verkiezingen. Gewoon gebruiken volstaat.


Utopie

Niets van dat alles is nieuw, maar de oplijsting is wél impressionant. De oplossingen zijn even oudbakken en teleurstellend: ‘sluit alle notificaties af’, ‘klik nooit op aanbevolen video’s’, ‘verban toestellen uit de slaapkamer’ en ‘eis extra regulering’, klinkt het dan uit de monden van mensen die zelf toegeven dat hun uitvindingen moeilijk te verslaan zijn. Alle accounts verwijderen lijkt voor velen een stap te ver, want dat ontkent de positieve impact die sociale media ook kunnen hebben. Net die spanning tussen de belofte van een utopie en de dreiging van een dystopie is volgens Tristan Harris, een spilfiguur in de docu, het dilemma waarnaar de titel verwijst.

De reikwijdte maakt een gevoel van machteloosheid los, net als toen Orlowski het had over smeltende ijskappen en verdwijnende koralen. De documentairemaker trok zelf ook al die parallel: hij beschouwt de uitwassen van sociale media als een even grote existentiële bedreiging als de klimaatverandering. Door alles samen te ballen in één heldere film, positioneert The social dilemma zich dan ook als een soort An inconvenient truth over sociale media. Die klimaatdocumentaire van Al Gore is, in vergelijking met The social dilemma, wel een toonbeeld van beheersing. De utopische kenmerken van sociale media gunt Orlowski weinig meer dan een terloopse vermelding, en door alles al te simplistisch te herleiden tot een diabolisch algoritme negeert hij andere negatieve maatschappelijke tendensen zoals ongelijkheid.

Daarmee bezondigt The social dilemma zich gek genoeg aan een aantal dingen die het sociale media net aanwrijft. Of bedient het zich ervan? Het algoritme van Netflix legt de docu namelijk ook geen windeieren. Het lijkt alsof Orlowski zegt: we bestrijden hen met hun eigen wapens. Die hebben namelijk hun effect al bewezen.


DS, 21-09-2020 (Nick De Leu)