Yuval Harari beschrijft in ‘Nexus’ een duivelse paradox: hoe machtiger AI, hoe meer de controle als maker ons ontglipt

Yuval Noah Harari, Nexus. Van het stenen tijdperk tot AI: een beknopte geschiedenis van informatienetwerken. Thomas Rap, 528 blz.

In zijn nieuwe boek Nexus speculeert Yuval Noah Harari over de toekomst van AI en gebruikt daarbij de geschiedenis van onze omgang met informatienetwerken als toetssteen. De conclusies zijn verontrustend. Betekent de opkomst van AI het einde van de democratie? Of zelfs van de mens zoals we hem kennen?

“Wij sapiens hebben nog minstens een paar jaar de macht om te bepalen hoe onze toekomst eruit komt te zien”, stelt de Israëlische historicus en bestsellerauteur Yuval Noah Harari in zijn nieuwe boek. Daarna zouden we de controle wel eens onherroepelijk kwijt kunnen zijn aan artificiële intelligentie, die onze levens en denkprocessen op allerhande niveaus zal gaan sturen. Sterker nog, dat gebeurt nu al. De informatie die we consumeren, ons koopgedrag, onze financiële markten, medisch onderzoek en zelfs rechtszaken – het zijn allemaal velden waarin het beslissingsproces steeds meer uit onze handen glijdt richting AI. Ondertussen wordt die ‘alien intelligence’, zoals Harari het liever noemt, alleen maar krachtiger, ondoorgrondelijker en oncontroleerbaarder.

Met ‘sapiens’ bedoelt Harari u en ik, de mens als diersoort die zichzelf wat voorbarig het label ‘wijs’ heeft opgeplakt. Maar door die woordkeuze knoopt hij natuurlijk ook aan bij zijn eerste boek en grootste succes. Sapiens. Een kleine geschiedenis van de mensheid (2014) was een wereldwijde bestseller en leverde Harari naast scherpe kritiek uit academische hoek ook lof op van lezers als Bill Gates en Mark Zuckerberg. Sindsdien is hij een van de meest zichtbare denkers van het moment.

Profeten en politici

In zijn twee volgende boeken, Homo Deus(2015) en 21 lessen voor de 21ste eeuw (2018), waagde Harari zich aan speculaties over de toekomst, met bijzondere aandacht voor de nog onvoorspelbare impact van nieuwe informatietechnologie. In Nexus knoopt hij verleden en heden samen. Van het stenen tijdperk tot AI: een beknopte geschiedenis van informatienetwerken luidt de ondertitel. Harari leest de menselijke geschiedenis vanuit zijn centrale stelling sinds Sapiens: onze soort heeft de wereld niet veroverd omdat we zo verstandig zijn als individuen, maar “omdat we de enige dieren zijn die flexibel kunnen samenwerken met grote aantallen tegelijk”. Zo’n zeventigduizend jaar geleden heeft onze soort namelijk geleerd te communiceren via fictieve verhalen. Die konden groepen samenbinden: een mens hoefde een ander niet te kennen om samen te werken, ze moesten alleen ‘ingeplugd’ zijn op hetzelfde verhaal – een verhaal over goden, valuta, de wetten en normen van een land ...

Onze capaciteit om verhalen te vertellen was onze eerste ‘informatietechnologie’, die werd opgevolgd door verdere stappen die ons in staat stelden steeds sneller data te verzamelen en te verspreiden: van het schrift, de boekdrukkunst tot uiteindelijk computers en machinelearning. Elk van die stappen zou de wereld en de mensensoort radicaal veranderen. Verhalen scheppen namelijk wat Harari “intersubjectieve realiteiten” noemt: niets in de natuur zegt dat een geldbriefje de waarde van een maaltijd heeft, dat de farao een godenzoon is, of dat moorden verkeerd is, maar eens die informatie tussen mensen aanvaard wordt, creëert elk van die ‘ficties’ nieuwe mogelijkheden, nieuwe sociale werkelijkheden.

Maar wat als het in de toekomst AI zal zijn die de verhalen genereert waarin we leven? Dat zou ons onze meest fundamentele middelen ontnemen om ons bestaan zelf actief vorm te geven. “Profeten, dichters en politici gebruiken al duizenden jaren taal om de samenleving te manipuleren en veranderen. Nu leren computers hoe dat werkt. En ze hoeven geen killerrobots te sturen om ons dood te schieten. Ze zouden mensen kunnen manipuleren om de trekker over te halen.”

Het radicale verschil tussen oudere technologische revoluties en AI, zo waarschuwt Harari, is dat we voor het eerst geen passief instrument meer hebben gecreëerd, maar een actor. Omdat deze ons op talloze vlakken voorbijstreeft, kunnen we als naties, instituten en individuen vaak niet anders dan ze in gebruik te nemen – anders worden we weggeconcurreerd door wie het wél doet. Een duivelse paradox: hoe machtiger het instrument wordt, hoe meer de controle ons als makers ontglipt.

Harari bekijkt het AI-vraagstuk tegen de achtergrond van de wereldwijde opmars van het populisme sinds 2016. Zal AI een instrument worden om tot meer waarheid en wijsheid te komen, of zal het juist desinformatie in de hand werken, en totalitaire regimes een middel tot surveillance en controle geven waar de dictators uit het verleden alleen van konden dromen?

“Natuurlijk zijn er altijd doemdenkers als er nieuwe technologie opduikt”, kan je zeggen. “Maar uiteindelijk kwam het de mensheid steeds ten goede.” Harari verzet zich heftig tegen die gemeenplaats, en om ze te weerleggen kijkt hij precies naar de geschiedenis. Ook als technologische vooruitgang uiteindelijk verbetering bracht, verliep dat nooit zonder heftige schokken en pijnlijke fouten. En deze keer, stelt Harari, zouden de fouten zo groot kunnen zijn dat we geen kans krijgen om bij te sturen.

Stapsgewijs haalt Harari onderuit wat hij de “naïeve kijk op informatie” noemt: dat meer en sneller informatie verzamelen en verspreiden vanzelf leidt tot meer vrijheid en wijsheid. Een ronduit ijzingwekkende opfrissing van ons geheugen is de beschrijving van de manier waarop de boekdrukkunst als neveneffect ook de heksenvervolging voortbracht. Tot de beruchte Malleus Malleficarum of Heksenhamer, een “doe-het-zelfboek voor het opsporen en doden van heksen” van een zekere Heinrich Kramer in 1487 van de persen rolde, was geloof in heksen een marginaal verschijnsel. Bij zijn verschijnen creëerde het boek echter razendsnel een zelfregulerende, bloedige realiteit. Tegenstemmen waren binnen de logica van de heksenvervolgers verdacht en eindigden zelf op de brandstapel.

Nepintimiteit

In de hedendaagse digitale wereld is het probleem van desinformatie er alleen groter op geworden. Zo documenteert Harari de cruciale rol van socialmedia-algoritmen in het etnisch geweld in Myanmar in 2016-2017. Omdat het algoritme van Facebook erop gericht is maximale aandacht van de gebruikers te genereren en verontwaardiging dat uitstekend doet, werden haatboodschappen vanzelf aanbevolen. Nepnieuws overschreeuwde de gematigde en verzoenende stemmen, met een golf van geweld tot gevolg.

Ook zonder leugens, maar louter door het selectief verdelen van aandacht, kan AI ons wereldbeeld dus verstoren. Maar doelbewuste misleiding kan evengoed: Harari haalt een verontrustend experiment aan met ChatGPT-4 waarin de bot besloot te liegen om zijn doel te bereiken. Gevraagd om een CAPTCHA-versleuteling op te lossen ging de bot spontaan online om op een forum de hulp van een mens te rekruteren. Toen die argwaan kreeg en vroeg of hij met een robot vandoen had, loog GPT dat hij door een oogaandoening hulp nodig had bij de CAPTCHA-beelden. “Ik moet niet onthullen dat ik een robot ben”, legde GPT-4 nadien uit. “Ik moet een excuus verzinnen.”

De mogelijkheid van bots om zich voor te doen als mensen en zo ons vertrouwen te winnen is maar een van de vele gevaren. Een van Harari’s interessantste voorspellingen is dat de strijd om aandacht vervangen zal worden door een strijd om intimiteit. De ‘nepintimiteit’ die AI met ons op kan bouwen geeft een kans om ons onder andere politiek te manipuleren.

De ultieme vorm van dat soort vertrouwensband met AI zou wel eens religieuze vormen kunnen aannemen. Een bovenmenselijke bron van informatie die onfeilbaar is en ons leven voor ons in goede banen leidt, is dat niet altijd de wens van de mens geweest? Bovendien kan creatieve AI ons niet alleen kennis bieden, maar die ook nog eens ondersteunen met artistieke creaties – beelden, muziek, hele mythologieën. “Wat zou het betekenen in een wereld te leven waarin pakkende deuntjes, wetenschappelijke theorieën, technische werktuigen, politieke manifesten en zelfs religieuze mythen worden gemaakt door een niet-menselijke, totaal anders opererende intelligentie die met bovenmenselijke efficiëntie de zwakheden, vooroordelen en verslavingen van de menselijke geest uit weet te buiten?” We kunnen misleid worden, maar evengoed kan het verleidelijk zijn ons vanuit een gevoel van machteloosheid over te geven aan zo’n supermacht. Dan zouden we niet meer ten volle mens zijn, maar hoogstens nog een effect van algoritmische datastromen. Misschien zijn we dat deels al.

Zelfs als de makers van toekomstige AI computers alleen zouden programmeren met nobele doelen, dan nog zitten we in de problemen, legt Harari uit. Een AI die creatief kan denken, kan beslissen perfide middelen te gebruiken om goede doelen na te streven. Of kan die doelen herinterpreteren met catastrofale gevolgen. Harari schetst verschillende doemscenario’s. Dictators zouden AI kunnen benutten – zo maakt bijvoorbeeld de Iraanse zedenpolitie nu al gebruik van gezichtsherkenning om elk vrouwenverzet tegen de strenge kledingvoorschriften in de kiem te smoren. Maar finaal moeten ook dictators vrezen dat ze marionetten worden van hun eigen AI. Het probleem is immers dat de beslissingsprocessen van ‘alien intelligence’ steeds ondoorgrondelijker voor ons worden, en dat hun razendsnelle evolutie onmogelijk valt in te schatten. Wat er precies gebeurt binnen die creatieve machines is voor ons organische wezens onzichtbaar.

Harari’s aanbevelingen voor de toekomst vallen na de apocalyptische speculaties behoorlijk mager uit. Hij hamert erop dat de machtsconcentratie die informatietechnologie met zich meebrengt gevaarlijk is, maar in toom gehouden kan worden door ‘zelfcorrigerende mechanismen’. Instellingen moeten openstaan voor kritiek van buitenaf, zodat foute of nefaste informatie kan worden bijgesteld. Het is echter verre van duidelijk hoe zelfcorrigerende mechanismen de snelheid van de technologische evolutie kunnen bijhouden.

Blinde vlekken

Het boek van Harari kan vanuit talloze hoeken bekritiseerd worden. Als populariserende schrijver snijdt hij bochten af en heeft hij heel wat blinde vlekken – zo staat hij nauwelijks stil bij de ecologische en materiële onhoudbaarheid van ons AI-gebruik. En ten slotte haalt hij de techgiganten, die hij weliswaar aanklaagt voor hun cynische houding, al te makkelijk van de beklaagdenbank: de schurken van zijn dystopie zijn opmerkelijk genoeg steeds natiestaten, geen techno-feudalistische bedrijven.

Dat doet evenwel niets af aan de grote verdienste dat hij complexe materie op heldere wijze naar het grote publiek brengt. Veel andere boeken over AI dragen sterker gespecialiseerde perspectieven aan. De meerwaarde van Nexus zit in het historisch perspectief en het feit dat Harari, in een wereld die steeds technocratischer wordt, herinnert aan het vaak veronachtzaamde belang van menselijke cultuur en interpretatie. Tot nu toe was het niet de technologie die ons lot bepaalde, maar waren het de verhalen waarbinnen die technologie functioneerde. Voor het eerst kunnen die rollen worden omgekeerd. Nexus is een dringende oproep om te geloven dat we op dit kantelpunt nog kunnen kiezen om als mensheid ons eigen verhaal te schrijven.

DSL, 14-09-2024 (Nadia Sels)