KERSTESSAY. De Omgekeerde Schepping (deel 3)

Nieuw Animisme. De mens en haar dingen

Zij leren van ons, en wij van hen

Mireille Hildebrandt


Terreuraanslagen laten zien dat we vooral bang zijn voor iemand die de mens bekijkt als een ding dat kapot mag. Die angst zegt ook iets over de omgang met onze machines. We kunnen er emoties in bouwen, dan nog worden intelligentie systemen nooit onze lotgenoten. Maar ze bieden wel kansen tot nieuwe vormen van zijn en samenzijn, schrijft Mireille Hildebrandt.


De aanslagen van Parijs (door jihadisten), de bezetting van Brussel (door het eigen leger): na de nacht van 13 op 14 november is het zelfbeeld van Europa veranderd en doemt de vraag op hoe wij ons gaan verhouden tot de terreur die ons in de ban heeft. We hebben misschien lang gedacht dat geweld iets van de televisie was, iets van het nieuws, iets in andere delen van de wereld. Waar men nog niet zover is als wij zijn, na twee ‘Europese wereldoorlogen’ (hebben we door hoe eurocentrisch we denken?).

Natuurlijk dragen we zelf bij aan dat geweld in de verte, wanneer we besluiten bommen te gooien om dictatoriale regimes te bestrijden of aantasting van onze geopolitieke belangen te stoppen. Hadden we nog enig besef van het effect van bombardementen op de ‘gewone’ burgers wier leefwereld en vlees woest en bruut uit elkaar worden gerukt, en wier bloed vloeit? Mijn ouders maakten het bombardement van Rotterdam mee, aan het begin van de Tweede Wereldoorlog. De existentiële angst en onzekerheid die dat voor de rest van het leven meebrengt is nauwelijks te bevatten, zelfs niet voor mij als kind van die ouders. Het besef dat andere mensen tot zo’n daad van meedogenloze agressie in staat zijn, ondermijnt het vertrouwen in de ander en maakt uiteindelijk het denken in termen van vriend en vijand bijna onvermijdelijk.

Wie wordt aangevallen zoekt en vindt (hopelijk) lotgenoten. Mensen die in elkaar dezelfde pijn, honger, verschrikking, angst en existentiële eenzaamheid herkennen. Niets is meer beangstigend dan medemensen te treffen die ons behandelen als waren we een ding dat kapot mag, of zelfs kapot moet. Precies om die reden vormen aanslagen zoals die van Parijs ‘terreur’; ze bieden ons een blik in de afgrond van ons eigen menszijn. Dat mensen die zo’n terreur meemaken in staat zijn om de schrik af te werpen en het vertrouwen in de medemens opnieuw uit te vinden is op z’n minst een wonder.


De nabijheid van geweld

Misschien dat sommigen onder ons dankzij de semipermanente onderdompeling in de virtuele werelden van televisie, zoekmachines, sociale media en games de gruwelen van face-to-face-geweld waren vergeten. De geprivilegieerden onder ons kennen geweld alleen van horen zeggen, van zien op afstand, of zelfs alleen nog maar in de gesimuleerde variant van film en game. De onlife wereld waarover ik eerder schreef plaatst een buffer tussen ons en de ‘harde’ werkelijkheid. Die buffer maakt het mogelijk kennis te nemen van wat ver weg is en lijkt geweld zo dichterbij te brengen, maar schept tegelijkertijd afstand doordat we eraan wennen van alles mee te maken zonder fysieke nabijheid. We kunnen bovendien op afstand ingrijpen in de wereld van anderen, al was het maar door hen met chats of posts te vertellen of te laten zien dat we zwanger, werkloos, op een feestje of ziek zijn. Of door drones te sturen die geweld plegen, op afstand. Misschien is een kernbegrip om de ontreddering te begrijpen die de aanslagen teweegbrengen dat van de ‘proximiteit’. Hoe gaan we om met de plotselinge nabijheid van bruut geweld en van problemen die wortelen in Verweggistan – althans dat dachten wij. Na de stroom vluchtelingen, die ons confronteert met de uiteindelijke gevolgen van globalisering en het verval van afstand, nu ook de nabijheid van face-to-face-geweld. Hoe ironisch dat wij in het Westen meenden voortaan oorlog te kunnen voeren via drones, zodat we zelf buiten schot blijven en met vermeende chirurgische precisie alleen de rotte appels zouden verwijderen. Om vervolgens getrakteerd te worden op een nieuwe proximiteit, die eigenlijk direct voorkomt uit het verval van afstand dat onze nieuwe ICT’s mogelijk hebben gemaakt.

De vergetelheid rond face-to-face-geweld is natuurlijk niet nieuw. De combinatie van schrift en drukpers (onze vorige ICT’s) en het geweldmonopolie van de overheid hebben ons langzaam maar zeker vervreemd van de nabijheid van het geweld. Het schrift en de drukpers maakten het al veel eerder mogelijk om geweld op afstand waar te nemen (door erover te lezen) zonder het zelf te ervaren. Geschreven recht maakte het mogelijk om een bevolking aan te sturen middels schriftelijk opgelegde algemene regels die onder dreiging van overheidsgeweld worden afgedwongen. Die dreiging is zelfs zo effectief gebleken dat het geweldmonopolie ruimte schiep voor een, destijds, nieuw soort vergetelheid. Een vergetelheid die het toestaat ons met een gerust hart te wijden aan andere zaken dan het regelen van rugdekking; we hoeven niet dag en nacht onze naasten te beschermen tegen vijandige clans, milities, piraten of bandieten. Een zegen – die vergetelheid. Dat het geweldmonopolie ook een vloek kan zijn is intussen evident, we hebben er eeuwen over gedaan om dat monopolie door middel van machtenscheiding en een vrije publieke ruimte in toom te houden. De kunst is dan ook om onze zegeningen te tellen zonder onze weerbaarheid, ook die tegenover de overheid, op te geven.

Waarom deze uitstap naar wat mensen elkaar aandoen? Wat is het belang van het oprakelen van de gruwelen van de fysieke haat die anderen kennelijk drijft – en die ons dus ook kan ‘drijven’, nu we van dezelfde ‘soort’ zijn? Wie zag in 1995 de Franse film La haine, die 24 uur het leven volgt van drie bewoners van een Franse banlieue; bewoners van Joodse, Arabische en Afrikaanse afkomst die ‘huizen’ in uitzichtloosheid en overleven in voortdurende proximiteit van fysiek en mentaal geweld? Hoe kunnen we, gezien die ellende, eigenlijk verbaasd zijn over terrorisme in eigen huis, als curieuze mengeling van ‘eigen kweek’ en extern beraamde strategieën? Wie opgroeit in een sfeer van angst, onzekerheid en wantrouwen zal moeite hebben een plek te vinden in onze samenleving; mensen worden niet alleen gedreven door rationele afwegingen en kalm intern overleg, maar vooral door gevoelens van liefde, zorgzaamheid, walging, angst, onzekerheid, haat, vriendschap en verbondenheid. Uit de cognitieve psychologie is al sinds jaar en dag bekend dat beslissingen nemen en het handelen zelf afhangen van emotionele tussenkomst, meer dan van rationele calculatie. Wanneer delen van de hersenen waar de emotie wortelt door ziekte of ongeval wegvallen, blijken mensen nog steeds in staat tot uitstekende rationele overwegingen, maar nauwelijks meer te bewegen tot handelen. We blijven dan kennelijk hangen in een tergende besluiteloosheid, een eindeloze herhaling van te beredeneren keuzemogelijkheden.


Deep learning

Vergelijkbare inzichten komen voort uit het onderzoek naar kunstmatige intelligentie (KI). Decennialang leek KI de plank mis te slaan, geheel in de ban van ons rationele denkvermogen als hoogste vorm van intelligentie. Machines konden wel calculeren en redeneren op basis van strikte logica, maar niet zelfstandig leren van de impact van eigen interventies en niet zelfstandig handelen naar aanleiding van het geleerde. Intussen heeft KI een fundamentele omwenteling doorgemaakt en is juist zeer goed in staat om snel te leren, veranderingen in de omgeving op te pikken en de gevolgen van eigen interventies door te rekenen. Die eigen interventies blijven grotendeels afhankelijk van de ingebouwde functionaliteiten, maar inmiddels lukt het toch wel om systemen via zogenaamd ‘deep learning’ redelijk zelfstandig tot inductieve inzichten te laten komen, die eventueel in combinatie met evolutionaire programma’s en genetische algoritmes worden getest en doorgezet. Intelligentie lijkt meer met statistiek dan met logica van doen te hebben, en vooral meer met leren op basis van ervaring dan met het toepassen van voorgebakken regels. Het IBM-computersysteem Watson dat de quiz Jeopardy won, waarover ik gisteren schreef, is een goed voorbeeld van wat machinaal leren vermag, en de commerciële versie van het systeem heeft inmiddels ‘deep learning’ geïntegreerd. Betekent dit nu dat Watson een aangename huisgenoot zou zijn, die goed kan inschatten wanneer we verveeld, geïrriteerd, verbolgen, bang of juist blij of nieuwsgierig zijn? En gaan we op een dag van Watson houden, als het systeem is voorzien van synthetische emoties om betere beslissingen te nemen, en vooral ook om meer empathisch over te komen, ten einde ons vertrouwen te winnen?

In dat verband is een interessante vraag of we ons blijvend voor de gek zullen laten houden door systemen die onze emoties op basis van koele berekening herkennen en ons langs die weg kunnen manipuleren. Om het wat concreter te maken leg ik graag uit wat AB-onderzoek met ons doet. Stel, ik exploiteer een website en wil weten hoe ik die zo kan inrichten dat de bezoeker zo veel mogelijk van mijn teksten leest, of zo duur mogelijke spullen koopt of, bijvoorbeeld, lid wordt van mijn organisatie. Of, wat cynischer, zo veel mogelijk adverteerders trekt. Daartoe neem ik iemand in de hand met software waarmee zij het onlinegedrag van de bezoekers van mijn site kan meten. De oorspronkelijke site (versie A) wordt vervolgens minimaal veranderd door bijvoorbeeld de kleuren aan te passen, andere buttons, meer of minder tekst of andere doorklikmogelijkheden. Zo’n minimaal veranderde site is dan versie B. De ene helft van de bezoekers wordt naar versie A geleid, de andere helft naar versie B. De software test de invloed op het onlinegedrag (blijven bezoekers langer, kopen ze meer, klikken ze eerder door of juist weg, blijven ze langer hangen maar kopen niets, naar welke andere sites gaan ze, van welke sites of zoekmachines komen ze, geven ze meer geld uit, komen ze vaker terug). De versie die het meest lucratieve of althans gewenste gedrag oplevert wordt aangehouden en vervolgens herhaalt zich het hele proces. Op deze manier worden de meest gebruiksvriendelijke websites voortdurend bijgesteld. Dit heet AB-testen.


De mens die kapot mag

Vroeger had je voor zo’n onderzoek veel geld nodig en moest je langs de ethische commissie, want de proefkonijnen weten van niets. Vandaag zijn wij allemaal en voortdurend aan de slag als ratten in het laboratorium van onze online serviceproviders. Voor wie dit te negatief klinkt zou je ook kunnen beweren dat wij hier als consument ‘met de voeten’ stemmen op wat wij ervaren als de betere websites. Als we nu even verder denken moet de conclusie zijn dat een geslaagde introductie van slimme energiemeters, bezorgdrones of zorgrobots eenzelfde vorm van AB-testen zal vragen. Hoe meer het daarbij gaat om het beïnvloeden van ons gedrag, hoe groter de kans is dat daarbij synthetische emoties en gesimuleerde empathie worden ingezet. De ontwerpers van Siri hebben dat al goed begrepen. Anders dan bijvoorbeeld de zoekmachine van Google, herkent Siri onze stemming en probeert daar zo plezierig mogelijk op in te spelen. Ook Facebook hecht aan het positief beïnvloeden van onze stemming en speelt zo met onze emoties – en misschien toch ook met onze gevoelens.

Is het een probleem dat intelligente systemen met onze gevoelens spelen, of juist een kans op nieuwe vormen van samenzijn – met niet-mensen die geen dieren zijn en ook geen dingen zoals we ze gewend waren? Ik zou durven beweren dat de geestloze systemen, waarmee we in toenemende mate werken en spelen en waar we steeds meer op vertrouwen, zelfs kansen bieden tot nieuwe vormen van zijn. Waar je mee omgaat, word je mee besmet. Het is onvermijdelijk dat het inspelen op al die bewustzijnsloze agents ons zelf en ons samenleven, onze intuïties en ons begrip van onszelf en van de wereld gaat transformeren. We zullen in zekere zin een nieuw animisme moeten ontwikkelen, niet omdat we ‘geesten’ of een ‘ziel’ of mensachtige eigenschappen op de dingen gaan projecteren, maar om een meer actieve omgang te kweken met dingen die ons voorzien en ons vóór zijn. We hebben altijd gedacht dat wij dingen gebruiken. Doemdenkers zijn – niet per se ten onrechte – bang dat deze dingen ons zullen gebruiken. Punt is om te schakelen van gebruik naar interactie. We moeten leren inschatten hoe ze ons inschatten en daarop inspelen, hen ‘uitzetten’, ‘unpluggen’ of hun configuratie aanpassen om te voorkomen dat ze ons de speelruimte ontnemen die onze vrijheid uitmaakt.

Intussen mogen we niet vergeten dat deze systemen niet onze lotgenoten zijn, hoe intelligent ook. De terreur drukt ons met de neus op het feit dat niets meer beangstigt dan medemensen te treffen die ons behandelen als waren we een ding dat kapot mag, of zelfs kapot moet. Hoe gruwelijk ook, deze terreur komt van mensen. Denken we ons in hoe groot onze ontreddering moet zijn als het kunstmatig intelligente systemen zijn die ons kapotmaken, wanneer we beseffen dat daarin zelfs geen greintje empathie schuilt – niets dan simulatie. Iedere vorm van aanspreekbaarheid is dan verdwenen. Straffen is zinloos, alleen conditioneren helpt, maar dat is echt iets anders.

Mireille Hildebrandt is onderzoekshoogleraar 'Interfacing Law & Technology' (VUB) en gewoon hoogleraar bij het departement Computerwetenschappen (Radbouw Universiteite Nijmegen). Zij publiceerde dit jaar het boek 'Smart Technologies and the End(s) of Law'.


DS, 29-12-2015 (Mireille Hildebrandt)

__________________
"Never argue with an idiot, they'll just bring you
down to their level and beat you with experience." (c)TB