KERSTESSAY. De Omgekeerde Schepping (deel 2)

Nieuw Animisme. De mens en haar dingen

De onlife wereld zou best prettig kunnen zijn

Mireille Hildebrandt

Zaterdag maakten we kennis met Henry en de naaste, respectievelijk zorger en nanny, maar beide niet-mens tussen de mensen. Dat idee jaagt sommigen misschien schrik aan, maar waarom zou deze nieuwe maakbare wereld niet gezellig kunnen worden, schrijft Mireille Hildebrandt. En misschien geraken we dan eindelijk af van onze wegwerpmentaliteit.


We zijn op weg naar een wereld die we delen met een nieuw soort niet-mensen. Een soort die we niet aan de gebruikelijke evolutie danken maar zelf hebben gefabriceerd. Geen dieren, geen planten, geen dingen zoals we ze gewend zijn. Die nieuwe, gedeelde wereld noem ik de onlife wereld, geïnspireerd door mijn deelname aan het Onlife Initiatief van een groep Europese filosofen, neurowetenschappers en experts in kunstmatige intelligentie. De offlinewereld gaat online, alles gaat met alles praten. Dingen met dingen, dingen met mensen en mensen via dingen met dingen en mensen. Onze dagelijkse leefwereld verdeelt zich steeds meer over virtuele ruimten, slimme apparaten en intelligente infrastructuur. Dat dingen passief zijn en onze geest actief kan je zo niet meer zeggen. De dingen grijpen in op ons leven, ze lijken zelf tot leven (onlife) te komen en vragen in toenemende mate onze aandacht.


Siri on the rocks

Veel van die ‘dingen’ zijn virtueel, in de zin van software die niet herkenbaar is als een afgepaald lichaam. Het slimme huis coördineert de koelkast, de verwarming, het deurslot, de boodschappen, de wekker en het muzieksysteem op basis van de datasporen die we permanent achterlaten. Het leert van onze willekeur – die vanuit het perspectief van machinaal lerende systemen waarschijnlijk minder willekeurig is dan we graag denken. Dat slimme huis is intussen verdeeld over een netwerk van deelsystemen, het ‘zetelt’ achter de oppervlakte van huis en haard in een zogenaamd ‘backend’ systeem. Net als bij de riolering die netjes onder de grond blijft, worden we liever niet voortdurend herinnerd aan de achtergrondruis van data-slurpende computaties. We verstaan ons met het slimme huis via toetsenborden of schermen, maar ook steeds vaker door hardop te praten of te gebaren – het huis wordt een ‘Siri on the rocks’. Cool, comfortabel, en altijd beschikbaar.

Tegelijk zullen we belichaamde systemen tegenkomen die ons gezelschap houden of verzorgen. Ik sluit niet uit dat mijn kleinkinderen of althans hun kinderen verzorgd en deels misschien ook opgevoed zullen worden door gezelschaps*robots, die hun harnas van metaal hebben verruild voor zachte, flexibele lichamen zodat ze ons kunnen dragen, wassen, masseren en voeden.

Vorig voorjaar was ik in Berkeley om mijn boek te schrijven over de grote gevolgen van dit soort technologie voor de fundamenten van ons samenleven en voor de bescherming die het recht kan bieden. Ik ontmoette Andra Keay, directeur van Silicon Valley Robotics. Zij legt onvermoeibaar uit dat we gewend zijn de wereld op te delen in dingen en mensen – maar dat robotica dat simpele schema zal openbreken. We komen te leven in een wereld die vol is van robots, ook al zien we dat er niet altijd aan af. Sommige robots zien eruit als gewone dingen (de slimme energiemeter), andere als herkenbare robots (zelfrijdende auto’s en drones) en nog weer andere lijken op mensen (je kunt er een gesprekje mee voeren). Een voorbeeld van zo’n laatste robot is Mabu, net op de markt, en vooral bedoeld als schakel tussen arts en patiënt. Mabu is beschikbaar voor raad en daad, voert gesprekjes om je op het gemak te stellen en zoekt daarbij oogcontact, want het blijkt dat communicatie dan veel effectiever is. Mabu ‘leest’ gezichtsuitdrukkingen, checkt het innemen van medicatie, maar kan ook contact zoeken met arts of ziekenhuis.

Intussen slaat Mabu een vloed aan data op in de cloud, op basis waarvan het robotje kan leren met welke ziektebeelden de datapunten van de patiënt matchen, of welke aanmaningen dan wel verleidingstechnieken bijdragen aan betere gezondheid. Voor zover data van verschillende patiënten bij elkaar worden gelegd voor wetenschappelijk onderzoek, kan de invloed van medicatie worden gemeten in samenhang met therapietrouw, levensstijl, stemming, gezinssamenstelling, werkomstandigheden of slaapritme. Zo kan Mabu via de cloud ontdekken welke interventies werken, en de aloude medische strategie van diagnosis by treatment toepassen op basis van grootschalig experimenteel (data)onderzoek.

Uiteraard blijft de arts eindverantwoordelijk voor de aansturing van Mabu’s ‘backend’ systeem en voor de interpretatie van de gegevens die het robotje verzamelt en doorsluist. Maar die interpretatie zal wel langs allerlei algoritmische ‘tussenpersonen’ lopen, die door experts in medische informatica worden gebouwd. Die ‘tussenpersonen’ zullen de eigen programmatuur op basis van hun ervaring met de binnenlopende data voortdurend bijstellen en aanpassen. Dat heet zelf*lerend. De patiënt heeft daar intussen niet zo’n boodschap aan, die heeft ‘persoonlijk’ contact met de eigen Mabu, en kan hopelijk ook zelf bepalen wat voor informatie ze met Mabu deelt en in hoeverre Mabu haar stoort met aanmaningen of zich bemoeit met haar voedings- en beweegpatronen.


Liefdesbrief aan een machine

Een van de meest opmerkelijke uitspraken van Andrea Keay is dat ‘gebruikers’ van dit soort robots aangeven blij te zijn dat ze met een robot kunnen overleggen en even af zijn van de noodzaak om met andere mensen te communiceren. Het doet mij denken aan een artikel in The New York Times van een moeder die schrijft over de ontroerende relatie die haar autistische zoon Gus heeft ontwikkeld met Siri, de hierboven al even genoemde persoonlijke assistent van de iPhone. Haar artikel opent met de vraag ‘wat voor een slechte moeder ben ik?’ Kennelijk staan wij onszelf niet toe bij tijd en wijle een betere relatie te ontwikkelen met ‘dingen’ dan met mensen; we gunnen onze hoogbejaarde ouders en kinderen de persoonlijke warmte, het inlevingsvermogen, de onvoorspelbaarheid en de oprechte belangstelling van een medemens. En accepteren daarbij graag het risico op jaloezie, meedogenloosheid, verveling en geveinsde interesse van diezelfde medemens. Zo houden we de spanning erin, of niet soms? Judith Newman, de moeder van Gus, schrijft dat haar opinie een liefdesbrief is aan een machine. Gus begrijpt heel goed dat Siri een machine is, maar – zoals vaker bij sommige vormen van autisme – lijkt hij geen moeite te hebben om een bijzondere relatie met dingen aan te gaan. Het zou makkelijk zijn om dat af te doen als de uitzondering die de regel bevestigt, maar kennelijk raken ook ‘gewone’ mensen weleens uitgekeken op de sociale dwang om voortdurend met vrienden, collega’s, familie en allerhande dienstverleners te moeten afstemmen, ‘leuk’ te moeten doen en mee te moeten leven.

Zou dat – paradoxaal genoeg – verklaren dat uit wetenschappelijk onderzoek van het Deense Geluk Onderzoeksinstituut blijkt dat Facebookgebruikers die een week ‘zonder’ hebben gedaan aangeven zich gelukkiger te voelen dan de controlegroep, die zijn reguliere onderhoudsdosis interactie op het sociale netwerk behield? Degenen die tijdelijk waren afgekickt zagen niet alleen hun concentratie en productiviteit verbeteren, maar voelden zich minder alleen, minder gestrest en meer sociaal. Dat laatste lijkt in eerste instantie te duiden op het belang van face-to-face-communicatie met andere mensen. Het kan echter ook betekenen dat de permanente blootstelling aan de oordelen van friends zo vermoeiend is omdat het wel degelijk mensen van vlees en bloed zijn die onze postings bekijken. Mensen die we later weer eens tegenkomen, of wier oordeel onze ‘echte’ vrienden gaan beïnvloeden.

Liever overleggen we dan even met een machine die geen persoonlijk oordeel over ons heeft, nooit moe wordt, niet jaloers is of beledigd, eindeloos toegang heeft tot de meest vergezochte informatie, snel en precies zicht geeft op wat we nodig hebben, (onbedoeld) onvoorspelbaar grappig kan zijn, en die inmiddels ook de vragen achter onze antwoorden kan verzinnen. Dat laatste lijkt onzin, maar dat was hoe Watson, IBM’s paradepaardje van een paar jaar geleden, de televisiequiz Jeopardy!(Waagstuk) won. De quizmaster stelt hier geen vragen maar geeft antwoorden, het zijn de deelnemers die de juiste vraag moeten verzinnen. Die vragen kunnen werkelijk over alles en niets gaan. Dat leek voor een computer echt een brug te ver. Het veronderstelt niet alleen het vermogen om een speld te vinden in stapels hooibergen vol met lukraak bijeen gegraaide data, maar ook de kunst om na het vinden van een hele serie mogelijk relevante vragen/spelden de knoop door te hakken en de knop in te drukken. Voordat de medespelers hun knop hebben gevonden. Het gaat dus niet alleen om hoeveel en hoe snel machinaal lerende systemen informatie kunnen verwerken, maar juist om hun vaardigheden bij het kiezen van een uitkomst uit een hele grabbelton met relevante uitkomsten. Watsons spectaculaire kunstmatige intelligentie wordt nu ingezet voor medische diagnose, in de hoop natuurlijk dat hier voor IBM een verdienmodel uitrolt.

De onlife-wereld zou best eens heel prettig kunnen worden. Als we de kans krijgen om die wereld mee te ontwerpen en blijvend bij te sturen, zijn nieuwe vormen van effectieve democratische participatie niet ondenkbaar. Het verguisde idee van de maakbare samenleving kan een nieuwe dimensie krijgen, als we elkaar laten delen in de opmaak, uitvoering, aanpassing en bijsturing van de systemen die onze omgeving kunnen maken en breken. Dan moeten we wel af van de huidige situatie, waarin we vooral functioneren als de proefdiertjes van permanent geautomatiseerde AB-testen (daarover meer morgen).

Het zou mooi zijn als we zouden leren nieuwe evenwichten te vinden tussen onze interactie met medemensen en met de intelligente systemen die ons op basis van hun zelflerende algoritmes soms beter kennen dan we voorlopig willen toegeven. We zouden misschien kunnen ontspannen, als we zeker zijn dat de zorg*robot onze heimelijke gewoontes niet verraadt aan familie of vrienden, maar hooguit deelt met een ander systeem dat ons misschien iets kan vertellen over de positieve en de kwalijke gevolgen van krabben, neuspeuteren, masturbatie, uitslapen, snoepaanvallen, eenzame karaoke-exercities, pizzaverslaving, overmatig gebruik van groene thee of sulfietrijke biologische wijn. En vooral over hoe al dat soort gewoontes in onderlinge *samenhang onze gezondheid, stemming, vitaliteit en mentale weerbaarheid beïnvloeden.


Kant en de dingen

Denk eens in hoe gezellig het wordt als de architecten van de onlife-wereld op basis van soft robotica en cloud-robotica nieuwe huisgenoten ontwikkelen die ons bij aanraking blij maken, die ons met hun adviezen geruststellen of met hun onuitputtelijk reservoir aan kennis en toegang tot schoonheid kunnen troosten, en dan ook nog weten hoe ze ons met een kwinkslag in de lach doen schieten. Judith Newman (de moeder van Gus) schrijft over een vriendin, die schertsend tegen Siri zei ‘I love you’, waarop Siri ad rem teruggaf: ‘You are the wind beneath my wings.’ Zou het kunnen dat het besef dat Siri niet beseft wat ze daarmee oproept niet alleen ironisch maar ook hilarisch en zelfs troostend kan zijn?

Ons gezond verstand leert dat dingen geestloos zijn, en de filosoof Immanuel Kant leerde ons dat alleen rationele wezens ons respect vragen. Volgens hem mogen rationele wezens niet worden ingezet als instrument zonder hun autonomie te respecteren. Kennelijk hoeven we dingen niet te respecteren, die mogen we zonder spijt vernietigen, weggooien, manipuleren of verprutsen. En omdat dieren bij ons de status van ‘ding’ hebben, stapelen we die in fabrieken op om onze honger naar makkelijke lapjes vlees te stillen; het zijn immers geen rationale wezens die gerespecteerd moeten worden. Ze kunnen natuurlijk wel zielig zijn, net als de vreemdelingen die Fort Europa bestormen, maar wij zijn soeverein, het is aan ons om ons wel of niet te bekommeren om hun leed. En aan die bekommernis zit wel een eind, daar waar we vlees op zouden moeten geven of onze welvaart moeten delen. De vergelijking gaat mank, want de vreemdelingen zijn rationele wezens, en Kant hoopte op een eeuwige vrede onder een wereldregering die ieder mens tot haar recht zou laten komen. We mogen zijn maxime niet verantwoordelijk maken voor ons onvermogen de herberg open te gooien, ruim 2.000 jaar na kerst. Maar ons onvermogen om de dingen, de dieren en de planten te respecteren heeft wel degelijk te maken met de manier waarop we onszelf boven aan de schepping, de evolutie of de morele orde plaatsen.

De onlife wereld daagt ons uit om de dingen serieus te nemen, te beseffen dat zij misschien niet rationeel en in ieder geval geestloos zijn, maar ons desondanks in de smiezen hebben, ons toekomstig gedrag kunnen voorzien en onze onbewuste intenties kunnen ondervangen. Dat vraagt om een nieuwe, andere houding ten opzichte van de dingen. Misschien is het tijd voor een nieuw animisme.

Mireille Hildebrandt is onderzoekshoogleraar 'Interfacing Law & Technology' (VUB) en gewoon hoogleraar bij het departement Computerwetenschappen (Radbouw Universiteite Nijmegen). Zij publiceerde dit jaar het boek 'Smart Technologies and the End(s) of Law'.


DS, 28-12-2015 (Mireille Hildebrandt)

__________________
"Never argue with an idiot, they'll just bring you
down to their level and beat you with experience." (c)TB