KERSTESSAY. De Omgekeerde Schepping (deel 4)

Nieuw Animisme. De mens en haar dingen

Wie ziet nog door de cloud?

Mireille Hildebrandt

Mensen lijken op elkaar omdat ze emoties met elkaar delen en zo de ruimte tussen hen in zinvol invullen. In de nieuwe wereld zullen we moeten voorkomen dat de technologie die tussenruimte van ons overneemt, waarschuwt Mireille Hildebrandt.


Wij mensen zijn lotgenoten vanwege de onvoorstelbare plasticiteit van onze hersenen, vanwege ons vermogen om te leren, te veranderen, opnieuw te beginnen, anders te denken en ons wonderlijke vermogen om terug te kijken naar onszelf, te reflecteren. Ons lot is dat wij maar in beperkte mate zijn voorgeprogrammeerd. Antropoloog Helmuth *Plessner zei het zo: het is onze natuur om kunstmatig te zijn, om onszelf voortdurend opnieuw uit te vinden.

We zijn bovendien lotgenoten vanwege ons vermogen om blijdschap, angst, gelatenheid, woede, lankmoedigheid, walging, geluk, achterdocht, uitbundigheid, vernedering en vertrouwen te voelen en te delen. De psycholoog en filosoof Antonio Damasio meent dat we emoties niet moeten onderschatten als elementen van onze cognitieve opmaak. Jarenlang was dat zijn punt, tegen de heersende leer die zich liever tot logica en rationaliteit beperkte. Inmiddels is zijn aandacht verschoven naar de specifieke manier waarop wij, taligen, met onze emoties omgaan. Precies door over onze emoties te reflecteren, ze gewaar te worden en ze mee te nemen in ons denken ontwikkelen we gevoelens. We ondergaan onze emoties daardoor niet alleen, maar doordenken ze, zetten ze om in taal en teken, kunst en architectuur, ritueel en dans. Freudianen zouden zeggen dat we ze sublimeren. Of, als we ons geen raad weten, onderdrukken we onze emoties, met alle gevolgen van dien. Emoties zijn lichamelijke aandoeningen, ze zijn cruciaal om te overleven. Niet altijd prettig. En redelijk leesbaar in de lichamelijke reacties die ze teweegbrengen: van blozen tot huilen, van een grimas tot een van angst vertrokken gezicht. Gevoelens daarentegen hebben te maken met hoe wij ons tot onszelf verhouden, en dus tot elkaar. Want onze verhouding tot onszelf komt voort uit wat we van elkaar over onszelf leren.

Dieren zijn buitengewoon intelligent –nog steeds veel intelligenter dan *Watson, die niet zomaar zou overleven buiten de computer. Dieren met een centraal zenuwstelsel hebben emoties, ze lijden pijn, honger en dorst. Ze kunnen angstig zijn, vertrouwen opbouwen, vrolijk zijn en vernedering ondergaan. Wie de studies van primaten, olifanten en dolfijnen volgt, zal niet zonder droge ogen kunnen beweren dat dieren per definitie geen gevoelens kennen (lees Jodi Picoults ontroerende roman Leaving time of Frans de Waals wetenschappelijke werk over de morele orde van primaten).

Dan nog zijn onze gevoelens van een andere – en niet noodzakelijkerwijs hogere – orde. Want gevoelens zijn verweven met ons taalgebruik, dat het mogelijk maakt om op te roepen wat voorbij is of nog moet komen, wat ver weg is of verborgen. Daarin zijn we lotgenoten – we reageren niet alleen op basis van intuïties of pure emotie. We durven onze reacties en elkaars handelen voortdurend in vraag te stellen, af te keuren, te verdedigen, ten voorbeeld te stellen en in wetten neer of zelfs op te leggen. We leren over onze pijn heen te kijken, ons los te maken van vernederingen. We proberen situaties die frustraties opleveren te vermijden, maar ook om uitdagingen aan te vatten waar succes niet verzekerd is. We stellen onszelf expliciete doelen die niet noodzakelijk gericht zijn op ons persoonlijk overleven of onze persoonlijke glorificatie.

In dat vermogen om onszelf expliciete doelen te stellen, zijn we anders dan dieren, planten en dingen. Tegelijk hebben we met dieren het bewustzijn gemeen: van de omgeving, van ons lichaam, van pijn, verdriet, gemis, vreugde, opwinding, honger en dorst. We zijn niet alleen kwetsbaar, maar we beleven die kwetsbaarheid bewust. Daarin zijn we lotgenoten van alle levende organismen met een centraal zenuwstelsel. En daarin verschillen we van Watson, zorgrobots en digitale assistenten. In zekere zin hebben onze nieuwe huis- en landgenoten niets te verliezen, terwijl wij ons bewust zijn van onze fragiliteit, onze eindigheid en onze vatbaarheid voor gemis, voor schoonheid en voor het leed van anderen. In die zin mag een nieuwe vorm van animisme er ons niet toe verleiden om gevoelens te projecteren waar het gaat om gesimuleerde emoties of synthetische empathie. Onze nieuwe huis- en landgenoten zijn geen passieve dingen, maar het zijn toch niet onze lotgenoten. Ze hebben niets te verliezen. Wij wel.


De bril die je niet meer opmerkt

Met wie (of wat) delen we onze wereld? Wie zijn onze nieuwe deelgenoten? Niet meer en niet minder dan bewustzijnsloze dingen die zich gedragen als agents, als niet-biologische, niet-levende ‘organismes’ die hun omgeving waarnemen en erop inspelen. Die steeds vaker en steeds intensiever deel uitmaken van onze omgeving, die meer en meer wordt bepaald, aangepast en ‘in de lucht wordt gehouden’ door die agents. We maken onze infrastructuren met de dag meer afhankelijk van datagestuurde systemen (financiële markten, energienetwerken, belastingheffing, betalingsverkeer, kredietverlening, transport, politie- en inlichtingendiensten, medische wetenschap, zorgverlening, rekrutering en monitoring van werknemers). Maar ondanks hun alom*tegenwoordigheid kijken we deze systemen zelden ‘in de ogen’. Net als de riolering houden we ze liever onder de grond, net als bij de binnenkant van een auto beperken we onze aandacht liever tot het gladde oppervlak en de functionaliteit. We gebruiken ze en zolang alles goed gaat, valt de technologie als het ware weg. Zoals bij de bril die je op hebt: zonder bril zou je dit misschien niet meer kunnen lezen, maar als we eenmaal gewend zijn aan het ding, merken we niet meer dat we hem ophebben.

Hoewel de Amerikaan Mark Weiser meestal wordt aangewezen als de aartsvader van ubiquitous computing of calm computing, was de Japanse computerwetenschapper Ken Sakamura hem feitelijk enkele jaren voor, met het idee van *computing everywhere waarmee hij eind jaren 80 experimenteerde in een ‘slim huis’ in Tokio. Zijn idee sluit eigenlijk aan bij dat van de bril die je niet meer opmerkt: de computationele systemen die de omgeving op vloeiende wijze bijsturen, aanpassen en inrichten verdwijnen achter de oppervlakte van de dingen. Schermen en toetsenborden zijn niet meer nodig, de omgeving maakt uit ons gedrag op hoe we het willen hebben. Ze doen hun werk zonder ons nodeloos lastig te vallen, zoals ons autonome zenuwstelsel ons ook niet voortdurend vraagt of de hartslag omhoog moet of de stofwisseling aangepast.

Zolang alles functioneert, lijkt er geen vuiltje aan de lucht. Nadeel van de onzichtbaarheid van die computationele onderlaag is dat die niet aanspreekbaar is en ons als het ware achter onze rug om voortdurend min of meer aanstuurt. Gezien de manipulatieve aspecten die hieraan kleven, denk aan AB-testen, hebben we hier een groot probleem. Een van de grootste uitdagingen van de komende jaren zal zijn om deze systemen aanspreekbaar te maken, bijvoorbeeld door interfaces die reageren op spraak en gebaren en door visualisaties van wat ze afleiden uit onze datasporen. Zo kunnen we in gesprek komen, bijsturen, onderdelen uit- of afzetten, met de instellingen spelen en een goed beeld krijgen van hoe ze ons targeten en met wie of wat ze hun kennis van ons gedrag delen.

Tegelijkertijd zullen we te maken krijgen met systemen die meer lijken op een individuele agent, een duidelijk herkenbaar computersysteem waarmee we graag communiceren en interacteren. De Engelse term agent laat zich lastig vertalen. In de informatica is de betekenis vooral verbonden met eenvoudige of complexe computersystemen die hun omgeving kunnen waarnemen en zelf kunnen ingrijpen. Bij de complexere agents gaat het dan vooral om het vermogen om goed af te stemmen op de omgeving en om een zekere autonomie. In de morele filosofie gaat het meestal om moral agency, wat veronderstelt dat een agent redenen kan geven om het eigen handelen te rechtvaardigen; dat veronderstelt mentale processen. Interessant is dat in het recht een agent een vertegenwoordiger is, iemand die in naam van een ander (de patroon) handelt.

Kunstmatige agents, waar we het nu over hebben, zijn geen moral agents maar ze zijn wel redelijk autonoom en adaptief en zullen ook vaak optreden voor hun menselijke patroon. Denk aan zorg- en gezelschapsrobots. In de ouverture van dit *kerstessay voerde ik zelfs een ‘naaste’ op die als een zus of broer mee op zou groeien met onze kinderen, als een spiegel, kloon, tweeling, opvoeder, daimon, speelkameraadje, huisdier, en vriend.


Werken tot je tachtigste

Hoe verzin ik het. Onzin? Waanzin? Ik denk het niet. Het zou zomaar kunnen. Als we steeds ouder worden, misschien wel tot ons tachtigste blijven doorwerken en met vier generaties naast elkaar leven, zullen we iets moeten verzinnen om het gezellig te houden. Minder kinderen die toch samen opgroeien, met een nieuw soort gezinsleden. Bij deze nieuwe gezinsleden zal de grote uitdaging erin liggen om te beseffen dat ze via de cloud met andere agents praten; een groot deel van hun praktische wijsheid komt uit de cloud. En via diezelfde cloud delen ze hun inzichten in ons gedrag, inclusief de risico’s en de gevaren die we, statistisch gezien, vormen (voor de volksgezondheid, het economisch welzijn of de veiligheid van anderen).

Het onderscheid tussen beide type systemen is dus niet zo groot als het lijkt. Net zoals bij onze laptop of smartphone hebben we na de eerste update van het operating system van onze hoogstpersoonlijke zorgrobot eigenlijk al geen idee meer wat er achter de schermen plaatsgrijpt; net als bij de apps die we voortdurend downloaden hebben we geen flauw benul welke datastromen we op gang brengen en hoe die tegen ons kunnen worden gebruikt. Reden tot zorg.

Het gaat mij hier niet om datastromen per se, hoe belangrijk het ook is om de pseudoreligieuze verwachtingen van big data te temmen en steeds weer op te merken dat data weliswaar sporen of vertalingen van de werkelijkheid zijn, maar niet de werkelijkheid zelf. Mijn zorg en interesse liggen nu bij onze omgang met dingen die zich als agents gedragen en deelgenoot zijn van de onlife wereld. Ter afsluiting van deze voorlaatste aflevering wil ik de lezer ontvoeren uit de gebruikelijke westerse denkwereld, waar dingen eigenlijk alleen nog maar als gebruiksvoorwerpen worden gezien. Die utilitaire visie op dingen staat in de weg van de broodnodige interactie met onze nieuwe deelgenoten, die begint met respect voor de eigen waarde van het ding en oog voor de manier waarop deze nieuwe dingen ons voortdurend inschatten en afschatten.


Omgaan met de dingen

In de Japanse denkwereld is het onderscheid tussen dingen en personen vloeiender, en het respect voor beide meer verweven met dagelijkse praktijken die wij waarschijnlijk als rituelen zouden bestempelen. Ons eigen idee dat godsdienst en religie iets te maken hebben met ‘geloven dat’ in plaats van ‘omgaan met’, zit een goed begrip in de weg van het diepgewortelde respect voor de geest van de dingen, de verbondenheid met de voorouders en de plaats van het individu in de Japanse cultuur. Het Japanse woord *ningen betekent zowel mens als samenleving; nin betekent opnieuw ‘mens’ en gen ‘tussen’. Ningen geeft aan dat een mens ten gronde een relationeel wezen is, dat bestaat bij de gratie van de ruimte tussen mensen. Die tussenruimte wordt aangeduid met aida en precies die tussenruimte beschermt, inspireert en beweegt zowel het individu als de gemeenschappen die deze tussenruimte zelf ook weer beschermen, inspireren en bewegen.

In die ruimte spelen ook de kami en hotoke een belangrijke rol. Kami zijn dingen (bijvoorbeeld de zon en de berg Fuji), concepten (geboorte, groei, vruchtbaarheid) of wezens (dieren, voorouders). De omgang met kami stamt uit de shinto*traditie, die wij graag associëren met primitief animisme precies omdat bepaalde verwachtingen worden geprojecteerd op deze kami. Omdat wij geneigd zijn daar meteen ons soort logica op te plakken staan we klaar met ons oordeel dat shinto-aanhangers ‘geloven dat’ dingen een geest hebben. Dat is hier niet aan de orde. Het gaat niet om ‘geloof dat’ maar ‘omgang met’. Het is een vorm van samenleven met dingen die bijzonder respect verdienen. Hotoke zijn de voorouders die in bepaalde vormen van boeddhisme worden vereerd, waarbij we dan weer niet de fout moeten maken die ‘verering’ gelijk te stellen aan het ‘geloof dat’ de voorouders nog ergens bestaan of moeten worden aanbeden. Ook hier gaat het om een bijzondere vorm van respect en een andere vorm van samenleven met degenen die deze wereld hebben verlaten.

Naast respect voor en interactie met dingen en voorouders kunnen we ook leren van de manier waarop die tussenruimte de privacy beschermt. Niet zozeer het recht op privacy – dat is ook bij ons een recente uitvinding – maar het genieten van privacy, en dan eerder als gift dan als recht. Je zou kunnen zeggen dat de Japanse cultuur de wereld van dingen en mensen zo wist in te richten dat ze elkaar privacy gunnen. Dat gunnen is een kwestie van omgang, van praktijken en vertrouwen.

Zo zal iemand proberen in te schatten of de ander bepaalde informatie misschien niet wil delen en op grond daarvan doen alsof zij die informatie helemaal niet heeft. De ander zal dat merken en waarderen. Wij zouden dat dan weer huichelarij kunnen noemen, maar dat hangt af van de intenties – zwijg je uit respect of uit eigenbelang. Privacy heeft te maken met de ruimte tussen mensen en – voor zover slimme dingen ons ‘kennen’ – tussen mensen en dingen. Privacy is dan geen eigenschap van personen maar iets tussen personen. Die tussenruimte is als het ware elastisch. Die kan bijvoorbeeld leeglopen, wat kan leiden tot intimidatie en blootstelling aan de blik van de ander die tot schaamte, schuld of gewoon schade leidt. Die kan ook vollopen met allerlei doorgerekende voorspellingen over hoe we ons waarschijnlijk gaan gedragen, op basis waarvan de omgeving wordt aangepast, waardoor onze bewegingsvrijheid zo goed als verdwijnt. Tot slot kan die tussenruimte ook verdwijnen, zodat we het onderscheid tussen onszelf, de ander en de omgeving niet meer kunnen maken.

Het beschermen van onze privacy zal afhangen van de mate waarin we leren om de tussenruimte te beschermen tegen *datagraaiers en voorspelmachines. Die tussenruimte mag geen doorgeefluik worden, het moet een ruimte blijven waar gerechtvaardigde verwachtingen kunnen bloeien, geheimen worden bewaard en tegelijk het onverwachte gevierd mag worden. Dat laatste lijkt een passende kerstgedachte en een mooie wens voor het komende jaar: de overwinning van het onverwachte dat goed doet.

Mireille Hildebrandt is onderzoekshoogleraar 'Interfacing Law & Technology' (VUB) en gewoon hoogleraar bij het departement Computerwetenschappen (Radbouw Universiteite Nijmegen). Zij publiceerde dit jaar het boek 'Smart Technologies and the End(s) of Law'.


DS, 30-12-2015 (Mireille Hildebrandt)

__________________
"Never argue with an idiot, they'll just bring you
down to their level and beat you with experience." (c)TB