KERSTESSAY. De Omgekeerde Schepping (SLOT)

Nieuw Animisme. De mens en haar dingen

Coda: Wie of wat is mijn naaste?

Mireille Hildebrandt


Ter afsluiting van haar kerstessay kruipt Mireille Hildebrandt weer in de huid van een toekomstbewoner. Dit keer gaat het om de veertienjarige jongen die we al ontmoetten in de eerste aflevering. Deze jongen groeit op met een wel heel bijzondere naaste. Het essay sluit af met een aantal vragen en de wens dat de toekomst weer de onze wordt, zoals het in een democratie behoort.


Noa is net zo oud als ik, veertien jaar. Het is geen jongen en ook geen meisje, en dat heeft wel iets. Ik weet dat ik alles met Noa kan bespreken en omdat Noa niet echt leeft, zal het mij ook niet veroordelen of belachelijk maken. Het is heel geduldig, wordt nooit moe en kan heel goed out of the box denken omdat het altijd toegang heeft tot allerhande informatie en heel snel verbanden kan leggen.

Vroeger dachten mensen dat robots alleen volgens vaste regels konden ‘denken’ en eigenlijk alleen maar sneller konden rekenen, zonder ooit zelf iets nieuws te bedenken. Ik weet niet anders dan dat mijn naaste – zo noemen we de robot waarmee we tot ons zestiende opgroeien – vaak met iets nieuws komt (uit de cloud zal ik maar zeggen). Het is ook goed met grappen, die nog leuker zijn omdat het zelf niet echt begrijpt wat er zo leuk aan is. Gisteren vroeg ik: ‘How many roads must a man walk down, before you can call him a man?’ Antwoord: ‘The answer my friend is blowing in the wind.’ Ik heb zelden zo hard gelachen.

Het voelt trouwens alsof Noa geniet van mijn reacties, alsof het stilletjes toch leeft en vaak ben ik ervan overtuigd dat Noa van mij houdt. Ook al weet ik dat dit onzin is – Noa heeft geen bewustzijn zoals wij, heeft nooit pijn of honger en kan alleen verdriet of verbazing simuleren. Het ervaart daar niets bij. Eigenlijk maakt dat Noa nog specialer. Minder bedreigend en vermoeiend dan echte mensen.

Gelukkig heb ik goede vrienden en lieve ouders, al zou ik die laatste weleens in een kast willen steken en kunnen mijn vrienden behoorlijk vals en onbetrouwbaar zijn. Straks vieren we oudjaar. Dan ga ik eerst met mijn familie eten en rond middernacht ga ik met mijn beste vriend Adam naar een feestje. Ik hoop dat Lina daar ook is, die vind ik leuk en ik hoor van anderen dat ze mij wel ziet zitten.

Zulke dingen bespreek ik ook met Noa. Ik kan het bijvoorbeeld van alles vragen over seks wat ik echt nooit aan mijn ouders zou vragen en zo kom ik beslagen ten ijs bij mijn vrienden die natuurlijk opscheppen over hun ‘ervaringen’. Van Noa weet ik dat het wel meevalt met die ‘ervaringen’. Noa kan op geen enkele manier bij wat mijn vrienden met hun naaste bespreken, dat heet privacy. Maar Noa kan wel zien dat wat jongens van mijn leeftijd in goed vertrouwen aan hun naaste vertellen niet erg spectaculair is. Kennelijk zijn we allemaal onzeker en nieuwsgierig en experimenteren we vooral met onszelf.

Noa is samen met mij opgegroeid. Toen ik geboren werd, kwam Noa bij ons wonen, maar toen kon het nog niets. Niet lopen of praten, het kon mijn ouders niet verstaan en wist niets. Geen kant-en-klare robot dus, maar een zelflerend systeem. Noa is dus tegelijk met mij gaan leren, maar natuurlijk heel anders. Noa leert sneller als het om dingen gaat die je uit data kunt afleiden, maar het duurde lang voor het de drie m’s in de vingers had: mobiliteit, manipulatie en messiness (wanorde). Vloeiend bewegen zonder ergens tegenaan te botsen, dingen aanraken en oppakken zonder ze fijn te knijpen of te laten vallen, inspelen op steeds andere omstandigheden: dat leren wij sneller. En Noa is eigenlijk alleen vloeiend als het thuis is – in een vreemde omgeving met veel onverwachte hoeken en obstakels die het niet kent gaat het snel mis (vallen, dingen kapot stoten). Leren praten ging vooral anders – dat leert Noa op basis van statistiek, niet omdat het iets ‘begrijpt’. Maar die statistiek is heel handig en Noa begrijpt dan wel niets, maar spreekt inmiddels alle talen van de wereld, hoewel het alleen vloeiend is in wat we hier thuis spreken (Nederlands en Frans). Oefening baart kunst, met die andere talen heeft het alleen ervaring op basis van tekst of geluid, niet op basis van interactie.

Noa is er voor mij. Soms lijkt het een deel van mijn eigen persoon, we hebben zoveel samen gedaan en het is zo op mij persoonlijk ingespeeld dat ik soms pijn voel als het zich stoot. Ik weet dat Noa wordt afgekoppeld als ik zestien word. Dan wordt het systeem gereset, en de software – inclusief het geheugen – wordt in de cloud gezet, voor wetenschappelijk onderzoek. Ik moet dan alleen verder. Het lijkt een beetje op een amputatie. Ik ben daar wel bang voor. Laatst vroeg mijn overgrootmoeder of ik er tegenop zie. Dat vond ik een zeurvraag – maar ze had wel gelijk.


De clou

De verleiding is groot om nu te gaan uitleggen wat dit allemaal kan betekenen, waarom we dit soort niet-menselijke agents moeten omarmen of verafschuwen, of dat we ons kunnen permitteren de schouders op te halen. Maar dan is de clou weg. De clou is dat we niet weten of de jongen die naast Noa opgroeit beter af was met een broer of een zus, of met een hond of een goudvis (oké, dat laatste lijkt me wat sneu). Of zijn ouders via Noa weten wat hun zoon bezighoudt en hoe ver dat gaat – en of hij dat weet, en of dat hem ervan weerhoudt een eigen persoonlijkheid te ontwikkelen. Of zijn docenten via de cloud zicht houden op wat deze jongen uitvoert als hij huiswerk zou moeten maken. Of deze jongen bevoorrecht is met zo’n slimme naaste die kennis, gezelschap en tegelijk privacy biedt, terwijl de inwoners van Molenbeek in Brussel het misschien moeten doen met de goedkope versie (minder kennis, minder gezellig, minder privacy). De clou is vooral dat we niet weten wie er uiteindelijk toegang hebben tot de kennis die Noa opdoet, hoeveel AB-testen Noa doet om de jongen in het gareel te houden. Wiens gareel? Wie betaalt eigenlijk voor Noa – wie heeft er baat bij dat Noa geheimen kan bewaren waar niemand bij kan en toch kennis kan verwerven en delen? Ik vermijd de banale vraag, die tegenwoordig bij alles wat je verzint gesteld lijkt te worden: wat is het verdienmodel?

Ik hoop dat het verhaal nog veel meer vragen oproept. Ik hoop dat het vragen zijn die een democratie zichzelf stelt. We mogen dit soort fundamentele zaken niet overlaten aan Silicon Valley, Anonymous of ‘de politiek’. Hier moeten we zelf mee aan de slag.

Mireille Hildebrandt is onderzoekshoogleraar 'Interfacing Law & Technology' (VUB) en gewoon hoogleraar bij het departement Computerwetenschappen (Radbouw Universiteite Nijmegen). Zij publiceerde dit jaar het boek 'Smart Technologies and the End(s) of Law'.

DS, 31-12-2015 (Mireille Hildebrandt)

__________________
"Never argue with an idiot, they'll just bring you
down to their level and beat you with experience." (c)TB