Maxim Februari: ‘Misschien zijn we zo vatbaar voor ChatGPT omdat we gewend zijn aan flauwekul’

Maxim Februari, Doe zelf normaal. Prometheus, 2023


Kan artificiële intelligentie het antwoord bieden op de eeuwenoude vraag wat waar is en wat goed? In een nieuw essay waarschuwt de Nederlandse rechtsfilosoof Maxim Februari voor een wereld waarin we dat écht gaan geloven. ‘We gaan ons welzijn toch niet aan een machine toevertrouwen?’


En als we nu eens aan ChatGPT zouden vragen hoe de stikstofuitstoot onder de aanvaardbare norm te houden. De meeste data zijn beschikbaar. Ze worden geregistreerd door sensoren die alom aanwezig zijn, van de varkensstal tot het natuurreservaat, in het grondwater en in de lucht. Ze zitten opgeslagen in databanken, MER’s, verdragen en wetteksten. Zou een supercomputer daar geen model uit kunnen afleiden dat uitstoot en draagkracht in evenwicht brengt?

In zijn essay Doe zelf normaal haalt de Nederlandse rechtsfilosoof Maxim Februari een gelijkaardig, maar nog veel ambitieuzer utopisch idee aan: wat als een supercomputer nu eens onze economische activiteiten in balans zou brengen met de draagkracht van de planeet. Ook daartoe zijn alle data beschikbaar. We meten de uitstoot van fabrieken, monitoren de vluchten van bijen en trekvogels, hebben sensoren in jungles en gletsjers… Nooit eerder kon zo veel informatie in netwerken verbonden en gekruist worden. Het is exact wat het World Economic Forum en de universiteit van Stanford op dit ogenblik aan het ontwerpen zijn: AI for Earth, ‘een geospatiaal dashboard voor de planeet dat het monitoren, modelleren en beheren van milieusystemen mogelijk moet maken op een schaal en een snelheid die nooit eerder mogelijk was – van het aanpakken van illegale ontbossing, waterwinning, visserij en stroperij, tot luchtvervuiling, natuurrampenbestrijding en slimme landbouw’.

‘Heilloos’, noemt Maxim Februari dit soort techno-optimisme. Niet alleen omdat pure technocratie in de geschiedenis nog nooit in staat bleek om complexe problemen op te lossen, maar vooral omdat hij er een gevaarlijk ondergraven van democratie en recht in ontwaart. ‘Het World Economic Forum is een lobbygroep van grote bedrijven, waaronder ook heel wat techbedrijven. Ze zijn ervan overtuigd dat als ze hun netwerk, infrastructuur en data delen, ze ook in staat zullen zijn het klimaat te regelen. Het bedrijfsleven zal, kortom, wel even oplossen waar de politiek faalt. Die verschuiving van overheidsmacht naar techbedrijven is problematisch.’

De idee dat we de democratie on hold moeten zetten om de planeet te redden, wordt ook in de klimaatbeweging geopperd.

‘De planeet redt zichzelf wel. Desnoods gooit ze de mens er wel af. Wij moeten in de eerste plaats onze samenleving redden. En het is echt mijn politieke overtuiging dat democratie de meest flexibele en effectieve manier is om dit complexe probleem aan te pakken.’

De rode draad door uw boek is dat onze democratie onder druk staat. Tegen grote crises als klimaat lijkt ze niet opgewassen. En van de technologische revolutie verwachten we te veel. De coronacrisis opende u de ogen: het gemak waarmee we ons lot in de handen van een app legden.

‘Ik vond het verbijsterend hoe weinig publiek debat er is geweest over de covid-app. We hebben dat volledig laten kapen door de complotdenkers aan de marge van de samenleving, terwijl we het gesprek in het hart van de democratie hadden moeten voeren. Als rechtsfilosoof vond ik het heel merkwaardig dat net in zo’n grote crisis het parlement buiten spel gezet werd. De rechterlijke macht stond zelfs niet op de lijst van cruciale beroepen.’

Welk debat had moeten worden gevoerd?

‘De manier waarop we tijdens deze technologische omwenteling het recht en onze rechtstaat handhaven. De covid-app illustreerde hoe je niet alleen de regels, maar ook de handhaving ervan aan een app kan toevertrouwen: het was jouw telefoon die jou al dan niet toegang gaf tot een evenement. De overheid kon zelfs à la minute de regels veranderen en meteen ook de handhaving ervan. Als de overheid beslist dat voortaan drie vaccinaties nodig zijn, dan is dat met een aanpassing van de code zo afgedwongen. Er is geen discussie mogelijk, je raakt gewoon niet binnen.’

‘Dat is fundamenteel verschillend van de traditionele aanpak van regelgeving. Daarbij ontstaan wetten uit debat, ze worden op papier gezet en kunnen worden geïnterpreteerd. Zowel door de burger als door het gerecht. Een app die de regel afdwingt, ontneemt de burger de mogelijkheid om autonoom te beslissen die te respecteren of te overtreden. Hij ontneemt de burger het vermogen om moreel te handelen. Met een politieagent of een rechter kun je nog in gesprek gaan als je het met de wet niet eens bent, niet met een app.’

De app is er ondertussen niet meer.

‘Maar de hoeveelheid chips en sensoren om ons heen neemt razendsnel toe. Van onze tandenborstel over de slagboom tot onze identiteitskaart, het zit allemaal vol intelligentie.’

‘De discussie gaat allang niet meer over privacy, maar over de manier waarop je regels vormgeeft en afdwingt. Doorheen de geschiedenis van het recht hebben mensen elkaar lang verteld wat ze hoorden te doen. Vervolgens werd de wet vastgelegd in het schrift. Toen kwam de drukpers en kon de wet ook verspreid worden, waardoor mensen ook verplicht konden worden de wet te kennen. En nu beleven we de volgende stap: we halen de wet van het papier af en stoppen ze in de wereld zelf, in sloten en slagbomen. Dat is op filosofisch gebied een gigantische verschuiving.’

Daar stopt het niet. De data gaan ook zelf nieuwe normen genereren.

‘Dat is inderdaad een tweede grote verandering: uit dataverzamelingen komen door statistische bewerkingen nu normen bovendrijven. Ze ontstaan dus buiten het constitutionele stelsel om. Een paar jaar geleden heb ik mee een rechtszaak aangespannen tegen SYRI, het Systeem Risico Indicatie, waarmee de Nederlandse overheid fraude met uitkeringen en belastingen wilde bestrijden. SYRI moest daartoe zogenaamde verwonderadressen opleveren, plaatsen die op basis van data verdacht waren. Probleem is dat men dit soort technologie alleen inzet in wijken waar men bij voorbaat al denkt iets te vinden. Dat gebeurt dus niet in rijkere wijken, want men gaat ervan uit dat gegoede burgers zich netjes gedragen. Het blijven mensen die kunstmatige intelligentie ontwerpen. Hun vooroordelen zijn daarin verwerkt.’

‘Bij SYRI was niet bekend hoe het risicomodel werkte, welke data verzameld werden en welk algoritme er gebruikt werd. De burger had er geen enkel verweer tegen. Zelfs de rechter had geen flauw idee hoe het systeem werkte.’

‘Door het recht te digitaliseren, onttrek je met andere woorden de uitvoerende macht aan rechterlijke controle. Meer nog, je besteedt ze uit aan private bedrijven. Zelfs de uitvoerende macht weet vaak niet hoe zo’n algoritme precies werkt.’

Data en statistiek leveren gemiddelden op. Het gemiddelde wordt snel de norm. En wie daarvan afwijkt is verdacht.

‘De naïviteit waarmee mensen hun vertrouwen stellen in data, is enorm. Want waar komen die data vandaan? Wie heeft ze gegenereerd? Volgens welke criteria? En welke belangen schuilen daarachter? Data zijn nooit neutraal. Er gaat altijd een menselijke beslissing achter schuil. Welke data vinden we belangrijk? Op welke grond gaan we die selecteren? Bovendien worden die algoritmes doorgaans door private bedrijven geschreven. Door de vraag wat wenselijk is over te laten aan de statistische bewerking van data, laat je het normeren van menselijk gedrag over aan bedrijven. Je laat de morele en juridische macht van overheden wegvloeien naar bedrijven.’

De overheid ís natuurlijk ook redelijk machteloos ten aanzien van veel problemen.

‘Dat het even moeilijk gaat, is toch geen reden om de armen in de lucht te gooien en alle beslissingsmacht aan machines toe te vertrouwen. Voor computers zijn wij geen wezens die zorg of aandacht verdienen. Technologie maakt geen ethische overwegingen, technologie voert berekeningen uit. Is het dan niet akelig om het welzijn van de bevolking over te laten aan een machine die het niets kan schelen hoe het echt met ons gaat?’

‘Het probleem is dat de samenleving maar niet ernstig over deze vragen wil nadenken. Iedereen gedraagt zich een beetje als kinderen op school die over wiskunde bij voorbaat roepen dat ze er niets van snappen. Dus laat de grote tech-bedrijven maar beslissen wat ik met mijn leven ga doen. Maar je hoeft echt geen informatica te studeren om je af te vragen waar de macht zit, waar de data vandaan komen en wie die algoritmes maakt. En om er mee over te waken dat er voldoende expertise verdeeld zit over instanties die die bedrijven controleren.’

Uw boek is in essentie een warm pleidooi om de kerntaak van de democratie niet aan een machine uit te besteden: het debat over wat we als waar en goed beschouwen.

‘Veel mensen dromen van een soort toekomst waaruit het conflict verdwenen is. Technologie zou het pad effenen naar die ideale vreedzame samenleving. Alsof dé waarheid of hét juiste vanzelf uit een machine tevoorschijn zouden komen als je er maar genoeg data in stopt. Een samenleving zonder conflict is gewoon een dictatuur: één persoon of groep die zijn waarheid oplegt.’

‘Democratie en recht zijn net manieren om om te gaan met het feit dat mensen nu eenmaal niet allemaal dezelfde waarden hebben. Ik pleit heel erg voor het behoud van het waardenconflict. Daarom hebben we politieke partijen, daarvoor dienen verkiezingen.’

‘Dat betekent niet dat ik pleit voor het behoud van de huidige vorm van democratie. Haar hiërarchische structuur staat haaks op de manier waarop de samenleving nu functioneert, als een groot, digitaal verweven netwerk. We hebben nood aan nieuwe manieren om met waardenconflicten om te gaan en de rechten van individuen, minderheden en andersdenkenden te beschermen.’

Uw essay is gedrukt net voor de doorbraak van ChatGPT. Heeft dat uw blik veranderd?

‘ChatGPT verandert niets aan mijn analyse, maar versnelt wel enorm de evolutie. En het programma trekt heel veel aandacht. Voor het debat is dat goed.’

De dag dat mensen geloven dat de statistische constructie die ChatGPT genereert, échte betekenis heeft, wórdt het betekenis.

‘Dat proces is bezig. Er zit nochtans geen intelligentie in Artificiële Intelligentie. ChatGPT doet een statistische voorspelling van wat het juiste volgende woord is. Maar het heeft me wel doen nadenken over de manier waarop we als mens zelf gedachten en ideeën construeren. Ik had mezelf erop betrapt dat ik in een interview een voorbeeld had gebruikt dat een lezer mij had opgestuurd, maar dat ik niet op waarheid had gecheckt. Eigenlijk handelde ik daar ook als een soort chatbot: ik gaf de tekst van een ander gewoon door. Er zit heel veel chatbotachtig gedrag in de publieke opinievorming, waarmee mensen teksten of meningen van anderen recyclen en aan elkaar plakken zonder er echt over na te denken.’

ChatGPT houdt ons een spiegel voor?

‘Absoluut: in welke mate zijn we zelf authentiek in ons denken? Checken we de informatie die ons bereikt? Zijn we kritisch genoeg? Debatteren we voldoende? Misschien is het omdat we zelf zo geneigd zijn om elkaar maar wat na te praten dat we zo vatbaar zijn voor ChatGPT? Omdat we gewend zijn aan flauwekul.’

‘Het zijn dus filosofisch heel opwindende tijden: ze werpen opnieuw de oude vraag op waar waarheid en goedheid ontstaan. Uit een gesprek tussen mensen, of uit de data in een computer?’

‘Het probleem van de statistische aanpak is dat je daarbij alleen kijkt naar bestaande voorkeuren. Als je altijd al koffie dronk, zal de computer ervan uitgaan dat je vooral koffie lust. Maar misschien komt de dag dat je iets nieuws wilt proberen. Dat je mensbeeld verandert. Dat je bijvoorbeeld geen koffie meer wilt, omdat de bonen van plantages afkomstig zijn.’

‘Er zitten, met andere woorden, in menselijke voorkeuren en in ons zelfbeeld heel veel lagen die je niet uit data kunt halen; wat mensen dromen, hoe ze de toekomst zien, hun schuldgevoelens over hun huidige gedrag. Die zaken komen wel naar boven als mensen met elkaar praten, uit het verschil en het debat.’

Statistiek schakelt de mogelijkheid uit tot voortschrijdend inzicht en verandering. Tot morele vooruitgang, kortom.

‘In ChatGPT zit alleen geschiedenis, al wat al gezegd en gebeurd is. Niet wat nog kan komen. Als we ophouden daarover te praten, houden we op met samenleven.’


DS, 18-03-2023 (Lieven Sioen)