Er zit geen spatje intelligentie in AI


We hoeven niet bang te zijn van ChatGPT of andere chatbots, schrijft Vincent Icke. Het zijn maar stukjes software. We moeten wel bang zijn van de bazen achter die software.


Elke bioloog kan je verzekeren dat we nog geen flauw idee hebben wat er ten grondslag ligt aan de intelligentie van de cavia. Toch is de kans groot dat diezelfde bioloog zonder meer de uitdrukking ‘kunstmatige intelligentie’ (artificial intelligence, AI) gebruikt voor een stuk software. Zo stevig heeft die woordcombinatie zich al in het taalgebruik gevestigd.

De AI zoals die wordt ontwikkeld door big tech is een brutale manier om klanten uit te buiten. Dat heeft AI dan gemeen met de meeste neoliberale bedrijfsmodellen (‘Wij de winst en jullie de gebakken peren’), maar het betekent niet dat AI intelligent is. De term AI is een ‘frame’, ongeveer zoals een Amerikaanse burger die het bezit van een semiautomatisch machinegeweer ‘zelfbescherming’ noemt.

Hoe effectief dat frame werkt, blijkt onder andere uit het feit dat zelfs mensen met een IQ van boven de 130 – die dus wel iets weten van intelligentie – schrijven dat het algoritme een besluit neemt. Maar daar is geen sprake van. Een besluit berust op overweging, en AI overweegt niets: het speurt in bergen gegevens naar patronen. Je kunt zo’n patroon gebruiken voor verdere studie, en op grond daarvan een besluit nemen of advies geven, maar dat is iets anders dan een zelfstandige beslissing van een algoritme.

Patronen opmerken, is de grootste moeilijkheid bij het programmeren van AI. Want wat is een patroon? Bij getallen is dat vrij eenvoudig, maar hoe meet je verschil en overeenkomst tussen sterrenstelsels? Muziekklanken? Gezichten? Wat is de afstand tussen twee woorden? Soms kan AI een patroon ‘ontdekken’, waarna de mens ermee verder kan. Maar de gelijkenis in ‘Shall I compare thee to a summer’s day?’ is van Shakespeare en niet van een stuk software. De overeenkomst tussen het vallen van een appel en de beweging van de maan zou geen AI-algoritme ooit zijn opgevallen, maar Newton wel.

Het gebruik van AI is als kijken naar een sterrenbeeld. Dat is een toevallig patroon zonder verdere inhoud. Door een patroon op te merken, weten we verder niets: of het toeval is, of ontstond door een onderliggend mechanisme. Zonder inzicht in het netwerk van oorzaak en gevolg zijn we geen steek verder. Want het gaat om begrip; dat is kwalitatief anders dan intelligentie, en een nog groter mysterie. Begrip berust op het verzinnen van mogelijke oorzaken, en niet alleen op het waarnemen van verschijnselen. Dus een hypothese, een verondersteld antwoord op de vraag: Wat zit daar achter? Een natuurkundige hypothese is een schepping, net als een gedicht of een ander kunstwerk.

Er wordt vaak vol ontzag en bewondering gesproken over het feit dat AI zo goed is in schaken, Rubiks kubus en dergelijke. Maar dat zijn spellen met een piepklein aantal dwingende en onveranderlijke regels, dus vette buit voor een algoritme op een supercomputer.

De recente hype over het taalgebruik van chatbots is net zo bizar als dat ontzag. Taal is aanzienlijk ingewikkelder dan schaken, maar is toch gebonden aan de regels van grammatica, woordenschat en gewoonte. Praktische, dagelijkse taal is elementaire grammatica plus een wolk van woorden die met een bepaald onderwerp samenhangen. Je zult het woord ‘vanillevla’ niet aantreffen in een stuk over neurofysiologie, net zomin als je ‘defibrillator’ tegenkomt in een kookboek. Zo’n wolk is dus klein: een uitgebreid woordenboek bevat ruwweg 50.000 woorden, maar daarvan heb je er maar een stuk of duizend nodig voor een opstel over biljarten, een andere duizend voor een stuk over tatoeages enzovoort.

Een chatbot die is ‘getraind’ op een voldoende grote database brengt die wolkjes rap in kaart, alsook de meest waarschijnlijke volgorde of correlatie van de erin voorkomende woorden. Koppel dat aan de grammatica, en de resulterende tekst lijkt al snel ‘natuurlijk’. Dat is al bekend sinds 1966, toen Joseph Weizenbaum, professor aan de Massachusetts Institute of Technology, zijn programma Eliza demonstreerde.

Dat AI geen intelligentie is, blijkt ook uit het feit dat er met het systeem geen communicatie mogelijk is. Met een echte intelligentie kun je in discussie, zelfs (tot op zekere hoogte) als het een cavia betreft. Met een algoritme kan dat niet: daaraan moet je je onderwerpen of het zijn plaats wijzen.

Een intelligentie die ongeveer het niveau van een mens heeft, kan iets uitleggen zodat die mens het kan begrijpen, bevragen en eventueel aanvaarden. Als AI iets oplevert, is meestal niet te achterhalen hoe die uitkomst is verkregen. De betrouwbaarheid van dat resultaat is dus nauwelijks te bepalen. Strikt genomen weet je niet eens wat het resultaat eigenlijk is, ook al omdat een opdracht zelden hetzelfde resultaat oplevert bij herhaling. Wat moet je met een systeem dat op dezelfde vraag, over dezelfde gegevens, steeds een ander antwoord geeft?

Om echt iets te begrijpen, is AI nutteloos en soms zelfs contraproductief, maar het kan wel bijzonder gevaarlijk zijn, getuige de verwoestende invloed van AI op sociale media (er zijn zeer strikte wetten en regels voor het omgaan met explosieven, maar niet voor AI-algoritmen). Ironisch genoeg is dat een koekje van eigen deeg, want die AI is ‘getraind’ met onze vooroordelen, blinde vlekken en talloze andere tekortkomingen. Omdat er verder geen moreel of analytisch besef in zit, is AI bovendien nog beperkter dan wijzelf.

De opschepperij over ‘intelligentie’ in de term AI is belachelijk, maar eigenlijk niet heel erg. Het werkelijk funeste gevolg van dat frame is dat men de blik vrijwel volledig richt op technische zaken zoals computers en programmeren, en op existentiële angst over de plaats van de mens. Daardoor wordt de aandacht gladjes afgewend van waar die zich eigenlijk op zou moeten richten. De chatbot is nauwelijks gevaarlijk, maar de baas ervan des te meer: zoals big tech, Poetins huurlingen of de Minions van de Communistische Partij van China.

‘Waar het om draait, is: wie is de baas – dat is alles.’ Dat zei Humpty Dumpty in Alice in Wonderland, een product van zo veel intelligentie dat het nooit door een chatbot geschreven zou kunnen worden, al zou het algoritme draaien op ’s werelds snelste supercomputer.

Vincent Icke, hoogleraar theoretische sterrenkunde aan de Universiteit Leiden en beeldend kunstenaar


DS, 28-02-2023 (Joris Snaet)