Chatbots zijn ongemeen goed


Met de chatbots dreigt zonder controle of inspraak onteigening en kolonisatie, schrijft Robrecht Vanderbeeken.


De avant-gardist El Lissitzky droomde in 1923 al van een ‘electro-bibliotheek’ voor iedereen: in de toekomst zullen we kunnen luisteren naar boeken, zoals naar de radio. Of bellen vanuit de huiskamer naar een bibliotheek die je informatievraag beantwoordt terwijl je wacht. Die vooruitgang zou lukken door het statige van boeken te overstijgen: maak het immaterieel, breng in beweging! Vandaag vinden we het normaal dat zoekmachines vanuit onze handpalm instant talloze links opsnorren. Onze verwondering gaat nu naar chatbots die met een keuze aan stijlen teksten produceren, alles schrijven van poëzie tot software, muziek componeren of spelletjes meespelen. Dat overstijgt Lissitzky’s profetische dromen.

ChatGPT herinnert eraan dat we midden in een technologische omwenteling zitten. Logisch dat zo’n sprong in het duister onrust opwekt. Fraude! Jobverlies! Wij, als mens, weer wat minder uniek! Taalmodellen die vooral trainingsdata uit de VS gebruiken en die cultuur zo globaal als norm uitdragen!. Toch zal enthousiasme nog toenemen nu zovele gebruikers tools verfijnen en ontwikkelen.

Plantageslaven

De kritische aandacht blijft op de methodiek focussen, op de bronvermelding die ontbreekt. Bots die geen feiten kunnen verifiëren en daarom gaan hallucineren. Op algoritmes die kunnen rekenen noch beelden interpreteren omdat ze via patroonherkenning slechts statistisch woorden aan elkaar klikken. Opvallend wel: inzake eigendom lijken we meer bezorgd over de gebruiksrechten die techbedrijven niet betalen aan mediabedrijven, dan dat slechts enkele Amerikaanse miljardairs deze AI bezitten. Chat GPT, Bard, Bing en andere bots dingen nu om het monopolie. Eens hun output een digitaal watermerk meekrijgt, kunnen de concurrerende software-eigenaars die ook als koopwaar kapitaliseren.

Het gebruik van deze apps is weliswaar nog deels gratis omdat big tech digitale consumenten nodig heeft die als plantageslaven taalmodellen met hun activiteiten voeden. Naast het automatiseren van menselijke vaardigheden, privatiseren ze die ook. Bij de exploitatie van de mens als grondstof en gebruiker rijst de vraag wat met die goudmijn aan data zal gebeuren.

De concentratie van zoveel kennis en kunde maakt machtig. Het gebrek aan toezicht en regelgeving maakt die macht omineus. De mantra ‘bedrijfsbescherming’ dient vandaag als een beschermheilige om geen inzage te moeten geven over wie precies welke data beheert, waar die vandaan komt en wat ermee gebeurt. Het bedrijf achter ChatGPT heet dan wel OpenAI, inzake transparantie zit het dicht.

Die geheimzinnigheid is een democratie onwaardig, zeker als je weet dat er aangaande ICT massaal veel geld naar militair onderzoek gaat. De ontwikkeling van Lethal Autonomous Weapons (LAW) is een topprioriteit: wapensystemen die met een minimale tussenkomst van mensen een doel kunnen opsporen en vernietigen. De invasie van het virtuele in het échte leven resulteert zo in een doodscultus. Chatbots zullen ook hiervoor een boost aan machine learning generen. Dat moet ons zorgen baren, zeker nu we in een nieuwe Koude Oorlog zitten.

Digitale toe-eigening

In zijn boek Wat we gemeen hebben (2022) benadrukt filosoof Thijs Lijster dat het er bij deze datamining heus niet over gaat dat wij ‘toch niets te verbergen zouden hebben?’ Hoe kun je zeggen dat je niets te verbergen hebt, dat de schending van jouw privacy er niet toe doet, als je niet eens weet welke datasporen je achterlaat, hoe data-extractie verloopt, wie daar allemaal aan kan en wat die daarmee doen? De manipulatie door het bedrijf Cambridge Analytica bij de presidentsverkiezing van Trump illustreert wat de consequenties kunnen zijn.

De ontwikkeling van AI is een collectief proces, het zou daarom gemeengoed moeten zijn: door, voor én van ons. Openbaar in de dubbele betekenis: toegankelijk én publiek eigendom. Na de land grabbing, het wegkapen van de meerwaarde van gekochte arbeid, het privatiseren van water en het patenteren van zaden, maken we nu het toe-eigening van onze menselijke creativiteit mee. Digital enclosure.

We zitten in de fase van behoeftecreatie. Onze afhankelijkheid stijgt, deze AI zal ons leven steeds meer overheersen. Zonder controle of inspraak dreigt onteigening en kolonisatie. Laten we structurele kritiek op deze onovertroffen innovaties niet wegwuiven als louter angst voor het onbekende. Zoals doemdenkers na de uitvinding van de trein dachten dat koeien zure melk gingen geven. Chatbottechnologie is op zich geen reden om te doemdenken, de economische context waarin ze tot leven komt wel.

Kortom, hoewel Lissitzky zich over het emanciperende en democratiserende potentieel van ChatGPT als ‘electro-bibliotheek’ zou verwonderen, de techno-feodale eigendomsstructuur erachter zou ook hem verbijsteren.

Robrecht Vanderbeeken, filosoof


DS, 27-03-2023