We staan nog maar aan het begin van zelflerende systemen, maar AI-expert Nick Bostrom denkt al na over het moment waarop de technologie de mens overstijgt.

Nick Bostrom behoort met zijn boek ‘Superintelligence’ tot de canon voor AI-ontwikkelaars. Volgens hem staan we op het punt een zelflerend systeem te ontwikkelen dat het menselijk denken ver overstijgt. ‘We hebben maar een kans om het goed te doen.’

We spreken de Zweedse filosoof tijdens de techconferentie Shift van de Gentse digitale productiestudio In The Pocket. Het bedrijf stelt er nieuwe technologieën voor die de komende jaren alledaags zullen worden.

Maken wij zo’n superintelligentie mee?

Nick Bostrom: Sommige AI-onderzoekers geloven dat het al binnen een veertigtal jaar zo ver zal zijn, andere schatten het verder weg. Ik heb zelf een driejarige zoon en het voelt ook voor mij vreemd dat zo’n systeem kan bestaan tijdens zijn leven. Hij zal misschien nooit moeten studeren of werken.

Bio Nick*Bostrom
Nick Bostrom (44) is een Zweedse*filosoof, die voor het Future of*Humanity-instituut aan de universiteit van Oxford werkt. Hij is dé autoriteit voor verregaande artificiële intelligentie (AI).
Hij schreef het boek ‘Superintelligence’ over AI die het menselijk denken ruim overstijgt. Het boek wordt geprezen door onder meer Elon Musk en Bill Gates.

Het staat alleszins buiten kijf dat de technologie er komt. Eenmaal het hetzelfde niveau als een volwassen mens bereikt, zal het zich explosief snel ontwikkelen tot een superintelligentie, die het menselijk denken ver overstijgt. In maximaal tien jaar heb je dan een allesbeheersend systeem, daar moeten we voldoende op voorbereid zijn.

Als het zo snel groeit, verliezen we de controle dan niet?

Bostrom: Je hoeft geen bunker volgepropt met groenten in blik te bouwen, maar we moeten wel vooruitdenken om een rampenscenario te voorkomen.
We moeten uitgaan van het ergste scenario om de juiste controlemechanismen te bouwen. Als het zich explosief ontwikkelt, is er niet genoeg tijd om er dan pas over na te denken. Net zoals bij echte explosieven, doe je er alles aan om het in een gecontroleerde ruimte op de juiste plek en op de beste manier mogelijk los te laten. Alleen zo vermijden we de ondergang van de mens.

Het verleden toont dat we pas met oplossingen komen nadien, waarom moet dit nu anders?

Bostrom: Bij sommige ontwikkelingen kunnen we leren uit ervaring. We ontwikkelden de wagen en al snel hadden we door dat die ook kan crashen. Dus we vonden veiligheidsgordels en airbags uit. Als we machines ontwikkelen, die een directe bedreiging vormen voor de mens zoals een superintelligent systeem, heb je maar 1 kans om het goed te doen. Je kan niet terugkomen na een existentiële ramp.

Hoe bouwen we een artificieel geweten?
Bostrom: Begin met het vertalen van mensenwaarden voor een computer. Of het nu gaat om schoonheid, wereldvrede of geld verdienen, we weten nog niet hoe we die omzetten in computercode. Een fout ingestelde machine om ons gelukkig te houden, kan onze kaakspieren ook via elektronische stimuli in een lachkramp dwingen. Als je een machine de taak geeft om de wereld efficiënter te maken, wat houdt het tegen om de hele mensheid als onnodig af te schrijven en te vernietigen?We moeten dus weg van het doelgericht denken.

Artificiële intelligentie is de laatste uitvinding van de mens ooit.

Schrap ook het idee dat we er komen met een lange lijst van alles waar we om geven. Het is onmogelijk om zo’n lijst te bouwen zonder fouten of vergetelheden.
We hebben een systeem nodig dat op zichzelf kan leren wat menselijke waarden zijn zonder dat we alles moeten voorkauwen. We sturen het enkel in de juiste richting en laten het los. Als het twijfelt, sturen we het bij. Anderzijds kunnen we het ook stap per stap nieuwe dilemma’s voorleggen en pas naar een volgend niveau tillen, eenmaal de vorige stap goed afloopt. Eenieder wie het ontwikkelt, moet respect hebben voor de waarden van anderen en ze diep in het systeem inbedden.
En hoort u die gedachte weerklinken?

Bostrom: AI-onderzoekers willen doen wat goed is voor de wereld. Ze zijn niet gefocust op winstbejag of werelddominantie, maar voelen aan dat dit groter is dan zijzelf. Het is belangrijk dat we voor ogen houden dat deze technologie iedereen ten goede moet komen en niet enkel een handvol mensen.
Sommige techbedrijven zoals Google dragen al actief bij aan dit onderzoek, maar heel wat techbedrijven houden zich er niet mee bezig.
Wat gebeurt er als je een superintelligent systeem de opdracht geeft om paperclips te maken?
Het is een geliefd gedachte-experiment onder AI-onderzoekers, omdat het toont hoe fout ingestelde artificiële intelligentie desastreuze gevolgen voor de mensheid kunnen hebben. De vraag is nu in een spel*gegoten, waar je door te klikken de machine stuurt, maar al snel het werk overlaat aan automatisering.
Het experiment toont dat een superintelligent systeem met de verkeerde doelen al snel uit de ban gaat. Een superintelligent systeem dat enkel het doel krijgt om zoveel mogelijk paperclips te maken, kan zo beslissen om alle planeten in het universum om te bouwen tot paperclipfabrieken.
Het is ook niet nodig dat we er allemaal van wakker liggen. Als we enkele tientallen mensen hebben die mogelijke controlesystemen onderzoeken om zo’n systeem in de hand te houden, is dat zeker goed.
*
Als een machine alles beter kan, wat blijft er over voor mensen om te doen?
Bostrom: Het technische en politieke probleem zijn belangrijker. Als we die weten op te lossen, hebben we meer dan tijd genoeg om na te denken over hoe we in die utopie willen leven.
Sommigen willen minimale impact waar het ons enkel behoedt voor enorme rampen zoals de Holocaust of een meteorietinslag. Anderen willen dat het de hele mens hertekent en verbetert.

Artificiële intelligentie zal ook de laatste uitvinding van de mensheid zijn.*Diegene die zo’n AI ontwikkelt, krijgt dan een ondenkbaar immense rijkdom in handen. Zelfs als hij het merendeel houdt en slechts een fractie aan de rest geeft, zal er al genoeg zijn om elk een mooi leven uit te bouwen.
We krijgen nieuwe vaardigheden en ons welzijn verhoogt immens. Alles zal ook opnieuw opgebouwd moeten worden, omdat een mensenleven draait om werken. Dat valt volledig weg, eenmaal superintelligente systemen het roer overnemen.
Arbeid is niet langer nodig. Het kan dan zijn dat er een nichemarkt ontstaat voor door mensen gemaakte producten en dat we daar voldoening uit halen. Evengoed dobberen we rond in een jacuzzi volgespoten met heroïne.
Bron: De Tijd

Eigen mening:
Ik ga alvast het boek aanschaffen. Ik denk dan ook dat we hier grondig over moeten nadenken. Er zijn geen tussenwegen: ofwel leven we in een utopie, ofwel betekent AI de ondergang. De evolutie zal uitmaken hoe we dit gaan indelen en in welke mate het ons leven zal sturen. Superintelligente systemen kunnen ook in oorlog gebruikt worden, met alle gevolgen van dien. Dit zouden we dus ten alle tijde moeten vermijden, een atoomoorlog lijkt al 'groot' genoeg.

Langst de andere kant zou het heerlijk zijn als mensen minder tot niet meer moeten werken. We kunnen ons dan met écht belangrijke zaken bezig houden, en mensen zijn niet meer zo uit op geldbejag. Misschien is het dan wel zo dat we terug naar de 'verlichting' gaan, of het eros een hogere prioriteit toekennen.

Ik wil nog niet teveel speculeren, maar de toekomst zal ons vast en zeker meer vertellen.

Ik ben benieuwd in welke mate we onze wereld rondom AI zullen scheppen.