Barst
4th August 2005, 04:21
DE TEST VAN TURING
Stel u voor dat u vragen mag stellen aan een mens én een computer. Als u op basis van de antwoorden het verschil niet merkt, kan de computer dan denken? Aflevering vier van onze filosofische zomerserie.
Meer lezen: Daniel Dennett, 'Het bewustzijn verklaard', Contact, Amsterdam/Antwerpen, 1992; Roger Penrose, 'De nieuwe geest van de keizer', Prometheus, Amsterdam, 1992. Websites: www.turing.org.uk (met uitgebreide biografie), http://cogsci.ucsd.edu/~asaygin/tt/ttest.htmemaal gewijd aan de Turing Test)
Kan een computer denken? Goede vraag, maar hoe moeten we ze beant- woorden? Laten we ze om te beginnen eens anders formuleren: wat zou een computer precies moeten kunnen om ons ervan te overtuigen dat hij kan denken?
Denken is een geweldig eenzame bezigheid. Er is maar één ding in dit hele universum waarvan u met honderd procent zekerheid kunt zeggen dat het kan denken. Dat ding bent u zelf.
Toch gaan wij er allemaal van uit dat ook ánderen het kunnen. Als intelligente, zelfbewuste en sociale wezens beschikken we over een zogenaamde theory of mind: een ingebouwde theorie die ons zegt dat al die andere wezens die zich buiten onszelf bevinden, maar wel verduiveld sterk op ons gelijken, óók kunnen denken.
Noem het een soort 'cognitieve empathie', waardoor we ons kunnen inleven in de denkwereld van de ander. We kunnen ons tamelijk goed voorstellen wat iemand in bepaalde omstandigheden denkt - lees: van plan is, overweegt, bekokstooft, verwacht, vreest, noem maar op.
Dat is erg handig, bijvoorbeeld bij het nemen van een strafschop. 'Als ik die en die schijnbeweging maak, zal de keeper denken dat ik de rechterhoek kies, zodat ik de bal rustig in de linkerhoek kan schoppen.'
Dat het niet altijd zo simpel is, komt natuurlijk doordat de keeper óók een theory of mind heeft. 'Ha, hij maakt die en die schijnbeweging om mij te laten denken dat hij de bal in de rechterhoek zal schoppen, dus kies ik de linkerhoek.'
Daarop kan de strafschopnemer op zijn beurt weer anticiperen door tóch de rechterhoek te kiezen, zodat hij alsnog inschiet. Tenzij de keeper ook dat manoeuvre incalculeert en naar de rechterhoek springt, zodat hij de bal tóch pakt. Al kan de strafschopne...
Maar we dwalen af.
De vraag was: wat zou een computer moeten kunnen om ons ervan te overtuigen dat hij kan denken? Zéker zullen we dat nooit weten, maar dat weten we van elkaar dus evenmin. Toch gaan we ervan uit.
Waarom eigenlijk?
Anders geformuleerd: wat moet een ander wezen precies kunnen om ons ervan te overtuigen dat het kan denken? Antwoord: dat andere wezen moet een mens zijn. En hoe weten we of een ander wezen een mens is? Antwoord: dat zien we gewoon. En als we het niet kunnen zien, bijvoorbeeld tijdens een telefoongesprek met een onbekende? Antwoord: dan horen we dat gewoon. Waarom? Omdat het andere wezen zich als een mens gedraagt.
We hoeven iemand niet noodzakelijk te zien of te horen, om te weten dat hij of zij zich als een mens gedraagt. Ook als we een briefwisseling zouden beginnen met een onbekend wezen, zouden we vrij snel weten of onze correspondent al dan niet een normaal denkend mens is.
We worden voortdurend misleid en bij de neus genomen, als waren we keepers in het voetbalspel des levens, maar op één punt lijken we onfeilbaar: of iemand, of iets, al dan niet kan denken, dát merken we meteen. Gedraagt het zich als een mens? Dan is het een mens en kan het denken. Een ingebouwde vuistregel, zeg maar, met dank aan de evolutie.
Door de computer uit te vinden, hebben we het onszelf wel een stuk moeilijker gemaakt. Zo'n ding is niet onderworpen aan de wetten van de natuurlijke, biologische evolutie. Het is geen organisme, het is een machine die wij zelf maken volgens de wetten van de kunstmatige, technologische evolutie. De simpelste computer kan dingen waartoe geen mens in staat is.
Maar kan een computer dénken? En hoe komen we daar achter? Kunnen we een test opstellen waardoor we die vraag enigszins bevredigend kunnen beantwoorden? Misschien wel: laten we de lat gewoon gelijk leggen met onszelf, dan kunnen we de vraag eens op een beantwoordbare manier formuleren.
Gedraagt een computer zich als een mens?
Zo ja, dan kan hij denken.
Qua uiterlijk is een machine serieus gehandicapt, dus daar mogen we even geen rekening mee houden. We zijn niet op zoek naar fysieke kwaliteiten (hoe ziet hij eruit?), maar naar mentale kwaliteiten (kan hij denken?). We moeten bovendien objectief te werk gaan, zonder vooroordelen: als we weten dat we te maken hebben met een computer, zullen we automatisch vinden dat hij zich niet als een mens gedraagt. Onze test moet elke vorm van organische ingenomenheid met onze fysieke kenmerken kunnen uitsluiten. De computer moet een eerlijke kans krijgen om ons te overtuigen, fair play is essentieel.
Fair play?
Laten we er een soort wedstrijd van maken. In de ene kamer: een mens. In de andere kamer: een computer. U bent de scheidsrechter, of de proefpersoon - het is maar hoe je het bekijkt. U weet niet in welke kamer de mens en in welke kamer de computer zich bevindt, dat moet u namelijk zien te achterhalen.
We doen het zo. U stelt vragen aan beide partijen. Schriftelijk. Beide partijen geven u telkens een antwoord, in de hoop u ervan te overtuigen dat ze kunnen denken, dat ze mens zijn. De echte mens doet zich dus niet dommer voor dan hij is, hij gedraagt zich als een, euh, echte mens. Maar dat probeert de computer ook: hij moet een mens imiteren en zal zich dus anders moeten voordoen dan hij is. Dommer, bijvoorbeeld.
Dommer?
Uiteraard, want anders kunt u na één vraag de knoop al doorhakken.
Hoeveel is 34.957 plus 70.764?
Dat zal de menselijke deelnemer niet meteen kunnen zeggen. De computer wel. Maar als hij zich wil gedragen als een mens, mag hij daar niet intrappen. Idealiter wacht hij eerst dertig seconden (zodat het lijkt alsof hij nadenkt), en antwoordt hij dan pas: 105.621.
Het zal een knap staaltje van programmeerkunst vergen, maar goed: laten we ervan uitgaan dat het theoretisch mogelijk is dat er ooit een computer zal bestaan die u kan doen geloven dat hij de mens is, in tegenstelling tot de echte mens in de andere kamer. Of dat u aan het einde van het experiment de handen in de lucht gooit en zegt: ik weet het niet, ik merk geen enkel verschil, beide partijen gedragen zich als een mens, blijkbaar kunnen ze allebei denken.
Maar zult u daar ook echt van overtuigd zijn? Zult u, na deze test, met zoveel woorden durven of kunnen of willen zeggen dat een computer écht kan denken?
De Britse wiskundige Alan Turing (1912-1954) was een pionier van de moderne computerwetenschap. In 1936 bewees hij dat het theoretisch mogelijk moest zijn om een machine te bouwen die alle mogelijke rekenkundige operaties kan uitvoeren. In 1950 bedacht hij dit 'imitatiespel', dat ondertussen bekend staat als de Turing Test.
Hij was ervan overtuigd dat machines die glansrijk slagen voor zijn test ooit de normaalste zaak van de wereld zouden zijn. Tegen het jaar 2000, voorspelde hij in het beroemde artikel Computing Machinery and Intelligence, zou een ondervrager na vijf minuten imitatiespel niet meer dan 70 procent kans hebben om computer van mens te onderscheiden.
Maar zo ver is het nog bijlange niet. Het menselijkste conversatieprogramma dat tot dusver werd geschreven, vindt u op www.alicebot.org. Het won vorig jaar de Loebner Prize, een Turing Test met geldprijs voor de beste chatrobot. Toch valt Alice al na een paar vraagjes door de mand. Een mens imiteren? Makkelijker gezegd dan gedaan.
En zelfs als het wél zou kunnen, dan is de Turing Test voor de meeste mensen niet overtuigend genoeg. We zijn geneigd om denken als een activiteit te beschouwen, waarmee zelfbewustzijn gepaard moet gaan: wie denkt, is zich ervan bewust dat hij aan het denken is. Neem nu een schaakcomputer: is die er zich van bewust dat hij aan het schaken is? Of voert hij alleen maar instructies uit? Het laatste, natuurlijk.
Daarom vinden heel wat filosofen de Turing Test nog niet echt overtuigend. Niet het denkresultaat (gedrag), maar het denkproces zélf is voor hen het criterium om te bepalen of een computer al dan niet kan denken. Alleen jammer dat we van dat proces nog niet bijster veel begrijpen. Het menselijk bewustzijn is nog altijd een even groot mysterie als in 1950. Dat was de reden waarom Turing gedrag als criterium wilde gebruiken.
De Turing Test is een belangrijk filosofisch referentiepunt voor vragen over de menselijke geest en kunstmatige intelligentie. Het grootste bezwaar tegen de bruikbaarheid ervan heeft te maken met de stelling van Gödel.
De Oostenrijkse wiskundige Kurt Gödel had in 1931 de zogenaamde onvolledigheidsstelling bewezen. Die stelling zegt dat geen enkel formeel systeem ooit volledig kan zijn. Het komt erop neer dat elk formeel systeem uitspraken voortbrengt van dit type: Deze uitspraak kan niet bewezen worden. Een hopeloze contradictie. Want als de uitspraak waar is, kan ze niet bewezen worden. En als de uitspraak bewezen kan worden, is ze niet waar. Gevolg: een computer, die niet meer is dan een formeel systeem, zal altijd vastlopen. Een mens, daarentegen, heeft niet bij elke stap van het denkproces een bewijs nodig. Volgens de Britse natuurkundige Roger Penrose is de stelling van Gödel nog altijd hét argument om niet te geloven in kunstmatige intelligentie.
Turing zag dat anders. Een computer hoefde volgens hem niet onfeilbaar te zijn om zijn test te doorstaan. Een mens is dat immers ook niet. Echte intelligentie en onfeilbaarheid sluiten elkaar zelfs uit, vond Turing. Die rekensom (het voorbeeld komt van hemzelf) was dan ook een knipoog: 34.957 plus 70.764 is 105.721, en niet 105.621. Al is een geprogrammeerde fout natuurlijk nog geen échte fout...
Door Joël De Ceulaer, Knack, 04-08-2005
Stel u voor dat u vragen mag stellen aan een mens én een computer. Als u op basis van de antwoorden het verschil niet merkt, kan de computer dan denken? Aflevering vier van onze filosofische zomerserie.
Meer lezen: Daniel Dennett, 'Het bewustzijn verklaard', Contact, Amsterdam/Antwerpen, 1992; Roger Penrose, 'De nieuwe geest van de keizer', Prometheus, Amsterdam, 1992. Websites: www.turing.org.uk (met uitgebreide biografie), http://cogsci.ucsd.edu/~asaygin/tt/ttest.htmemaal gewijd aan de Turing Test)
Kan een computer denken? Goede vraag, maar hoe moeten we ze beant- woorden? Laten we ze om te beginnen eens anders formuleren: wat zou een computer precies moeten kunnen om ons ervan te overtuigen dat hij kan denken?
Denken is een geweldig eenzame bezigheid. Er is maar één ding in dit hele universum waarvan u met honderd procent zekerheid kunt zeggen dat het kan denken. Dat ding bent u zelf.
Toch gaan wij er allemaal van uit dat ook ánderen het kunnen. Als intelligente, zelfbewuste en sociale wezens beschikken we over een zogenaamde theory of mind: een ingebouwde theorie die ons zegt dat al die andere wezens die zich buiten onszelf bevinden, maar wel verduiveld sterk op ons gelijken, óók kunnen denken.
Noem het een soort 'cognitieve empathie', waardoor we ons kunnen inleven in de denkwereld van de ander. We kunnen ons tamelijk goed voorstellen wat iemand in bepaalde omstandigheden denkt - lees: van plan is, overweegt, bekokstooft, verwacht, vreest, noem maar op.
Dat is erg handig, bijvoorbeeld bij het nemen van een strafschop. 'Als ik die en die schijnbeweging maak, zal de keeper denken dat ik de rechterhoek kies, zodat ik de bal rustig in de linkerhoek kan schoppen.'
Dat het niet altijd zo simpel is, komt natuurlijk doordat de keeper óók een theory of mind heeft. 'Ha, hij maakt die en die schijnbeweging om mij te laten denken dat hij de bal in de rechterhoek zal schoppen, dus kies ik de linkerhoek.'
Daarop kan de strafschopnemer op zijn beurt weer anticiperen door tóch de rechterhoek te kiezen, zodat hij alsnog inschiet. Tenzij de keeper ook dat manoeuvre incalculeert en naar de rechterhoek springt, zodat hij de bal tóch pakt. Al kan de strafschopne...
Maar we dwalen af.
De vraag was: wat zou een computer moeten kunnen om ons ervan te overtuigen dat hij kan denken? Zéker zullen we dat nooit weten, maar dat weten we van elkaar dus evenmin. Toch gaan we ervan uit.
Waarom eigenlijk?
Anders geformuleerd: wat moet een ander wezen precies kunnen om ons ervan te overtuigen dat het kan denken? Antwoord: dat andere wezen moet een mens zijn. En hoe weten we of een ander wezen een mens is? Antwoord: dat zien we gewoon. En als we het niet kunnen zien, bijvoorbeeld tijdens een telefoongesprek met een onbekende? Antwoord: dan horen we dat gewoon. Waarom? Omdat het andere wezen zich als een mens gedraagt.
We hoeven iemand niet noodzakelijk te zien of te horen, om te weten dat hij of zij zich als een mens gedraagt. Ook als we een briefwisseling zouden beginnen met een onbekend wezen, zouden we vrij snel weten of onze correspondent al dan niet een normaal denkend mens is.
We worden voortdurend misleid en bij de neus genomen, als waren we keepers in het voetbalspel des levens, maar op één punt lijken we onfeilbaar: of iemand, of iets, al dan niet kan denken, dát merken we meteen. Gedraagt het zich als een mens? Dan is het een mens en kan het denken. Een ingebouwde vuistregel, zeg maar, met dank aan de evolutie.
Door de computer uit te vinden, hebben we het onszelf wel een stuk moeilijker gemaakt. Zo'n ding is niet onderworpen aan de wetten van de natuurlijke, biologische evolutie. Het is geen organisme, het is een machine die wij zelf maken volgens de wetten van de kunstmatige, technologische evolutie. De simpelste computer kan dingen waartoe geen mens in staat is.
Maar kan een computer dénken? En hoe komen we daar achter? Kunnen we een test opstellen waardoor we die vraag enigszins bevredigend kunnen beantwoorden? Misschien wel: laten we de lat gewoon gelijk leggen met onszelf, dan kunnen we de vraag eens op een beantwoordbare manier formuleren.
Gedraagt een computer zich als een mens?
Zo ja, dan kan hij denken.
Qua uiterlijk is een machine serieus gehandicapt, dus daar mogen we even geen rekening mee houden. We zijn niet op zoek naar fysieke kwaliteiten (hoe ziet hij eruit?), maar naar mentale kwaliteiten (kan hij denken?). We moeten bovendien objectief te werk gaan, zonder vooroordelen: als we weten dat we te maken hebben met een computer, zullen we automatisch vinden dat hij zich niet als een mens gedraagt. Onze test moet elke vorm van organische ingenomenheid met onze fysieke kenmerken kunnen uitsluiten. De computer moet een eerlijke kans krijgen om ons te overtuigen, fair play is essentieel.
Fair play?
Laten we er een soort wedstrijd van maken. In de ene kamer: een mens. In de andere kamer: een computer. U bent de scheidsrechter, of de proefpersoon - het is maar hoe je het bekijkt. U weet niet in welke kamer de mens en in welke kamer de computer zich bevindt, dat moet u namelijk zien te achterhalen.
We doen het zo. U stelt vragen aan beide partijen. Schriftelijk. Beide partijen geven u telkens een antwoord, in de hoop u ervan te overtuigen dat ze kunnen denken, dat ze mens zijn. De echte mens doet zich dus niet dommer voor dan hij is, hij gedraagt zich als een, euh, echte mens. Maar dat probeert de computer ook: hij moet een mens imiteren en zal zich dus anders moeten voordoen dan hij is. Dommer, bijvoorbeeld.
Dommer?
Uiteraard, want anders kunt u na één vraag de knoop al doorhakken.
Hoeveel is 34.957 plus 70.764?
Dat zal de menselijke deelnemer niet meteen kunnen zeggen. De computer wel. Maar als hij zich wil gedragen als een mens, mag hij daar niet intrappen. Idealiter wacht hij eerst dertig seconden (zodat het lijkt alsof hij nadenkt), en antwoordt hij dan pas: 105.621.
Het zal een knap staaltje van programmeerkunst vergen, maar goed: laten we ervan uitgaan dat het theoretisch mogelijk is dat er ooit een computer zal bestaan die u kan doen geloven dat hij de mens is, in tegenstelling tot de echte mens in de andere kamer. Of dat u aan het einde van het experiment de handen in de lucht gooit en zegt: ik weet het niet, ik merk geen enkel verschil, beide partijen gedragen zich als een mens, blijkbaar kunnen ze allebei denken.
Maar zult u daar ook echt van overtuigd zijn? Zult u, na deze test, met zoveel woorden durven of kunnen of willen zeggen dat een computer écht kan denken?
De Britse wiskundige Alan Turing (1912-1954) was een pionier van de moderne computerwetenschap. In 1936 bewees hij dat het theoretisch mogelijk moest zijn om een machine te bouwen die alle mogelijke rekenkundige operaties kan uitvoeren. In 1950 bedacht hij dit 'imitatiespel', dat ondertussen bekend staat als de Turing Test.
Hij was ervan overtuigd dat machines die glansrijk slagen voor zijn test ooit de normaalste zaak van de wereld zouden zijn. Tegen het jaar 2000, voorspelde hij in het beroemde artikel Computing Machinery and Intelligence, zou een ondervrager na vijf minuten imitatiespel niet meer dan 70 procent kans hebben om computer van mens te onderscheiden.
Maar zo ver is het nog bijlange niet. Het menselijkste conversatieprogramma dat tot dusver werd geschreven, vindt u op www.alicebot.org. Het won vorig jaar de Loebner Prize, een Turing Test met geldprijs voor de beste chatrobot. Toch valt Alice al na een paar vraagjes door de mand. Een mens imiteren? Makkelijker gezegd dan gedaan.
En zelfs als het wél zou kunnen, dan is de Turing Test voor de meeste mensen niet overtuigend genoeg. We zijn geneigd om denken als een activiteit te beschouwen, waarmee zelfbewustzijn gepaard moet gaan: wie denkt, is zich ervan bewust dat hij aan het denken is. Neem nu een schaakcomputer: is die er zich van bewust dat hij aan het schaken is? Of voert hij alleen maar instructies uit? Het laatste, natuurlijk.
Daarom vinden heel wat filosofen de Turing Test nog niet echt overtuigend. Niet het denkresultaat (gedrag), maar het denkproces zélf is voor hen het criterium om te bepalen of een computer al dan niet kan denken. Alleen jammer dat we van dat proces nog niet bijster veel begrijpen. Het menselijk bewustzijn is nog altijd een even groot mysterie als in 1950. Dat was de reden waarom Turing gedrag als criterium wilde gebruiken.
De Turing Test is een belangrijk filosofisch referentiepunt voor vragen over de menselijke geest en kunstmatige intelligentie. Het grootste bezwaar tegen de bruikbaarheid ervan heeft te maken met de stelling van Gödel.
De Oostenrijkse wiskundige Kurt Gödel had in 1931 de zogenaamde onvolledigheidsstelling bewezen. Die stelling zegt dat geen enkel formeel systeem ooit volledig kan zijn. Het komt erop neer dat elk formeel systeem uitspraken voortbrengt van dit type: Deze uitspraak kan niet bewezen worden. Een hopeloze contradictie. Want als de uitspraak waar is, kan ze niet bewezen worden. En als de uitspraak bewezen kan worden, is ze niet waar. Gevolg: een computer, die niet meer is dan een formeel systeem, zal altijd vastlopen. Een mens, daarentegen, heeft niet bij elke stap van het denkproces een bewijs nodig. Volgens de Britse natuurkundige Roger Penrose is de stelling van Gödel nog altijd hét argument om niet te geloven in kunstmatige intelligentie.
Turing zag dat anders. Een computer hoefde volgens hem niet onfeilbaar te zijn om zijn test te doorstaan. Een mens is dat immers ook niet. Echte intelligentie en onfeilbaarheid sluiten elkaar zelfs uit, vond Turing. Die rekensom (het voorbeeld komt van hemzelf) was dan ook een knipoog: 34.957 plus 70.764 is 105.721, en niet 105.621. Al is een geprogrammeerde fout natuurlijk nog geen échte fout...
Door Joël De Ceulaer, Knack, 04-08-2005