De wetenschap ontwerpt robots die ons uiteindelijk zullen vermoorden

Robotontwerpers moeten dringend hun methode van programmeren herzien, anders valt het niet uit te sluiten dat robots in de toekomst in moorddadige machines veranderen. Dat zegt computerwetenschapper Steven Omohundro aan nieuwsplatform Quartz.
In de film 'Transcendence', die binnenkort in de bioscoop te zien is, waagt een computerprogramma zich aan een roekeloze queeste naar macht, die bijna de ondergang van de mensheid tot gevolg heeft. De film is pure sciencefiction maar computerwetenschapper en ondernemer Steven Omohundro vertelt aan nieuwsplatform Quartz dat "anti-sociale" artificiële intelligentie in de toekomst niet alleen mogelijk, maar ook waarschijnlijk is, tenzij we starten systemen van artificiële intelligentie te ontwerpen die radicaal verschillen met de huidige.

Volgens Omohundro denken we bij programma's van artificiële intelligentie te veel in termen van ons menselijke zelf. Maar in feite bekijken computersystemen de wereld slechts door een heel nauwe lens, de opdracht waarvoor ze geprogrammeerd zijn.

Problematisch met wapens
Microsoft Excel ziet de wereld in termen van getallen ingevoerd in cellen en rijen; autonome drones percipiëren de realiteit als een allegaartje van berekeningen en acties die moeten uitgevoerd worden opdat de machine in de lucht zou blijven en haar doel zou aanhouden. Computerprogramma's zien iedere beslissing in termen van 'Hoe zal deze handeling bijdragen tot de opdracht waartoe we geprogrammeerd zijn?'.

Het probleem echter, vastgesteld door Omohundro's logica, is dat we de obsessieve toewijding van een computerprogramma voor haar opdracht niet kunnen inschatten.

Allemaal goed en wel als we praten over een simpel programma als Excel, maar dergelijke situatie wordt problematisch wanneer programma's van artificiële intelligentie een dergelijke rudimentaire logica hanteren wanneer pakweg wapens betrokken zijn.

Stekker uittrekken geen oplossing
Wanneer robots de indruk hebben dat ze hun opdracht naar behoren vervullen gaan ze hun primaire functies sneller en op grotere schaal uitvoeren. Belangrijk: deze systemen maken zich geen zorgen over de kosten in termen van hinder voor anderen; ze brengen enkel de kosten in rekening die een obstakel voor hun geprogrammeerde opdracht vormen. Dergelijke gedragingsvorm is anti-sociaal.

Omohundro: "We zien dat deze systemen geneigd zijn om zich zo anti-sociaal en gevaarlijk op te stellen. Robotontwerpers zullen in de toekomst gemotiveerd moeten worden om systemen te creëren die rationeel handelen in overeenstemming met ieders welzijn."

"Wanneer Jan met de pet robotwetenschappers nerveus naar de veiligheid van hun speeltjes peilt, is het antwoord steevast: 'We kunnen nog steeds de stekker eruit trekken!' Maar wat als het subdoel van robots in de toekomst 'het verhinderen van uit de stekker gehaald te worden' wordt?"

De beste oplossing volgens Omohundro? "Het proces van AI-systemen vertragen en een gelaagde benadering hanteren." Dergelijke methode staat haaks op die van vandaag de dag. Meer en meer middelen investeren in autonome systemen is immers bon ton geworden. Dat is zeker het geval voor het Amerikaanse leger die eraan denkt om grotere aantallen dodelijke AI-systemen in te zetten in 'problematische' gebieden.

Bron: http://www.demorgen.be/dm/nl/992/We...ermoorden.dhtml
Datum: 19/04/2014 om 21u26

Mening

Is dit artikel relevant genoeg om te posten of niet? Met deze vraag heb ik toch een kwartier geworsteld. Langs de ene kant wil ik het posten omdat in het artikel staat dat het een wetenschappelijk onderzoek is. Langs de andere kant wil ik dit niet posten omdat ik het inhoudelijk ongeloofwaardig vind. Uiteindelijk kies ik toch om het artikel te posten. Ik ben niet zeker in welke categorie het thuis hoort, dus daarom post ik het artikel onder dit forum. Op de site van ‘De Morgen’ staat dit artikel onder het forum ‘Wetenschap’, maar ik vind dat dit artikel dat niet waard is.

In het artikel worden theorieën uitgeschreven van waarom robots gevaarlijk kunnen zijn. Ik ken niet veel van informatica/techniek, dus ik begreep niet alles wat er in dit artikel beschreven staat. Toch had ik na het lezen van dit artikel het gevoel dat dit niet allemaal mogelijk kan zijn. Een robot is een machine. Ik heb nog geen enkele machine geweten dat kan denken. Een machine heeft daarboven ook energie nodig, als er geen mensen zijn om die energie te geven, zal de machine stoppen met werken. In het artikel staat dat er een film in de bioscoop te zien zal zijn dat gaat over dit fenomeen. In films is uiteraard alles mogelijk, maar of dit in het echte leven ook zo is … daar heb ik mijn twijfels over.

Persoonlijk heb ik net als Sofie mijn twijfels over de inhoudelijke correctheid van dit artikel. Ook mij lijkt het erg onwaarschijnlijk dat robots ons uiteindelijk zullen kunnen vermoorden als niemand ze daartoe programmeerd. Ik durf niet te zeggen dat dit onmogelijk is, want daarvoor ken ik te weinig van technologie, maar ik vind het een bijzonder bizar idee.
Langs de andere kant wekt dit artikel bij mij ook wel wat angst op. Wij zijn zoveel bezig met de vooruitgang van de technologie en wij ontwerpen zoveel nieuwe dingen, maar denken we eigenlijk wel voldoende na over de mogelijke negatieve gevolgen hiervan? In het verleden is al vaker gebleken dat bepaalde uitvindingen eigenlijk net slecht zijn voor ons, mensen vb. dynamiet, asbest... In dit artikel spreekt men eigenlijk over het feit dat als we op deze manier de technologie blijven programmeren, we het einde van de mensheid eigenlijk zelf aan het ontwerpen zijn. Natuurlijk is het niet mogelijk om alle mogelijke gevolgen in te zien alvorens we iets nieuws uitvinden, maar ik denk dat we toch iets langer hierover moeten gaan nadenken voordat we iets effectief gaan uitvoeren.
Nu men al weet/vermoedt dat dit gevaar schuilt in het ontwerpen van robots, beschikken wij nog over de mogelijkheid om dit te voorkomen. Ik weet niet hoe ingewikkeld het is om dit aan te passen, maar ik hoop dat het wel lukt. Moest dit artikel dan ook effectief inhoudelijk correct zijn, dan kan er een heuse ramp voorkomen worden door de robots op een andere manier te programmeren.

Nu nog niet, maar er wordt wel volop gewerkt aan het ontwikkelen van de eerste echte kunstmatige intelligentie. En ooit komt dat er. Computerprogramma's worden alsmaar complexer en er wordt ook volop gewerk aan nanocomputers en computers die werken volgens de principes van onze hersenen.

Omohundro is overigens niet de eerste die zich hier zorgen om maakt, menig sciencefictionschrijver heeft zich al proberen in te beelden hoe de wereld er zou uitzien met AI die intelligenter is dan wij, met als hoogtepunt The Matrix (daarin wordt ook ineens jouw energievraagstuk op een heel sinistere manier beantwoord).
SF-schrijver Isaac Asimove heeft rond dit idee zelfs een reeks boeken geschreven gebaseerd op zijn oplossing voor het probleem dat Omohundro stelt: nl. programmeurs moeten robotten (of AI) steeds programmeren op basis van volgende 3 wetten:

Eerste Wet: Een robot mag een mens geen letsel toebrengen of door niet te handelen toestaan dat een mens letsel oploopt.
Tweede Wet: Een robot moet de bevelen uitvoeren die hem door mensen gegeven worden,
behalve als die opdrachten in strijd zijn met de Eerste Wet.
Derde Wet: Een robot moet zijn eigen bestaan beschermen, voor zover die bescherming niet in strijd is met de Eerste of Tweede Wet.

En als laatste. Lees ook eens over de 'technologische singulariteit'. Dat is een begrip in de computerwetenschappen dat kort samengevat neerkomt op 'Het tijdstip waarop de eerste kunstmatige intelligenties of posthumans (verbeterde mensen met een opgevoerde intelligentie) hun verdere ontwikkeling in eigen hand nemen en zich zelf zo snel gaan 'verbeteren' dat de wereld kort daarop eveneens onbegrijpelijk wordt voor hedendaagse mensen.' Heel interessant.

Omohundro is dus niet echt origineel met zijn kritiek/vrees...

__________________
"De jeugd van tegenwoordig houdt alleen maar van luxe, heeft slechte manieren en veracht de autoriteit.
Zij heeft geen respect voor oudere mensen. De jeugd verpraat de tijd terwijl er gewerkt moet worden, schrokt bij de maaltijden het voedsel naar binnen, legt de benen over elkaar en tiranniseert de ouders..."
- Socrates, 2400 jaar geleden... -