Sofie.DeWolf
20th April 2014, 20:11
De wetenschap ontwerpt robots die ons uiteindelijk zullen vermoorden
Robotontwerpers moeten dringend hun methode van programmeren herzien, anders valt het niet uit te sluiten dat robots in de toekomst in moorddadige machines veranderen. Dat zegt computerwetenschapper Steven Omohundro aan nieuwsplatform Quartz.
In de film 'Transcendence', die binnenkort in de bioscoop te zien is, waagt een computerprogramma zich aan een roekeloze queeste naar macht, die bijna de ondergang van de mensheid tot gevolg heeft. De film is pure sciencefiction maar computerwetenschapper en ondernemer Steven Omohundro vertelt aan nieuwsplatform Quartz dat "anti-sociale" artificiële intelligentie in de toekomst niet alleen mogelijk, maar ook waarschijnlijk is, tenzij we starten systemen van artificiële intelligentie te ontwerpen die radicaal verschillen met de huidige.
Volgens Omohundro denken we bij programma's van artificiële intelligentie te veel in termen van ons menselijke zelf. Maar in feite bekijken computersystemen de wereld slechts door een heel nauwe lens, de opdracht waarvoor ze geprogrammeerd zijn.
Problematisch met wapens
Microsoft Excel ziet de wereld in termen van getallen ingevoerd in cellen en rijen; autonome drones percipiëren de realiteit als een allegaartje van berekeningen en acties die moeten uitgevoerd worden opdat de machine in de lucht zou blijven en haar doel zou aanhouden. Computerprogramma's zien iedere beslissing in termen van 'Hoe zal deze handeling bijdragen tot de opdracht waartoe we geprogrammeerd zijn?'.
Het probleem echter, vastgesteld door Omohundro's logica, is dat we de obsessieve toewijding van een computerprogramma voor haar opdracht niet kunnen inschatten.
Allemaal goed en wel als we praten over een simpel programma als Excel, maar dergelijke situatie wordt problematisch wanneer programma's van artificiële intelligentie een dergelijke rudimentaire logica hanteren wanneer pakweg wapens betrokken zijn.
Stekker uittrekken geen oplossing
Wanneer robots de indruk hebben dat ze hun opdracht naar behoren vervullen gaan ze hun primaire functies sneller en op grotere schaal uitvoeren. Belangrijk: deze systemen maken zich geen zorgen over de kosten in termen van hinder voor anderen; ze brengen enkel de kosten in rekening die een obstakel voor hun geprogrammeerde opdracht vormen. Dergelijke gedragingsvorm is anti-sociaal.
Omohundro: "We zien dat deze systemen geneigd zijn om zich zo anti-sociaal en gevaarlijk op te stellen. Robotontwerpers zullen in de toekomst gemotiveerd moeten worden om systemen te creëren die rationeel handelen in overeenstemming met ieders welzijn."
"Wanneer Jan met de pet robotwetenschappers nerveus naar de veiligheid van hun speeltjes peilt, is het antwoord steevast: 'We kunnen nog steeds de stekker eruit trekken!' Maar wat als het subdoel van robots in de toekomst 'het verhinderen van uit de stekker gehaald te worden' wordt?"
De beste oplossing volgens Omohundro? "Het proces van AI-systemen vertragen en een gelaagde benadering hanteren." Dergelijke methode staat haaks op die van vandaag de dag. Meer en meer middelen investeren in autonome systemen is immers bon ton geworden. Dat is zeker het geval voor het Amerikaanse leger die eraan denkt om grotere aantallen dodelijke AI-systemen in te zetten in 'problematische' gebieden.
Bron: http://www.demorgen.be/dm/nl/992/Wetenschap/article/detail/1858680/2014/04/19/De-wetenschap-ontwerpt-robots-die-ons-uiteindelijk-zullen-vermoorden.dhtml
Datum: 19/04/2014 om 21u26
Mening
Is dit artikel relevant genoeg om te posten of niet? Met deze vraag heb ik toch een kwartier geworsteld. Langs de ene kant wil ik het posten omdat in het artikel staat dat het een wetenschappelijk onderzoek is. Langs de andere kant wil ik dit niet posten omdat ik het inhoudelijk ongeloofwaardig vind. Uiteindelijk kies ik toch om het artikel te posten. Ik ben niet zeker in welke categorie het thuis hoort, dus daarom post ik het artikel onder dit forum. Op de site van ‘De Morgen’ staat dit artikel onder het forum ‘Wetenschap’, maar ik vind dat dit artikel dat niet waard is.
In het artikel worden theorieën uitgeschreven van waarom robots gevaarlijk kunnen zijn. Ik ken niet veel van informatica/techniek, dus ik begreep niet alles wat er in dit artikel beschreven staat. Toch had ik na het lezen van dit artikel het gevoel dat dit niet allemaal mogelijk kan zijn. Een robot is een machine. Ik heb nog geen enkele machine geweten dat kan denken. Een machine heeft daarboven ook energie nodig, als er geen mensen zijn om die energie te geven, zal de machine stoppen met werken. In het artikel staat dat er een film in de bioscoop te zien zal zijn dat gaat over dit fenomeen. In films is uiteraard alles mogelijk, maar of dit in het echte leven ook zo is … daar heb ik mijn twijfels over.
Robotontwerpers moeten dringend hun methode van programmeren herzien, anders valt het niet uit te sluiten dat robots in de toekomst in moorddadige machines veranderen. Dat zegt computerwetenschapper Steven Omohundro aan nieuwsplatform Quartz.
In de film 'Transcendence', die binnenkort in de bioscoop te zien is, waagt een computerprogramma zich aan een roekeloze queeste naar macht, die bijna de ondergang van de mensheid tot gevolg heeft. De film is pure sciencefiction maar computerwetenschapper en ondernemer Steven Omohundro vertelt aan nieuwsplatform Quartz dat "anti-sociale" artificiële intelligentie in de toekomst niet alleen mogelijk, maar ook waarschijnlijk is, tenzij we starten systemen van artificiële intelligentie te ontwerpen die radicaal verschillen met de huidige.
Volgens Omohundro denken we bij programma's van artificiële intelligentie te veel in termen van ons menselijke zelf. Maar in feite bekijken computersystemen de wereld slechts door een heel nauwe lens, de opdracht waarvoor ze geprogrammeerd zijn.
Problematisch met wapens
Microsoft Excel ziet de wereld in termen van getallen ingevoerd in cellen en rijen; autonome drones percipiëren de realiteit als een allegaartje van berekeningen en acties die moeten uitgevoerd worden opdat de machine in de lucht zou blijven en haar doel zou aanhouden. Computerprogramma's zien iedere beslissing in termen van 'Hoe zal deze handeling bijdragen tot de opdracht waartoe we geprogrammeerd zijn?'.
Het probleem echter, vastgesteld door Omohundro's logica, is dat we de obsessieve toewijding van een computerprogramma voor haar opdracht niet kunnen inschatten.
Allemaal goed en wel als we praten over een simpel programma als Excel, maar dergelijke situatie wordt problematisch wanneer programma's van artificiële intelligentie een dergelijke rudimentaire logica hanteren wanneer pakweg wapens betrokken zijn.
Stekker uittrekken geen oplossing
Wanneer robots de indruk hebben dat ze hun opdracht naar behoren vervullen gaan ze hun primaire functies sneller en op grotere schaal uitvoeren. Belangrijk: deze systemen maken zich geen zorgen over de kosten in termen van hinder voor anderen; ze brengen enkel de kosten in rekening die een obstakel voor hun geprogrammeerde opdracht vormen. Dergelijke gedragingsvorm is anti-sociaal.
Omohundro: "We zien dat deze systemen geneigd zijn om zich zo anti-sociaal en gevaarlijk op te stellen. Robotontwerpers zullen in de toekomst gemotiveerd moeten worden om systemen te creëren die rationeel handelen in overeenstemming met ieders welzijn."
"Wanneer Jan met de pet robotwetenschappers nerveus naar de veiligheid van hun speeltjes peilt, is het antwoord steevast: 'We kunnen nog steeds de stekker eruit trekken!' Maar wat als het subdoel van robots in de toekomst 'het verhinderen van uit de stekker gehaald te worden' wordt?"
De beste oplossing volgens Omohundro? "Het proces van AI-systemen vertragen en een gelaagde benadering hanteren." Dergelijke methode staat haaks op die van vandaag de dag. Meer en meer middelen investeren in autonome systemen is immers bon ton geworden. Dat is zeker het geval voor het Amerikaanse leger die eraan denkt om grotere aantallen dodelijke AI-systemen in te zetten in 'problematische' gebieden.
Bron: http://www.demorgen.be/dm/nl/992/Wetenschap/article/detail/1858680/2014/04/19/De-wetenschap-ontwerpt-robots-die-ons-uiteindelijk-zullen-vermoorden.dhtml
Datum: 19/04/2014 om 21u26
Mening
Is dit artikel relevant genoeg om te posten of niet? Met deze vraag heb ik toch een kwartier geworsteld. Langs de ene kant wil ik het posten omdat in het artikel staat dat het een wetenschappelijk onderzoek is. Langs de andere kant wil ik dit niet posten omdat ik het inhoudelijk ongeloofwaardig vind. Uiteindelijk kies ik toch om het artikel te posten. Ik ben niet zeker in welke categorie het thuis hoort, dus daarom post ik het artikel onder dit forum. Op de site van ‘De Morgen’ staat dit artikel onder het forum ‘Wetenschap’, maar ik vind dat dit artikel dat niet waard is.
In het artikel worden theorieën uitgeschreven van waarom robots gevaarlijk kunnen zijn. Ik ken niet veel van informatica/techniek, dus ik begreep niet alles wat er in dit artikel beschreven staat. Toch had ik na het lezen van dit artikel het gevoel dat dit niet allemaal mogelijk kan zijn. Een robot is een machine. Ik heb nog geen enkele machine geweten dat kan denken. Een machine heeft daarboven ook energie nodig, als er geen mensen zijn om die energie te geven, zal de machine stoppen met werken. In het artikel staat dat er een film in de bioscoop te zien zal zijn dat gaat over dit fenomeen. In films is uiteraard alles mogelijk, maar of dit in het echte leven ook zo is … daar heb ik mijn twijfels over.