Als een minidrone zelf beslist over leven en dood
Zullen we ooit oorlogen laten uitvechten door autonome robots?

Ruim 2.000 robotica-experts, 20 Nobelprijswinnaars en meer dan 100 technologiebedrijven vragen op een conventie dat er paal en perk gesteld wordt aan de ontwikkeling van 'killerrobots'. Zeker nu een piepkleine drone die onafhankelijk kan doden technisch mogelijk is.

De volgende dagen komen in Genève overheden en robotica-experts samen tijdens de VN-Conventie voor Conventionele Wapens om te debatteren over zogenaamde 'killerrobots'. Kort door de bocht zijn dat wapensystemen waar de mens geen betekenisvolle controle meer heeft over de beslissingen die de wapens nemen.

Het is volgens experts, onder wie superondernemer Elon Musk en wetenschapper Stephen Hawking, niet ondenkbaar dat we binnen vijf à tien jaar te maken krijgen met wapens die volledig autonoom opereren. Lees: die dus zelf aan het front beslissen over leven en dood.

Het gaat niet per se om Terminator-achtige figuren die eruitzien en bewegen als mensen. Maar denk aan drones die volledig zelfstandig mensen kunnen traceren, volgen en zelfs uitschakelen met één dodelijk schot in het hoofd.

Razendsnel

Stuart Russel, een expert artificiële intelligentie aan de universiteit van Berkeley, toonde maandag een fictieve film waarin een zwerm drones in nog geen dertig seconden een aula vol studenten vermoordt. Hij verzekerde in The Guardian dat in de film enkel een beroep werd gedaan op bestaande technologieën. "In feite zijn zulke drones gemakkelijker te produceren dan een zelfrijdende wagen, die vergen veel meer sensoren en software."

Een internationale verzameling van ngo's ijvert al sinds 2013 onder de naam Campaign to Stop Killer Robots voor een preventief verbod op de ontwikkeling en productie van killerrobots. Die organisatie bestaat vandaag uit 64 organisaties uit 68 landen, waaronder Pax Christi Vlaanderen. "Het is belangrijk dat regeringen zich uitspreken over killerrobots", zegt Willem Staes die voor Pax Christi Vlaanderen in Genève is. "De technologische mogelijkheden evolueren razendsnel terwijl de diplomatie lijkt stil te vallen."

Zo stonden er dit jaar twee vergaderingen gepland in de schoot van de Verenigde Naties, maar doordat onder andere Brazilië zijn bijdrage aan de VN een tijd lang niet betaald heeft, gingen de gesprekken in augustus niet door.

België ondersteunt de vraag van de Campaign to Stop Killer Robots op dit moment niet. "Maar er is wel al een paper waarin ons land vooral benadrukt dat er een duidelijke definitie moet komen over wat autonome wapens precies zijn", benadrukt Staes. "Definities zijn belangrijk, maar overheden moeten zich de fundamentele vraag stellen of ze de beslissing over leven en dood willen uitbesteden aan robots."

Een positief antwoord op die vraag impliceert heel wat verantwoordelijkheid voor door software gestuurde drones of andere soldaten. Aan het front moet je rekening houden met een dynamische context zoals bijvoorbeeld weersomstandigheden. Bovendien moet elke actie proportioneel zijn. "Wanneer er in die omstandigheden iets fout loopt, rijst de vraag wie verantwoordelijk is. De producent, de overheid, de bevelgever of nog iemand anders?"

Voortrekkersrol
Oorlogsvoering vergt bovendien een bepaalde ethiek. "Als je zelf geen slachtoffers meer te vrezen hebt, is de drempel om een conflict te starten veel lager", zegt Frank Slijper, die zich voor de Nederlandse vredesorganisatie PAX verdiept heeft in killerrobots. "Oorlogssystemen worden steeds verder geautomatiseerd, we moeten daar dringend een lijn trekken. Tot waar en niet verder."

In ons land staan er op 6 december hoorzittingen gepland in het federaal parlement, daar worden experts uit robotica en artificiële intelligentie op uitgenodigd. "We willen als Belgen een voortrekkersrol spelen, net zoals we dat in het verleden gedaan hebben door antipersoonsmijnen te verbieden", zegt Wouter De Vriendt (Groen), die eerder dit jaar een resolutie over autonome robots indiende. Hij hoopt een meerderheid te vinden om zowel autonome wapens al het onderzoek naar zulke wapens te verbieden.

Datum: 14 November
Bron: De Morgen
https://www.demorgen.be/wetenschap/...-dood-b0b02629/
Eigen mening:
Ik vind het wel angstaanjagend als je zo een artikel leest, het gedacht dat er nu al drones zijn die volledig autonoom kunnen opereren.
Over een paar jaar zal er waarschijnlijk wel een technologie komen waardoor drones zelf beslissingen kunnen maken ofwel autonoom kunnen denken.
Ik weet niet of dat het juist beter of slechter maakt, je kan argumenteren dat het beter is omdat ze dan het verschil zien tussen goed en slecht, maar moet je die persoon daarom dan doodschieten?
Ik heb zelf twee jaar informatica gesudeerd en weet dus dat ALLES te hacken is, van verkeerspaaltjes tot auto's. Wat als iemand met slechte bedoelingen zo een 'killerrobot' hackt en deze zich tegen zijn makers kan laten keren?
Wat als hackergroups een leger vol killerrobots kan besturen?