Wetenschappers aan het Massachussetts Institute for Technology hebben een methode ontwikkelt om de redenering van een neuraal netwerk vast te leggen. De gedachtegang van een dergelijk artificeel intelligent systeem is op dit moment grotendeels een zwart gat voor ontwikkelaars.
Zwart gat

Neurale netwerken die kunstmatige intelligentie mogelijk maken, zijn opgebouwd op basis van de structuur van het menselijk brein. Via het lezen en analyseren van enorme databases leert een algoritme bijvoorbeeld objecten op een foto te herkennen, en bouwt het een netwerk van digitale “neuronen” uit die helpen om tot een accurate beslissing te komen. Dat netwerk is na een tijdje echter zo complex, dat het onmogelijk te volgen is hoe een algoritme bij een bepaald antwoord belandt. Dit is vooral bij tekstgebaseerde systemen een probleem.

Google laat AI zijn eigen encryptie ontwikkelen

Een recente krachttoer van Google is exemplarisch voor de situatie. Het bedrijf slaagde erin om verschillende AI’s een eigen encryptiemethode te laten ontwikkelen, maar omdat ze geen inzicht hebben in de gedachtegang van de artificiële machines, kunnen ze de encryptiemethode niet repliceren. Voor sommige applicaties is het waarschijnlijk niet nodig om te kunnen kijken naar waarom een computer een bepaald oordeel velde, maar in een domein als geneeskunde is dat wel cruciaal.

Twee is beter dan een

Het MIT heeft een manier ontwikkelt om toch de redenering van een neuraal netwerk te achterhalen. Om het beslissingsproces bloot te leggen, splitsten de onderzoekers een netwerk op in twee modules, eentje dat de data verwerkt en eentje dat het oordeel velt. Beide modules worden op dezelfde manier getraind als een standaard neuraal netwerk, maar de gedeelde aanpak maakt het mogelijk om meer inzicht te verkrijgen in hoe het netwerk geredeneerd heeft, zoals de wetenschappers in een paper demonstreren.

Bron: ZDNet, 02/11/2016
http://www.zdnet.be/nieuws/187753/m...-uit-te-leggen/

Mening:
De mens heeft een gigantische lust naar kennis. Kunstmatige intelligentie heeft zoals het artikel zegt nog 'zwarte gaten' waar we niets over weten. Wat MIT hier doet zal het onderzoek hopelijk in een stroomversnelling plaatsen. Ik zeg hopelijk want er is nog niet genoeg geweten om dit grootschalig te gebruiken. Vanaf het moment dat we deze technologie volledig onder de knie hebben zullen de toepassingen in de wereld baanbrekend zijn. Denk maar aan wat meer onschuldige toepassingen zoals mobiliteit. AI in auto's als automatische piloot of een AI die de verkeerslichten aanstuurt. Wat meer controverse teweeg zal brengen is AI in de geneeskunde, waar ik me nog niet over ga uitspreken.
Wat ik zeker kan besluiten is dat dit een stap in de goede richting is voor deze wetenschap en dat, indien goed geïmplementeerd, dit de mensheid veel zal helpen.