Wat als een superintelligentie ontstaat op een bureautafel?

4 reacties / Analyses, Filosofie, Ideeën, Mensheid, Visionaire vragen / Door / 31 januari 2015

Als je maar slim genoeg bent, en toegang hebt tot internet, zijn er zeer veel mogelijkheden om erg machtig of schatrijk te worden. Denk aan de succesverhalen van de oprichters van Google en Facebook. Wanhopige mensen, bijvoorbeeld een ondernemer op het rand van een bankroet, zullen er daarom in de nabije toekomst voor kunnen kiezen om een kunstmatige intelligentie te creëren die slimmer is dan de allerslimste mens. Dit in de hoop, dat deze kunstmatige intelligentie de redder in de nood zal blijken. Maar wat, als de schepping sterker blijkt te zijn dan de schepper, wat bij geavanceerde AI per definitie het geval is?


In deze film.The Awareness, iets minder dan twintig minuten, wordt deze gedachte uitgewerkt. Drie zeer intelligente mensen die hun sporen verdiend hebben in de IT en bètawetenschappen, Bill Gates, Stephen Hawking en Elon Musk, hebben hun zorgen over de opkomst van sterke AI niet onder stoelen of banken gestoken. Wezens die slimmer zijn dan de mens, zijn per definitie oncontroleerbaar voor ons. Toch zullen deze wezens er komen. Dit is onvermijdelijk, gezien de voortgang van informatietechnologie. We hebben nog ongeveer tien jaar om ons op dit zeer essentiële vraagstuk voor te bereiden. Hopelijk hebben we dan het juiste antwoord, en eindigen we niet als de mensheid in dyustopische SF-films als de Terminator reeks. Zal het ons lukken het  equivalent van Asimovs Drie Wetten van de Robotica te bedenken?

ai-adv

4 gedachten over “Wat als een superintelligentie ontstaat op een bureautafel?”

  2. Jaap Hermsen

    Nee, gewoon nee! Ook deze video heeft mij niet kunnen overtuigen dat sterke AI het gaat winnen van hun makers. Het equivalent van Asimovs Drie Wetten van de Robotica bestaat namelijk al. Robots zijn standaard niet kwaadwillend en elke machine begint niets zonder energietoevoer. Uit is dan dus ook echt uit! Als de slimme mens dus stopknoppen in het ontwerp blijven opnemen -juist- bij sterke AI zullen deze dus nimmer slimmer kunnen worden dan de mens. Gaat u maar rustig slapen. ;-)

    Problemen zullen zich pas voor doen als terreurcellen of mogendheden -moedwillig- stopknoppen hardwarematig gaan verwijderen. Maar dan gaat het toch weer om (groepen) mensen achter de robots en de strijd tussen kwade en goede krachten.

    Hoe robots mensen kunnen uitschakelen zal nagenoeg bekend zijn, maar hoe mensen robots kunnen uitschakelen is nog niet helemaal bekend. Met een bijl, stok of flinke hamer zul je vast een eind kunnen komen. En mogendheden (met het alleenrecht op geweld) kunnen natuurlijk nog grover geschut gebruiken. Dat er doden zullen gaan vallen met m.b.v. sterke AI valt dus niet te ontkennen en dat er ongelukken gaan gebeuren ook niet. Als mensen het als ongelukken gaan beschouwen is er nog niet zoveel aan de hand en oorlogen met robots die tegen de vijand vechten zijn eigenlijk mensen met een geavanceerd stuk gereedschap tot hun beschikking.

Laat een reactie achter