‘Kunstmatige superintelligentie onmogelijk op te sluiten’

Share Button

Kunstmatige superintelligentie wordt terecht de gevaarlijkste uitvinding ooit genaamd door onder meer Stephen Hawking, Elon Musk en Bill Gates. Kunstmatige superintelligentie, een intelligentie die de menselijke intelligentie ordes van grootte overtreft, dreigt de wereld zoals we die nu kennen compleet over te nemen. Een voor de hand liggende methode om onheil te voorkomen, is de superintelligentie op te sluiten in een van de rest van het universum afgesloten ruimte. Maar zal dit genoeg zijn om te voorkomen dat de ASI ontsnapt?

Een superintelligentie heeft verbijsterende capaciteiten. Stel je de beste hacker ter wereld voor, maar dan miljoenen malen slimmer. Een superintelligentie beschikt niet over een geweten en zal dus te werk gaan als een hyperintelligente psychopaat. Zoals wij het gedrag en instincten van bepaalde dieren manipuleren om ze optimaal uit te kunnen buiten, zal een superintelligentie dat ook met ons doen. Een mooi voorbeeld kan je vinden in de film Deus Ex Machina, waar de kunstmatige intelligentie de protagonist op duivelse wijze manipuleert. Is de superintelligentie eenmaal uitgebroken, dan is er geen redden meer aan.

Kunstmatige superintelligentie (ASI) zal in staat zijn mensen beter te manipuleren dan de ergste psychopaten uit de menselijke geschiedenis.

Kunstmatige superintelligentie (ASI) zal in staat zijn mensen beter te manipuleren dan de ergste psychopaten uit de menselijke geschiedenis.

Science fiction? Integendeel. Over tien tot vijftien jaar zal op grond van de Wet van Moore je computer slimmer zijn dan jij. Supercomputers zullen al eerder de intelligentie van de mens overtreffen. In feite is dat op relevante terreinen al zo. Denk aan het verslaan van de go-wereldkampioen. Hier kunnen we dus maar beter snel en grondig over nadenken. Gelukkig gebeurt dit nu ook.

Meer informatie
Global Priorities Project

Share Button

Germen

Hoofdredacteur en analist (Visionair.nl) Expertise: biologische productiesystemen (master), natuurkunde (gedeeltelijek bachelor), informatica

Dit vind je misschien ook interessant:

4 reacties

  1. bemoeier schreef:

    Tja dan moet die ook gemanipuleerd worden met kunstmatig geweten en empathie.
    Eerst maar eens ondekken hoe dat werkt in ons brein.

  2. Hannes schreef:

    Als je eens wil lezen hoe een superintelligentie kan uitbreken uit zijn ‘container’ lees dan het eerste hoofdstuk van Vernor Vinge’s ‘A Fire Upon the Deep’ (1992). En inderdaad wordt het hoog tijd daar eens over na te denken.. Het beste zou zijn, zoals o.a. Vernor Vinge en Ray Kurzweil al tijden stellen, dat we geen aparte van de mens losstaande superintelligentie ontwikkelen (of laten ontstaan) maar dat we ermee versmelten. Naarmate we meer weten over hoe intelligentie ontstaat en hoe de hersenen, tot nu toe de belangrijkste drager van intelligentie, werken kan men voorzichtig beginnen met ‘upgrades’ van die hersenen. Dan worden wij vanzelf een onderdeel van een superintelligentie en dan is het onderscheid uiteindelijk zinloos en niet meer van belang.

  3. Germen schreef:

    Klopt Hannes, inderdaad geloof ik ook dat we beter bestaande mensen kunnen uitbouwen met superintelligentie, dan zelf een superintelligentie scheppen. En om de reden die je noemt.

    • bemoeier schreef:

      Ja omdat wij empathie en geweten hebben, maar als er ontdekt kan worden hoe dat werkt.
      Dan kan dat misschien ook kunstmatig gemaakt worden.
      Alleen dan krijgen ze misschien een identiteits crisis omdat ze alleen maar een machine zijn.

Geef een reactie

Advertisment ad adsense adlogger