De robotwetten van Asimov

Share Button

Robots en kunstmatige intelligentie worden steeds belangrijker in onze samenleving en zullen in de toekomst een nog  grotere rol gaan spelen in ons dagelijks leven. Voordat het zover is zullen er nog wel de nodige uitdagingen moeten worden overwonnen.

Toch is het niet verkeerd om als visionair eens stil te staan bij een wereld waarin robots en kunstmatige intelligentie steeds belangrijker worden. En wat de mogelijke risico’s zijn. Iemand die daarbij zou kunnen helpen is de beroemde sciencefictionschrijver Isaac Asimov. Asimov was zich al vroeg van bewust van de potentie van robots en hield zich graag met dit onderwerp bezig.

In de jaren veertig van de vorige eeuw schreef hij al over robots in een serie van negen korte sciencefictionverhalen genaamd I, Robot. Een verhalenserie die eerst was verschenen in Amerikaanse tijdschriften en later als een bundeling in boekvorm.  Jaren later is er ook een gelijknamige film gemaakt.

De wetten

In deze verhalenserie werd voor het eerst de drie robotwetten gepresenteerd die door Asimov zijn bedacht. Deze robotwetten (of correcter: de drie wetten van de robotica) vormen een belangrijk onderdeel van zijn robotverhalen.

Deze drie wetten zijn als volgt gedefinieerd [1]:

Eerste Wet

Een robot mag een mens geen letsel toebrengen of door niet te handelen toestaan dat een mens letsel oploopt.

Tweede Wet

Een robot moet de bevelen uitvoeren die hem door mensen gegeven worden,
behalve als die opdrachten in strijd zijn met de Eerste Wet.

Derde Wet

Een robot moet zijn eigen bestaan beschermen, voor zover die bescherming niet in strijd is met de Eerste of Tweede Wet.

In zijn latere robotverhalen heeft Asimov nog een extra wet toegevoegd, de Nulde Wet [1].

Nulde Wet

Een robot mag geen schade toebrengen aan de mensheid, of toelaten dat de mensheid schade toegebracht wordt door zijn nalatigheid.

Dit betekende ook een aanpassing van de drie andere wetten [1]:

Eerste Wet

Een robot mag een mens geen letsel toebrengen of door niet te handelen toestaan dat een mens letsel oploopt behalve als dit de Nulde Wet zou schenden.

Tweede Wet

Een robot moet de bevelen uitvoeren die hem door mensen gegeven worden, behalve als die opdrachten in strijd zijn met de Nulde Wet of de Eerste Wet.

Derde Wet

Een robot moet zijn eigen bestaan beschermen, voor zover die bescherming niet in strijd is met de Nulde, Eerste of Tweede Wet.

Deze wetten hadden en hebben nog steeds een grote invloed op het denken over hoe robots, zich in verhouding tot mensen, moeten gedragen. Je zou het de ultieme gedragsregels voor robots kunnen noemen. In veel boeken, films en andere media worden naar deze wetten verwezen.

Waarde voor visionairen

Ook voor visionairen is het handig om van het bestaan van deze wetten op de hoogte te zijn. En om ook eens goed na te gaan denken over wat kunstmatige intelligentie en robots voor ons kunnen gaan betekenen. De ontwikkelingen op dit gebied gaan snel en lijken niet meer tegen te houden. Daarom is het interessant om je als visionair eventueel ook met dit thema bezig te gaan houden. Hoe denken jullie over robots en kunstmatige intelligentie? En vormen de wetten der robotica een goede bescherming  van het potentiële gevaar van robots tegenover de mensheid?

Misschien is het ook een aanrader om zelf de boeken van Asimov te gaan lezen om je verder te laten inspireren over dit thema en de bijbehorende vraagstukken.

Bron:

[1]  De drie wetten van de robotica, ww.wikipedia.nl

Share Button

Berny

Bijzondere tijden vragen om bijzondere mensen die anders durven te zijn en anders durven te denken. Visionair.nl is een digitale ontmoetingsplaats waar wordt geprobeerd om voor geïnteresseerden het ’anders’ denken of het ‘visionair’ denken te stimuleren. Ik probeer hier via mijn artikelen op mijn eigen manier een steentje aan bij te dragen. Dit doe ik vanuit een positief-realistische benadering. Het is goed om te fantaseren over de toekomst. Het dient echter niet te zweverig worden of te utopisch te zijn. De huidige realiteit dient niet te worden vergeten. Verder wil ik opmerken dat de artikelen op deze website vanuit verschillende invalshoeken worden geschreven. Ik ben het niet automatisch eens met de overige artikelen op deze website en ik neem afstand van de artikelen van de overige auteurs die niet in overeenstemming zijn met mijn persoonlijke mening.

Dit vind je misschien ook interessant:

33 reacties

  1. Bemoeier schreef:

    Net als met de mensenrechten zal dit misschien ook wel met voeten getreden worden door sommige landen, dus als we ze gaan importeren moeten we ze intensief testen en nakijken op verborgen wet override software en andere James Bond truukjes.

  2. Rob schreef:

    Alles wat groter, sterker of slimmer is heerst. Dus een kunstmatige grote intelligentie met zelf lerend vermogen zal zijn eigen regels en doelen gaan stellen.
    Daarbij worden de meeste vindingen eerst militair strategisch gebruikt en pas later voor de burger. Dus hoe ga je dan die robot-wetten interpreteren.
    Tot slot zou een robot kunnen beslissen dat het binnen de Nulde wet het beste is om de mensheid op een paar originals in de jungle na uit te roeien zodat een nieuw experiment gestart kan worden waarbij de robots het alleenrecht op techniek hebben.

  3. Paul.R schreef:

    Goeiemorgen allemaal en een gelukkig nieuw jaar toegewenst.
    Je zou eigenlijk deze wetgeving eerst voor de mensheid in moeten stellen, als ze dan eindelijk eens geleerd hebben om daar naar te leven, dan kun je deze wetgeving instellen voor de toekomstige robots. Ik denk dat je dan minder het risico loopt, dat alles tegen je gebruikt kan worden. Want hoe je het ook went en of keert, het gevaar blijft ten alle tijden bestaan, dat het ook tegen je kan werken. Vooral als je aan robots denkt die zelfstandig kunnen denken en handelen. Maar ik heb een geluk, dat ik dit niet meer mee hoeft te maken. Mvg Paul.   ;-)  
     

  4. Roeland schreef:

    De drones die de Amerikanen gebruiken handelen niet volgens de eerste wet, logisch want het zijn vechtrobots. Nu worden ze nog bediend door iemand achter de knoppen die veilig op afstand in de VS zit, maar er wordt druk aan gewerkt om hun zelfstandig te laten handelen. 
    Als deze robots zich verbinden via internet ontstaat een superintelligentie. Binnenkort kunnen we deze drones ook hier verwachten.Natuurlijk allemaal ten bate van onze veiligheid :)
    Mensen dromen over een tijd vol met welvaart en liefde, maar wie een beetje uit zijn doppen kijkt ziet totaal andere ontwikkelingen.
    Ik sluit me daarbij aan bij de visies van mijn voorgangers Paul en Rob.
    Desondanks allemaal een heel gelukkig nieuwjaar gewenst :)
     

  5. Matt schreef:

    ik heb bijna alle boeken van Asimov in huis en vind ze prachtig. Isaac was zijn tijd ver vooruit en zeker in de “Foundation”reeks (7delen) waar ook een hele belangrijke rol is weggelegd voor een robot (Eto Demerzel) die blijkbaar het eeuwige leven heeft maar niet van mens te onderscheiden is. Een van de grote vragen die gesteld worden is: Waar houd de techniek op en begint leven? Een positronich brein lijkt erop maar is het menselijk leven? Die vragen worden ook gesteld in de ‘robot romans’, Caliban en Prospero, die welhaast menselijk zijn.
    Trouwens, in de foundation reeks word het universum bestuurd door zoiets als een nwo, maar dan menselijk positief ingesteld,want rijkdom en macht is niet zo belangrijk.
    Fijne jaarwisseling en veel leesplezier.

  6. Matt schreef:

    Nog even een reaktie aan Paul:
    Als de mens, en dan bedoel ik ieder individu, zich aan de 10 geboden zou houden dan leven we in een perfecte wereld. Als, zoals sommige bronnen beweren, Abraham een vertegenwoordiger van een buitenaarse beschaving was dan is de boodschap duidelijk: geen toegang tot de ‘Galactische Federatie’ zolang we een oorlogvoerende wereld zijn.
    Ach, dromen mag.
    En ook een voorspoedig 2013 gewenst.

    • Paul.R schreef:

      Matt, dromen zijn bedrog, fantasie is de rijkdom van het kind en voor de visionairen en een van de basis gegvens van de metafysica. En de perfecte wereld is een utopie, maar ja zoals je al aangaf, dromen mag en dan weer terug naar de werkelijkheid. Mvg Paul.   :-D  
       

  7. Roeland schreef:

    In feite zijn wij ook een soort robots alleen heel langzaam bij stukjes en beetjes gemaakt door evolutie en van biologisch materiaal (koolstof in plaats van silicium). 

  8. searano schreef:

    @Roeland, en ‘we’ zijn voorzien van kuntmatige intelligentie die we ‘ik’ noemen. 

  9. Julie schreef:

    Leuk om jezelf eens te testen, eh kennis te maken:
    http://www.jabberwacky.com/george

  10. antares schreef:

    Maak me nergens ongerust over, robots zijn geen mensen…….

  11. Roeland schreef:

    De programmering van mensen is via een trial en error systeem genaamd evolutie ontstaan in miljarden jaren. Vandaar dat mensen zo vreemd en ingewikkeld zijn :)
    Het voordeel van robots is dat je met een schone lei zou kunnen beginnen en ze daardoor zou kunnen programmeren met beginselen zoals gij zult niet doden, wat voor mensen kennelijk een onhaalbare kaart is.
    Dat zou dan ook het beginpunt kunnen zijn van een betere en morelere intelligentie.
    Helaas is het wel de elite die aan de (programmeer)knoppen zit en zullen de eerste intelligente robots waarschijnlijk militaire drones zijn. Dus van dat potentieel zal geen gebruik worden gemaakt……
    Een gemiste kans, het is helaas niet anders…….. 

    • antares schreef:

      Het blijft een vage term “elite”, wanneer is iemand elite? Steve Jobs was ook geen elite, Bill Gates wordt dat ook niet. Wat deze mensen bereikt hebben op computergebied, daar draait de hele wereld zowat op. Zou niet weten waarom dat aan de zogenaamde classe (elite) voorbehouden blijft. Wetenschappelijk onderzoek kan iedereen die over de hersens beschikt uitvoeren. Moeten we die dan maar meteen bij de knechten van de elite indelen, of zullen ze beter nadenken over de toekomst voor de mensheid en daarmee ook hun eigen nakomelingen? Door de moderne communicatiemiddelen zijn we allemaal met elkaar verbonden, iedereen valt door de mand die zich afwijkend gedraagt. Daardoor vallen de fanatieke, paranoide complotters het meest op. Dergelijke raddraaiers proberen massa’s mensen tegen elkaar op te zetten, met hun verzonnen schuldigen aan alles wat er scheef gaat op de planeet. Zo eenvoudig ligt het echter niet, alleen de eenvoudigen van geest kun je zo aansturen en dicteren wat te denken. Tot een steenrijke familie behoren, betekende nooit eensgezindheid onder de familieleden. De familienaam daarom lukraak maar bekladden met vage aanduidingen, zoals ik al tevaak gelezen heb, is gewoon platte ordinaire roddel geweest. Nee, geef mij dan maar computerbreinen, die zullen nooit roddelen….

  12. Roeland schreef:

    De elite zijn niet de technici die het uitvoerend werk doen, maar wel degenen die beslissen hoe de robots (drones) geprogrammeerd moeten worden en of ze al dan niet ingesteld worden om mensen te doden. Je moet dan denken aan mensen in leidinggevende en machtige functies, aan de top van bijv. defensie ministeries en geheime diensten.
    Ik denk dat Douwe uitgebreide artikelen heeft geschreven over wie tot de elite gerekend kan worden. Een verwijzing naar het visionair archief volstaat lijkt me.
    De kern van de zichtbare elite is het gezelschap dat aangeduid wordt als Bilderberg groep.
    Steve Jobs heeft zich voorgedaan als een halve hippie, maar behoorde natuurlijk gewoon tot de elite (vraag maar aan de werknemers in China die de I phones moesten maken). Gates behoort ook tot de elite. 
    Maar goed de artikelen van Douwe bevatten de nodige grafieken en overzichten. Verder zijn er op internet genoeg lijsten te vinden van bijv. de machtigste 1000 mensen op deze wereld.
     

  13. antares schreef:

    De elite wordt benoemd, en werd benoemd, of beschouwde zichzelf als elite. Niets nieuws onder de zon dus. Geld is macht, maar kennis nog veel meer uiteindelijk. Met een kapotgelopen maatschappij kan de elite niet meer functioneren, het geld is dan waardeloos. De (elite?) is dan nog slechts een kansloze cultuurafscheiding van de rest, zonder het geld om de macht die ze wordt toegeschreven nog uit te oefenen. Steve Jobs en Bill Gates komen uit het gewone volk, anderen hebben ze slechts benoemt tot elite. Iedereen kan zich koning, keizer, admiraal, en bankdirecteur noemen, maar niemand blijft het. De wereld verandert onophoudelijk, we zijn allemaal druk aan het leren van de fouten die gemaakt zijn, anders is er straks geen toekomst meer. Statistieken en grafieken of niet, oplossingen die werken heb ik een boodschap aan en die heb ik nog niet gelezen. Wel het vingertje wijzen naar de veronderstelde schuldigen. Niemand heeft op dit ogenblik de oplossing, maar het zoeken daarnaar doe je alleen efficiënt door te communiceren met iedereen. Dus ook met de veronderstelde elite, in plaats van naar de wapens te grijpen.  

    • Paul.R schreef:

      Je zou je kunnen afvragen of er ooit wel een toekomst is geweest, volgens mij is dat een schijn gedachtengang? Oplossingen zijn er wel, maar dan zal het volk moeten opstaan en een revolutie moeten ontketenen. Mvg Paul.

      • antares schreef:

        Revoluties op wetenschappelijk, technisch, en communicatief gebied lijken me zeer welkom. Daar voert geavanceerd overleg (technische communicatiemiddelen voor iedereen) en meestal positieve ontwikkeling uit voort, maar ook de kennis van wat er fout is gegaan. Geweldadige revoluties zijn steeds plaatselijk en vinden voornamelijk vooral in dictaturen plaats, bijna altijd met grote en ondraaglijke verliezen onder het volk. We leven hier niet in vergelijkbare, gevallen/bestaande dictaturen, slechts onder het juk dat geld en rente heet. Daarvoor zijn we zelf ook verantwoordelijk geweest, de bomen leken de hemel in te kunnen groeien. Dat dat niet zo bleek te zijn is duidelijk, maar om zo’n reden pakt geen enkel redelijk mens de wapens op. Overleg is de meest gezonde basis van oplossingen, gewapende conflicten de meest ongezonde.  

        • Paul.R schreef:

          Andre, dat is het spel wat door de machten worden gespeeld. Geef die domme man vele mogelijkheden, hier wordt ook nog eens aan verdiend. Zo houdt je het gepeupel wel rustig. Als je daadwerkelijk iets wilt veranderen gaat het nooit zonder slag en stoot, dus bloed zal er altijd vloeien. Ik denk dat het voor ons niet meer zoveel uit zal maken, maar voor de komende generaties hebben we denk ik wel een verplichting. Als ik zeker wist dat een ieder aan die revolutie mee zal werken, dan mag het mijn bloed wel wezen. Dan zal ik er voor staan, zoals dat heet. Mvg Paul.

      • Douwe schreef:

        Wellicht geen revolutie maar wel een evolutie, een evolutie in het systeem hoe we diensten met elkaar uitruilen. En als je dat goed aanpakt dan mag de ander daarop reageren. Volgens de Art of War is dat de beste methode. Bouw zelf een kasteel inplaats van de ander aan te vallen. En als jij een goed kasteel hebt gebouwd en de ander dan bij jou aan de poort wil komen rammelen dan heb je iig een aanzienlijk betere uitgangspositie in het gevecht :-)

        • Paul.R schreef:

          Douwe, ik denk dat een evolutie het kapitaal systeem niet zal beinvloeden, hooguit in hun voordeel, en of te veranderen is. Evolutie is een proces, die niet omkeerbaar enof te sturen is. Dat gaat gestaag in een richting door. Zoals Roeland het laatst verwoorde, de mensheid verander je niet zo maar even, het heeft al 5 miljard jaar geduurd om dat gene te bewerkstelligen wat we nu zijn, dat turn je niet zo maar even om. Daar zou je dan nog eens 5 miljard jaar voor nodig hebben. Tegen die tijd ben ik allang vergruisd tot stof. Mvg Paul.

        • Paul.R schreef:

          Ps: je moet natuurlijk wel wat optimistisch blijven, maar net zoals we niet onsterfelijk zijn, zo is oorlog een onderdeel van het Leven. Dat zou de mens moeten leren te aanvaarden. En maak het er het beste van in je leven, haal alles er uit wat mogelijk is en geniet daar zo lang mogelijk van. Elke dag is mee genomen. P.

    • Douwe schreef:

      Het jammere is alleen dat de elite en dan voornamelijk de tak die rijkelijk verdient aan het voeren van oorlogen het geen probleem lijkt te vinden een (paar) miljoen burgers om te laten komen in een oorlogje waarin ze nog wat meer grondstoffen voor zichzelf veiligstellen. Dit oorlogje spelen waarbij ze aan alle kanten geld verdienen doen ze toch ook al een tijdje. Hierbij maakt een mensenleven voor deze mensen echt niets uit althans die indruk krijg ik zo als je de boel bestudeerd.

      http://www.visionair.nl/ideeen/mensheid/het-militair-industrieel-complex/

      Maar goed dan blijft natuurlijk de vraag of je je moet laten verleiden tot hun spel te spelen van oorlog, moord, geweld en intimidatie. Ik denk persoonlijk van niet en ben het inhoudelijk dus wel met je eens Antares. Een vreedzame oplossing is altijd te verkiezen. Laten we alleen niet naïef zijn over om wat voor groep mensen het eigenlijk gaat en hoe zij zelf andere mensen zien en behandelen en hoe deze groep dit eigenlijk al eeuwen doet.

      Oplossingen of vooral richtingen voor oplossingen moet je volgens mij vooral zoeken in het decentraliseren en diversiviseren van geldsystemen. Het moet minder interessant worden en minder goed mogelijk worden om grote groepen mensen tegelijk te kunnen controleren via een geldsysteem. Dat loopt dus uiteen van sites als http://www.spullendelen.nl tot http://www.kickstarter.com en van letssystemen tot aan internationaal verhandelbare bitcoins.

      Maar bewustzijn is wel de eerste stap. Als mensen de problematiek snappen kunnen ze zelf op zoek gaan naar oplossingen/verbeteringen. En hoe meer mensen bewust zijn en meedenken hoe beter. :)

  14. Roeland schreef:

    Revoluties zijn er al heel veel geweest, maar een paradijs op Aarde hebben die revoluties niet gebracht. 
    Het probleem zit hem in de instincten en de aard van de individuele mens. Zolang het bewustzijn van mensen blijft zoals het is zal ook een revolutie geen verbetering brengen.
    Het wezenlijke probleem aanpakken is moeilijk want de resultaten van miljarden jaren aan evolutie veranderen is vrijwel onmogelijk.

  15. Roeland schreef:

    Hier een artikel met een interessant overzicht van de huidige stand van zaken met robots
    http://www.wired.com/gadgetlab/2012/12/ff-robots-will-take-our-jobs/
    (wel even de reclame wegklikken) die aan het begin zichtbaar wordt.
    Gewelddadige revoluties hebben de neiging om gevolgd te worden door een gewelddadig regime, dat zich niets aantrekt van wat voor rechtsregels dan ook.
    Hoe het dan wel moet. Ik weet het niet. Ik zie wel iets in flower power, zoals in de zestiger/zeventiger jaren. 
    Ik denk dat we geen verschil moeten maken tussen proces en doel. Als liefde het doel is dan moet het ook de weg er naar toe zijn.  
     

Geef een reactie

Advertisment ad adsense adlogger