Welk mens moet een robot redden als twee mensen in gevaar zijn? Deze robot komt er niet uit…
Isaac Asimov’s Wetten van de Robotica
Science fiction liefhebbers kennen ongetwijfeld de onlangs overleden science fictionschrijver Isaac Asimov en zijn beroemde Drie Wetten van de Robotica, die door Asimov uitgesponnen werden in diverse puzzels in verhaalvorm. Deze wetten zijn:
Dit soort plaatjes van op hol geslagen robots waren erg populair in de SF van de jaren vijftig. Bron: Wikimedia Commons
1. Een robot mag een menselijk wezen geen leed aandoen, en niet toelaten dat een mens leed overkomt.
2. Een robot moet een gegeven bevel gehoorzamen, behalve als dit in strijd is met de Eerste Wet.
3. Een robot moet streven naar zelfbehoud, tenzij dit in strijd is met de Eerste of de Tweede Wet.
Robotethicus Alan Winfield van Bristol Robotics Laboratory, UK, bouwde een dergelijk dilemma na en keek zijn ogen uit. In zijn proefopstelling moest een robot twee ‘mensen’ redden. Een vereenvoudigde vorm van de Eerste Wet dus. Waar een mens snel willekeurig één mens had gered en dan de andere, verlamde het ethische dilemma de robot. Ondanks enkele successen faalde de robot in bijna de helft van de gevallen dat het experiment werd uitgevoerd.
Ethical robots save humans
Anno 2014 worden drones steeds massaler ingezet op het slagveld. Waar drones nu nog grotendeels door menselijke operators worden bestuurd, is het een kwestie van tijd, weinig tijd, voor volledig automatische ’terminator’ drones worden gebouwd die zelfstandig besluiten om te doden. Deze kunnen immers veel sneller reageren en hoeven niet van vele kilometers afstand aangestuurd te worden. Het ontwikkelen van een vorm van ethiek voor deze gevechtsrobots, of ze geheel uitbannen door middel van een internationaal verdrag, is daarmee geen overbodige luxe.
Robots en kunstmatige intelligentie worden steeds belangrijker in onze samenleving en zullen in de toekomst een nog grotere rol gaan spelen in ons dagelijks leven. Voordat het zover is zullen er nog wel de nodige uitdagingen moeten worden overwonnen.
Toch is het niet verkeerd om als visionair eens stil te staan bij een wereld waarin robots en kunstmatige intelligentie steeds belangrijker worden. En wat de mogelijke risico’s zijn. Iemand die daarbij zou kunnen helpen is de beroemde sciencefictionschrijver Isaac Asimov. Asimov was zich al vroeg van bewust van de potentie van robots en hield zich graag met dit onderwerp bezig.
In de jaren veertig van de vorige eeuw schreef hij al over robots in een serie van negen korte sciencefictionverhalen genaamd I, Robot. Een verhalenserie die eerst was verschenen in Amerikaanse tijdschriften en later als een bundeling in boekvorm. Jaren later is er ook een gelijknamige film gemaakt.
De wetten
In deze verhalenserie werd voor het eerst de drie robotwetten gepresenteerd die door Asimov zijn bedacht. Deze robotwetten (of correcter: de drie wetten van de robotica) vormen een belangrijk onderdeel van zijn robotverhalen.
Deze drie wetten zijn als volgt gedefinieerd [1]:
Eerste Wet
Een robot mag een mens geen letsel toebrengen of door niet te handelen toestaan dat een mens letsel oploopt.
Tweede Wet
Een robot moet de bevelen uitvoeren die hem door mensen gegeven worden,
behalve als die opdrachten in strijd zijn met de Eerste Wet.
Derde Wet
Een robot moet zijn eigen bestaan beschermen, voor zover die bescherming niet in strijd is met de Eerste of Tweede Wet.
In zijn latere robotverhalen heeft Asimov nog een extra wet toegevoegd, de Nulde Wet [1].
Nulde Wet
Een robot mag geen schade toebrengen aan de mensheid, of toelaten dat de mensheid schade toegebracht wordt door zijn nalatigheid.
Dit betekende ook een aanpassing van de drie andere wetten [1]:
Eerste Wet
Een robot mag een mens geen letsel toebrengen of door niet te handelen toestaan dat een mens letsel oploopt behalve als dit de Nulde Wet zou schenden.
Tweede Wet
Een robot moet de bevelen uitvoeren die hem door mensen gegeven worden, behalve als die opdrachten in strijd zijn met de Nulde Wet of de Eerste Wet.
Derde Wet
Een robot moet zijn eigen bestaan beschermen, voor zover die bescherming niet in strijd is met de Nulde, Eerste of Tweede Wet.
Deze wetten hadden en hebben nog steeds een grote invloed op het denken over hoe robots, zich in verhouding tot mensen, moeten gedragen. Je zou het de ultieme gedragsregels voor robots kunnen noemen. In veel boeken, films en andere media worden naar deze wetten verwezen.
Waarde voor visionairen
Ook voor visionairen is het handig om van het bestaan van deze wetten op de hoogte te zijn. En om ook eens goed na te gaan denken over wat kunstmatige intelligentie en robots voor ons kunnen gaan betekenen. De ontwikkelingen op dit gebied gaan snel en lijken niet meer tegen te houden. Daarom is het interessant om je als visionair eventueel ook met dit thema bezig te gaan houden. Hoe denken jullie over robots en kunstmatige intelligentie? En vormen de wetten der robotica een goede bescherming van het potentiële gevaar van robots tegenover de mensheid?
Misschien is het ook een aanrader om zelf de boeken van Asimov te gaan lezen om je verder te laten inspireren over dit thema en de bijbehorende vraagstukken.
