Ethiek en de Singulariteit

Share Button

Op 2 februari 2015 is er in Amsterdam een bijeenkomst van Singularity University Nederland over de ethische kanten aan de komst van niet-menselijke superintelligenties. Een goed moment om dieper op dit vraagstuk in te gaan. Hoe voorkomen we dat de mensheid, of grote groepen van de mensheid, worden gemarginaliseerd? En wat zijn de rechten van niet-menselijke zelfbewuste intelligenties?


Bovenmenselijke intelligentie van science fiction naar science fact

Computers kunnen steeds meer exclusief menselijke taken overnemen. In de jaren vijftig overtroffen computers de beste menselijke rekenaars. Begin deze eeuw hakte IBM-computer Deep Blue de regerend wereldkampioen schaken in de pan, een decennium later gevolgd door IBM Watson, die de twee beste menselijke spelers ooit van de Amerikaanse kennis- en inzichtquiz Jeopardy met gemak versloeg. Vertaalcomputers zoals Google Translate worden ook steeds beter, met nu al een niveau wat na enkele jaren taalonderwijs op de middelbare school wordt behaald. Kortom: het is nu zeker tijd, ons over de ethische vragen te buigen die superintelligentie met zich meebrengt.

In een wedstrijdje Jeopardy, met dubbelzinnige vragen, kraakte Watson de menselijke concurrentie. Verliezer Jennings bleek sportiever dan de verpletterde menselijke schaakgrootmeester Kasparov.

In een wedstrijdje Jeopardy, met dubbelzinnige vragen, kraakte Watson de menselijke concurrentie. Verliezer Jennings bleek sportiever dan de verpletterde menselijke schaakgrootmeester Kasparov.


Ethiek en niet-bewuste superintelligentie

Het is theoretisch zeker denkbaar, een supercomputer te construeren die sneller informatie kan verwerken dan een mens maar toch niet zelfbewust is. Deze computer zou door middel van programmering zo ingeperkt kunnen worden, dat deze zich alleen met een nauw-omlijnde taak bezighoudt. Er is een gedachtenschool die stelt, dat bewustzijn het gevolg is van complexiteit. Inderdaad zijn de diersoorten die tekenen van zelfbewustzijn vertonen, zoals hogere mensapen, de twee (of drie) olifantensoorten, walvisachtigen en papegaaiachtigen en ook enkele octopusachtigen, ook de diersoorten met het relatief grootste brein.

Computers met één, of een klein aantal, processorkernen zullen echter niet spontaan zelfbewustzijn ontwikkelen. Daarvoor zijn ze te gefocused op één taak. Bewustzijn vereist zelfreflectie.
Toch zijn er ook bij ‘autistische’, puur taakgerichte, kunstmatige intelligenties zoals de hedendaagse computers ethische problemen. Bij elke taak die van mensen wordt overgenomen, vermindert de behoefte aan menselijke arbeid. Er komen nieuwe banen bij die op een hoger niveau liggen, denk elektriciens die de gaslampaanstekers vervingen. Deze banen eisen meer scholing en intellectuele capaciteiten. Waar zwakzinnigen vroeger makkelijk aan het werk kwamen als bijvoorbeeld landarbeider, bordenwasser bij de lokale landheer of soldaat, moet een moderne boer of militair minstens MBO-4 scholing hebben, dus een IQ van minstens 90, om de geavanceerde apparatuur te kunnen besturen. En de grens is steeds meer aan het opschuiven. Sociale werkplaatsen zullen dus steeds meer de regel worden, uiteindelijk voor de meerderheid van de bevolking. De meeste mensen zullen dan leven als Eloi, terwijl een steeds kleiner groepje technische Morlocks de raderen draaiend houdt, tot ook de slimste mens plaatsmaakt voor een machine. Willen we dit scenario voorkomen, dan moeten we onze maatschappij radicaal anders in gaan richten. Waar overigens toch al het nodige voor te zeggen is.

Als wij mensen niet met de techniek versmelten, maar ons juist laten pamperen, veranderen we in een soort Eloi.

Als wij mensen niet met de techniek versmelten, maar ons juist laten pamperen, veranderen we in een soort Eloi.

Bewuste intelligenties
Bij bewuste intelligenties komen er nog ethische problemen bij. We creëren hier dan een wezen, dat net als een mens bewust is van de wereld om zich heen. Voegen we geen gevoel toe, dan ontstaat een psychopaat. Psychopaten met een bovenmenselijke intelligentie, niet gehinderd door de karakterzwakheden van menselijke psychopaten, kunnen -en zullen- de nodige ellende aanrichten. Zie de vele dystopische SF-films waarin een op hol geslagen machineintelligentie een hel op aarde creëert. Het enige alternatief is dan een soort Asimov’s Drie Wetten van de Robotica te creëren, die maakt dat ook een gevoelloze AI mensen niet schaadt.

Heeft de bewuste intelligentie wel gevoelens, dan hebben we in principe een mensachtig wezen geschapen, dat weliswaar anders denkt dan wij, maar wel degelijk menselijkheid met ons deelt. Hoe ethisch is het, een dergelijk wezen geen mensenrechten te geven? Knoeien met een dergelijke geavanceerde AI staat dan gelijk met het martelen van een mens. Een gebrekkig prototype van een dergelijke AI bouwen, en prototypes zijn per definitie gebrekkig, is dan het tot leven roepen van een geestesziek mens. Marteling dus. Kortom: een dergelijke kunstmatige intelligentie mag m.i. pas tot leven worden geroepen als we de menselijke geest van een vrijwilliger in een machine kunnen downloaden. Wat ook weer de nodige ethische problemen oplevert, maar wel het leven redt van deze vrijwilliger. Immers, een geest in een computer is niet onderworpen aan het biologische doodvonnis, dat alle mensen te wachten staat. Je kan je afvragen, hoe ethisch het is om niet met man en macht te werken aan het grootste probleem ooit: de dood.
Wat denken jullie?

Share Button

Germen

Hoofdredacteur en analist (Visionair.nl) Expertise: biologische productiesystemen (master), natuurkunde (gedeeltelijek bachelor), informatica

Dit vind je misschien ook interessant:

5 reacties

  1. mike schreef:

    ik begrijp niet dat mensen het altijd over ethisch hebben
    ik vind het tijdverspilling want dingen gebeuren toch wel ethisch of niet

  2. Rob schreef:

    Wat is ethisch… en wat is emotie? En vergeet ook intuïtie niet in dit rijtje. Slechts tools wanneer onze rekenkracht het laat afweten. Of een tool wanneer er niet te rekenen is. Dus individueel belang versus groepsbelang. Voortbestaan van jezelf of van je genen. Dan is er nog een ander element. Leren door middel van een pijn of plezierprikkel. Dus naast intelligentie is het doel van de computer belangrijk. De mensheid beheersen of ondersteunen, het heelal veroveren, de hemel op Aarde scheppen als ideale leefomgeving voor de mens…. en dan nog… wat is het belang van de computer zelf en wat zijn haar prikkels. Uiteindelijk zou je met super rekenkracht en taakstelling emotie, intuïtie en ethiek overbodig kunnen maken. Want zuiver weten kent geen onzekerheid en keuzemogelijkheden.

  3. Rob schreef:

    Daarnaast ook. Gaat de computer zichzelf voortplanten/verbeteren, als individu of als soort. Gezien alle levensvormen en natuurkundige processen uit zichzelf experimenteren zal de voortplantende soort vanzelf ontstaan. Dan maar hopen dat deze er zorgvuldiger mee omgaat dan wij met onze koeien en kippen.

  4. Robert Nahar schreef:

    Ethiek is altijd al maakbaar geweest en zal zich altijd aanpassen aan de (technologische) ontwikkelingen. Omdat je het laatste nooit meer kan tegenhouden (het menselijke vernuft is ‘unleashed’) zal je ethiek of moeten aanpassen of overboord moeten gooien.
    Aldus: geen probleem.

Geef een reactie

Het e-mailadres wordt niet gepubliceerd. Verplichte velden zijn gemarkeerd met *

Advertisment ad adsense adlogger