ai

Op 2 februari 2015 is er in Amsterdam een bijeenkomst van Singularity University Nederland over de ethische kanten aan de komst van niet-menselijke superintelligenties. Een goed moment om dieper op dit vraagstuk in te gaan. Hoe voorkomen we dat de mensheid, of grote groepen van de mensheid, worden gemarginaliseerd? En wat zijn de rechten van niet-menselijke zelfbewuste intelligenties?

Bovenmenselijke intelligentie van science fiction naar science fact
Computers kunnen steeds meer exclusief menselijke taken overnemen. In de jaren vijftig overtroffen computers de beste menselijke rekenaars. Begin deze eeuw hakte IBM-computer Deep Blue de regerend wereldkampioen schaken in de pan, een decennium later gevolgd door IBM Watson, die de twee beste menselijke spelers ooit van de Amerikaanse kennis- en inzichtquiz Jeopardy met gemak versloeg. Vertaalcomputers zoals Google Translate worden ook steeds beter, met nu al een niveau wat na enkele jaren taalonderwijs op de middelbare school wordt behaald. Kortom: het is nu zeker tijd, ons over de ethische vragen te buigen die superintelligentie met zich meebrengt.

Ethiek en niet-bewuste superintelligentie
Het is theoretisch zeker denkbaar, een supercomputer te construeren die sneller informatie kan verwerken dan een mens maar toch niet zelfbewust is. Deze computer zou door middel van programmering zo ingeperkt kunnen worden, dat deze zich alleen met een nauw-omlijnde taak bezighoudt. Er is een gedachtenschool die stelt, dat bewustzijn het gevolg is van complexiteit. Inderdaad zijn de diersoorten die tekenen van zelfbewustzijn vertonen, zoals hogere mensapen, de twee (of drie) olifantensoorten, walvisachtigen en papegaaiachtigen en ook enkele octopusachtigen, ook de diersoorten met het relatief grootste brein.

Computers met één, of een klein aantal, processorkernen zullen echter niet spontaan zelfbewustzijn ontwikkelen. Daarvoor zijn ze te gefocused op één taak. Bewustzijn vereist zelfreflectie.
Toch zijn er ook bij ‘autistische’, puur taakgerichte, kunstmatige intelligenties zoals de hedendaagse computers ethische problemen. Bij elke taak die van mensen wordt overgenomen, vermindert de behoefte aan menselijke arbeid. Er komen nieuwe banen bij die op een hoger niveau liggen, denk elektriciens die de gaslampaanstekers vervingen. Deze banen eisen meer scholing en intellectuele capaciteiten. Waar zwakzinnigen vroeger makkelijk aan het werk kwamen als bijvoorbeeld landarbeider, bordenwasser bij de lokale landheer of soldaat, moet een moderne boer of militair minstens MBO-4 scholing hebben, dus een IQ van minstens 90, om de geavanceerde apparatuur te kunnen besturen. En de grens is steeds meer aan het opschuiven. Sociale werkplaatsen zullen dus steeds meer de regel worden, uiteindelijk voor de meerderheid van de bevolking. De meeste mensen zullen dan leven als Eloi, terwijl een steeds kleiner groepje technische Morlocks de raderen draaiend houdt, tot ook de slimste mens plaatsmaakt voor een machine. Willen we dit scenario voorkomen, dan moeten we onze maatschappij radicaal anders in gaan richten. Waar overigens toch al het nodige voor te zeggen is.

Bewuste intelligenties
Bij bewuste intelligenties komen er nog ethische problemen bij. We creëren hier dan een wezen, dat net als een mens bewust is van de wereld om zich heen. Voegen we geen gevoel toe, dan ontstaat een psychopaat. Psychopaten met een bovenmenselijke intelligentie, niet gehinderd door de karakterzwakheden van menselijke psychopaten, kunnen -en zullen- de nodige ellende aanrichten. Zie de vele dystopische SF-films waarin een op hol geslagen machineintelligentie een hel op aarde creëert. Het enige alternatief is dan een soort Asimov’s Drie Wetten van de Robotica te creëren, die maakt dat ook een gevoelloze AI mensen niet schaadt.

Heeft de bewuste intelligentie wel gevoelens, dan hebben we in principe een mensachtig wezen geschapen, dat weliswaar anders denkt dan wij, maar wel degelijk menselijkheid met ons deelt. Hoe ethisch is het, een dergelijk wezen geen mensenrechten te geven? Knoeien met een dergelijke geavanceerde AI staat dan gelijk met het martelen van een mens. Een gebrekkig prototype van een dergelijke AI bouwen, en prototypes zijn per definitie gebrekkig, is dan het tot leven roepen van een geestesziek mens. Marteling dus. Kortom: een dergelijke kunstmatige intelligentie mag m.i. pas tot leven worden geroepen als we de menselijke geest van een vrijwilliger in een machine kunnen downloaden. Wat ook weer de nodige ethische problemen oplevert, maar wel het leven redt van deze vrijwilliger. Immers, een geest in een computer is niet onderworpen aan het biologische doodvonnis, dat alle mensen te wachten staat. Je kan je afvragen, hoe ethisch het is om niet met man en macht te werken aan het grootste probleem ooit: de dood.
Wat denken jullie?