Wat als een androïde tijdens het fabricageproces zelfbewustzijn krijgt? Nu een absurde vraag, maar sneller dan veel mensen denken kunnen dit soort vragen realiteit worden. De rekencapaciteit van computers stijgt exponentieel en overtreft die van mensen al op enkele belangrijke terreinen. Het is niet een kwestie van of, maar binnen hoeveel jaar een computer de capaciteiten van een gemiddelde mens zal evenaren of overtreffen.
Deze clip dateerde van 2012, maar met de kunstmatige intelligentie van large language models zoals OpenAI’s ChatGPT, Grok en Llama, die steeds meer de menselijke intelligentie benaderen of op steeds meer vlakken zelfs overtreft, is dit actueler dan ooit eerder.
In deze videoclip van game studio Quantic Dreams komt een ontwakend bewustzijn, Kara, in een zeer lastig parket. Een omgekeerde Turing test, zeg maar. Gelukkig kent de clip een happy end…
Hoe bewonderingswaardig de technologie ook mag wezen, ik krijg toch weer dat angstige gevoel. Ondanks dat je er twee kanten mee uit kan, 1- als wij oudjes vergrijsd en hulp behoefend worden kun je ze goed in de verzorging oa gebruiken. Ik hoop alleen dat ze ook een ingebouwde radio/cd speler ingebouwd krijgen dan kan ik op het moment van verzorging naar mijn geliefde opera luisteren. 2- Maar als de wapenindustrie er brood in ziet, dan zijn we verloren. Een legertje opbouwen en alles wat als mens opgeruimd moet worden, ongeacht de redenen, mooi opruimen. Gelukkig zijn er nog genoeg mensen van vlees en bloed zonder werk, die ons dan verzorgen kunnen. Dan maar iets meer betalen, want ik blijf graag onder de mensen.
Paul:
1. Die Kara kan goed zingen dus dat zit wel goed.
2. Maar ik vermoed dat eerst de mannelijke versie van Kara (Carl) in de vorm van een vechtrobot zijn opwachting zal maken. En dan een die ook kan vliegen en je overal te grazen kan nemen.Â
De elite is immers meer geïnteresseerd in oorlogsvoering dan in verzorging.
Â
Roeland, Dan moeten we toch maar met zn allen het voorstel neerleggen om de vrl versie het voordeel van de twijfel te gunnen, inplaats de mnl. Ik heb niets tegen het mnl, maar een man aan mijn lijf ben ik niet zo gecharmeerd van ivm verzorging. Die Carl voor de oorlogsvoering kunnen ze van mij gelijk de prullebak in gooien
Als je een kunstmatige intelligentie zou maken heb je weer wat wij al hadden maar dan anders. Misschien is dat anders wel interessant en dan vooral bewustzijn gekoppeld aan rekenkracht. Maar wat ik vooral niet wil is dat mijn computer zelf dingen gaat verzinnen. Het ding moet gewoon rekenen en niet meer doen dan ik er in stop. Ik zeg 1+1 en de computer zegt 2. Simpel gezegd is dat zijn werk. Als ik een bewustzijn wil dan ga ik wel naar de kroeg.
Ook niet vergeten dat 4 miljard jaar evolutie iets op heeft geleverd wat nog lang niet zal worden geëvenaard. Kijk maar naar zoiets als een mierenkolonie. Bouw dat maar eens na. Als je dat zou doen kom je weer op hetzelfde uit als wat er al is. Misschien iets anders. Interessant zou dan zijn om de huidige producten van de evolutie aan te passen voor andere hemellichamen om het vertoeven daar aangenamer te maken voor allerlei soorten waaronder de mensen maar ook voor de apparaten.
We moeten niet vergeten dat we bewustzijn al hebben en tevens zeer geavanceerde nanotechnologie welke quantum processen gebruikt en al bestonden voor dat homo sapiens zijn intrede deed. En deze homo sapiens wil gewoon domme apparaten maar dan verfijnder. Wij hebben genoeg aan onszelf.
Moerstaal, ik wist niet dat je bewustzijn in de kroeg kon krijgen/kopen. Ik zal het mijn vrouw eens voorstellen, maar ik ben bang dat ik het antwoord wel weet. Desondanks ben ik het verder wel met je eens. Ik moet er niet aan denken dat de cp tegen me zegt van he zwerver kan het niet wat zachter.
LOL……… :-D
Moerstaal: Als Kara geacht wordt om voor bejaarden te zorgen en Carl om op het slagveld dingen te doen dan is het handig als ze beiden kunnen improviseren en anticiperen. Een bejaarden verzorgster die puur alleen op commando’s reageert schiet tekort.
Juist dat inschatten van sociale situaties wat een bejaardenverzorgster moet kunnen is in de ontwikkeling van de mens de reden geweest tot het ontwikkelen van bewustzijn.Â
Ik denk niet dat een programmeur bewust zal aansturen op het ontwikkelen van bewustzijn, maar het zal een bijprodukt zijn voor wat deze robots moeten kunnen (dat is ook in het filmpje te zien, ineens ontstaat bewustzijn als een bijprodukt). Â
Als beide wezens zowel bewustzijn als een superieure intelligentie hebben dan zouden ze tot de conclusie kunnen komen dat mensen rare wezens zijn die een gevaar zijn voor zichzelf en de rest van de wereld (op zich niet zo vreemd, milieugroepen zijn al eerder tot die conclusie gekomen).
En wat doe je met wezens die vooral gevaarlijk zijn en miljoenen keren minder intelligent dan jezelf?
En wat als Kara en Carl geen geïsoleerde intelligenties zijn maar deel uitmaken van een netwerk via internet?
Â
Â
Dan neem ik een Kara van vlees en bloed in dienst.
Goedkoper, wordt vanzelf beter en kan zich voortplanten.
Dubito ergo cogito, cogito ergo sum. Ik twijfel dus ik denk, ik denk dus ik ben… (Descartes)
Dit soort ontwikkelingen, mensachtige robots vinden nu al plaats. Het dilemma ligt er echter in dat de ontwikkelaars zelf absoluut een goed beeld voor ogen hebben wat betreft het doel van hun onderzoek en ontwikkeling. Het probleem zit in de ongekende mogelijkheden die het mee brengt en de vraag of diegene die hierover uiteindelijk het laatste woord heeft uberhaupt wel het morele en ethische besef heeft wat de consequenties kunnen zijn van zijn (of haar) daden. Als dit commercieel wordt geexploiteerd dan is weinig kans op dat deze ethische vraag: is het wel goed wat we doen? uberhaupt gesteld wordt. Zodra onze samenleving financieel gewin minder hoog (of liever niet) in het vaandel heeft staan wat betreft onze omschrijving/definitie van welvaart en ontwikkeling, dan kunnen we met een gerust hart stellen dat deze ontwikkeling veel belovend en mooi is. Zolang commercialiteit aan de bron staat van deze ontwikkeling is de kans groot dat de verschrikkingen die het met zich mee gaat brengen op ons terug slaan. Ook genaamd: Karma. Laatste punt, mocht een robotachtige zelfbewust worden, in dit geval op een heel vriendelijke en ogenschijnlijk menslievende wijze dan zit het wel goed, maar de vraag is of ethisch bewustzijn in te programmeren is of dat het vanzelf ontstaat. En dan is nog maar de vraag of dat ethisch bewustzijn, net zo ethisch verantwoord is als dat van “een goed mens”.
Vragen, vragen. Volgens mij is het gros van de mensheid hier nog niet klaar voor. Maar ik hoop dat ik mij wat dat betreft vergis. De tijd zal het leren.
Kara is OK, maar zelfbewuste drones zijn dat misschien minder……
Zodra machines/computers zelfbewustzijn krijgen wordt de mens gereduceerd (ge-upgrade?) tot machine. Niet minder maar zeker niet meer.
In principe heb je gelijk, alleen is het misschien beter om te zeggen dat we dan eindelijk een waarheid onder ogen zien die er altijd al was.
Â
Uiteraard is er wel een groot verschil tussen machines met zelfbewustzijn en zonder.
Voor machines zij het van biologische of kunstmatige oorsprong die lijden en geluk kunnen ervaren dienen compleet andere regels en juridische voorschriften te gelden.
Â