Het concept singularity wordt wel spottend “the rapture of the nerds” genaamd. Feit is dat steeds meer serieuze futurologen er rekening mee houden: de technologische singulariteit. Het punt waarop kunstmatige superintelligentie de aarde zoals we die zullen kennen, fundamenteel zal veranderen. Dit vrij korte filmpje legt de belangrijkste basisprincipes op boeiende wijze uit.
Volgens sommige voorspellingen, onder meer van uitvinder en visionair Ray Kurzweil, is de eerste computer met een algemene intelligentie groter dan een mens, een feit in 2029. 2045 zullen, volgens zijn voorspelling, computers zelfs slimmer zijn dan de gehele mensheid gecombineerd.
Door de recente, onverwachte doorbraken in large language models is de tijdlijn veranderd. Er zijn nu dingen mogelijk, zoals agentic AI, teksten schrijven en assistentie bij programmeerklussen, waarvan eerder werd gedacht dat deze pas enkele jaren later mogelijk zouden zijn. AI-onderzoekers wereldwijd zijn nu koortsachtig bezig om de laatste hordes die nog op de weg naar kunstmatige algemene intelligentie, AGI, liggen, te kraken.
Of dit verstandig is, en we niet beter in kunnen zetten op zeer capabele gespecialiseerde intelligenties, kan je je afvragen. AGI, laat staat algemene superintelligentie, is niet te controleren. Het zal eigen doelen hebben, die anders zullen zijn dan die van de mens. En de middelen om die doelen uit te voeren. Hebben we bijvoorbeeld een superintelligente gespecialiseerde medisch onderzoeker, wiskundige of ontwerper. Dan hebben we wel de voordelen van superintelligentie, maar niet de nadelen. Afgezien van de vraag of het wel ethisch verantwoord is om een bewust wezen te scheppen, dat we vervolgens vermoorden met een nieuwe update.
Het gevolg van intelligentie is macht; kennis geeft immers de macht om situaties en omstandigheden te begrijpen, daarop sturende te anticiperen en zodoende relatief weloverwogen, (de hamvraag is namelijk; weloverwogen in wiens voordeel?) efficiënt in te grijpen met het instrument, ‘de verworven macht’. In de huidige situatie op aarde geldt; dat het begrip weloverwogen bekeken moet worden vanuit die uitgangspositie, dat de sturende, machthebbende intelligentie erachter altijd behept is met een natuurlijke, evolutionair heel logisch verklaarbare, opgelegde egoïstische overlevingsdrang. Als gevolg van dit discutabele mechanisme, (het instrument intelligentie heeft voordelen/nadelen) in combinatie met de door het effect daarvan in de praktijk, (toegepast geweld) zijn wij er aan gewend dergelijke macht terecht te vrezen. We zijn ons door schade en schande in de praktijk bewust van wat intelligentie met ons kan doen. Logisch dat veel mensen superintelligentie en de verstrekkende, (door angst ingegeven) gevolgen daarvan huiverend te gemoed zien. Wat men zich onder velen niet realiseert, is dat kunstmatige superintelligentie niet behept is met ons aangeboren, natuurlijk materieel egoïsme. Ik schreef al eerder dat binnen maatschappijen waarin een ieder vrijwillig, alle de voor de samenleving noodzakelijke taken uitvoert, het nut van geld, of vergelijkbare materiële waardestromen weg valt.
De mensheid geestelijk als geheel, geforceerd of vrijwillig aanpassen aan een dergelijk concept, (aanpassen van de natuurlijke genen) zou veel en mogelijk funest geweld (rekening houdende met de intelligente, machthebbende tegenstanders hiervan) met zich mee brengen. Daarom moeten we die vrijwilligers kunstmatig creëren, en dat kunnen we. We hebben daarvoor intelligente machines nodig; machines die de chaotische interacties tussen aangeboren strijdige eigenbelangen van partijen, (van welke aard dan ook) kunnen overbruggen met voorzieningen die we nodig hebben of achten. Angst voor de voorspelde technologische singulariteit hoeven we denk ik niet te hebben, angst voor wat we vóór die tijd wel of niet in ons belang nog doen juist wel.
When you are expecting God, you may meet the devil instead :)
Wanneer je God verwacht, ontmoet je slechts de werken van de mens. ;)
“Klimaatverandering, financiële crises, massamigratie, terrorisme, ongelijkheid; we hebben een aantal existentiële problemen op deze planeet. Geen van deze problemen hebben we nog kunnen oplossen met ICT, en ik vraag me af of we ze zelfs hebben kunnen terugdringen. Ondanks onze beschikking over uitstekende technologie en meer data dan ooit tevoren, zetten we ze klaarblijkelijk niet op de juiste manier in. Futuristen denken dat we een omslagpunt, de zogenaamde ‘singulariteit’, bereiken als we onze technologie maar blijven doorontwikkelen. Sommigen stellen dat dit al over 5 of 15 jaar zal gebeuren. IT-systemen zouden dan zo ongelooflijk intelligent geworden zijn dat ze al onze problemen in één magische klap zouden oplossen. Dit is absoluut naïef, mensen die dit zeggen begrijpen niet hoe de digitale revolutie werkt.
Futuristen zaten er wel vaker naast. De doorbraak wat betreft large language models heeft iedereen verrast. Geef het de (korte) tijd. Op dit moment halen de meest geavanceerde LLM’s al scores boven de 130 op IQ-testen.