militair

Hawking: wereldwijd verbod op AI-wapens redt mensheid

Worden we op een dag opgejaagd door bewapende drones en killer robots, die de mensheid tot de laatste sterveling uitroeien? Een aantal vooraanstaande wetenschappers en ondernemers, waaronder Hawking, Musk en Chomsky spreken hun zorg uit over de mogelijkheid dat kunstmatige intelligentie in aanvalswapens wordt ingezet. Ze pleiten voor een internationaal verbod.

Hun oproep komt mijns inziens geen dag te vroeg. De ontwikkeling van kunstmatige intelligentie gaat snel en volgde in het verleden ruwweg de schatting, die Ray Kurzweil maakte op basis van de Wet van Moore. Kurzweil schat dat tegen 2030 een consumentencomputer van duizend dollar evenveel informatie kan verwerken als het menselijk brein en als het effectief geprogrammeerd is, de geestelijke capaciteiten van de mens kan evenaren. hawking

Stel je voor: een soldaat met de vastberaden wil om te doden, zonder enig medegevoel of geweten, een reactiesnelheid die duizenden malen hoger is dan die van een mens. Bovendien zo slim, dat hij iedere vijand te slim af kan zijn. Een kwaadwillende, bewapende kunstmatige intelligentie (en let’s face it: wapens worden ontwikkeld om de vijand uit te moorden, dus weaponized AI is zo kwaadaardig als je je logischerwijs voor kan stellen) kan heel wat kwaad aanrichten. Waarschijnlijk zelfs zoveel kwaad, dat het voortbestaan van de mens, of zelfs het leven op aarde wordt bedreigd.

Voor een fractie van het filmbudget probeert Darpa nu Avatar werkelijkheid te laten worden met robots.

Pentagon werkt aan humanoïde robotsoldaat

Geen dolgedraaide veteranen meer met een Vietnamsyndroom of in een rolstoel op Occupy betogingen. Welke generaal droomt niet van een oorlog waarbij aan zijn kant geen mensenlevens te betreuren zijn? DARPA, de onderzoekspoot van het Amerikaanse ministerie van Defensie, werkt nu aan een op afstand bedienbare humanoïde infanteriesoldaat. Maar zou het daarbij blijven?

Voor een fractie van het filmbudget probeert Darpa nu Avatar werkelijkheid te laten worden met robots.
Voor een fractie van het filmbudget probeert Darpa nu Avatar werkelijkheid te laten worden met robots.

Avatar wordt realiteit
In het -zwaar gekortwiekte- defensiebudget voor 2012 is 7 miljoen dollar (5,4 miljoen euro) vrijgemaakt voor een project met de codenaam Avatar. Het uiteindelijke doel van het project komt opmerkelijk dicht in de buurt van het plot van de gelijknamige, heel wat kostbaarder Hollywood-kaskraker. Volgens DARPA is het doel van project Avatar: “het ontwikkelen van interfaces en algoritmes om een soldaat in staat te stellen effectief partner te worden met een semi-automatische tweebenige machine en deze in te zetten als surrogaat voor de soldaat.”

Deze robots moeten slim en wendbaar genoeg zijn om het slagveld te overleven, aldus Darpa. Dit betekent “het terrein inspecteren op bedreigingen, op wacht staan en het verklegen van gewonden in het gevecht.” Dit alles op instructie van hun menselijke partner.

Logische opvolger robothond en fysieke nabootsing menselijk lichaam
Dit is minder vreemd dan het lijkt. Dit project is namelijk de logische vervolgstap in de robotresearch van Darpa. Zo is in opdracht van de onderzoeksorganisatie al Petman,  een hoofdloze humanoïde robot ontwikkeld die de lichamelijke eigenschappen (lichaamsbouw) van een menselijke soldaat nabootst en AlphaDog, een robotisch lastdier, bedoeld om tijdens gevechten zware goederen te verslepen. Een video van AlphaDog in actie hieronder.

Darpa wil dat Alphadog zich meer als een hond gedraagt, waaronder het achterna lopen van hun menselijke meester en het reageren op gesproken bevelen. Het lijkt er echter op dat het hier niet bij blijft. Onderdeel van het Avatar-project is namelijk “essentiële vorderingen in telepresence en besturing van veraf van een grond-gebaseerd systeem”.

Darpa geeft niet aan hoe ze dit willen bereiken, maar Darpa heeft al eerder succesvol onderzoek gesponsord naar robots die door middel van gedachten worden bestuurd. Toegegeven, het ging hier om de gedachten van apen, maar het is goed denkbaar dat op een dag een robotsoldaat in bijvoorbeeld Afghanistan echt met gedachtenkracht wordt bestuurd en de arm van de robot bewegen als ze hun eigen arm willen bewegen.

Laten we hopen dat Darpa zich alleen laat inspireren door goedaardige science fiction films en niet bijvoorbeeld een robot gaat ontwikkelen die zich in de kleine hersenen van vijandelijke soldaten ingraaft om hun lichaam over te nemen.

In de Terminator filmreeks zaaien militaire robots met ingebouwd brein dood en verderf. IBM heeft nu een chip ontwikkeld die hierin toegepast kan gaan worden.

Komt Skynet er aan?

IBM ontwikkelde een nieuwe chip, vergelijkbaar in structuur en maar iets minder complex dan het menselijk brein. Gefinancierd door de onderzoekspoot van het Pentagon. Moeten we ons zorgen maken?

In de Terminator filmreeks zaaien militaire robots met ingebouwd brein dood en verderf. IBM heeft nu een chip ontwikkeld die hierin toegepast kan gaan worden.
In de Terminator filmreeks zaaien militaire robots met ingebouwd brein dood en verderf. IBM heeft nu een chip ontwikkeld die hierin toegepast kan gaan worden. Bron: wikia.com

Aardworm-brein
De microchip is met 256 ‘neuronen’ ongeveer zo slim als een aardworm. Niet erg indrukwekkend vergeleken met de razendsnelle processoren van nu, maar anders dan een ‘gewone’ chip, gedraagt de chip zich als een biologisch brein, waardoor speciale capaciteiten van het menselijk brein kunnen worden nagebootst.  Binnen het brein werkt elk geheugenelement ook als processor (net als de neuronen in onze hersenen). Rekenen en geheugen zijn daardoor met elkaar vervlochten. Elk ‘neuron’ is gekoppeld aan meerdere andere, waardoor een neuraal netwerk ontstaat. De sterkte van deze verbindingen verandert (net als in neuronen) continu naarmate het kunstmatige brein leert. Dit proces is essentieel voor leren en geheugen en precies dit is wat de onderzoekers wilden nabootsen in silicium hardware. Weliswaar bestaan er software-emulaties van neurale netwerken, maar deze zijn hopeloos traag. Alles moet dan toch nog langs de ene – overwerkte – processor en databus van een computer. Die software-emulatie is bij deze nieuwe chip door de in de hardware ingebakken parallelle verwerking niet meer nodig.

Kunstmatig brein zo groot als dat van een mens?
De onderzoekers van IBM claimen dat ze twee chips hebben gebouwd die informatie verwerken zoals een biologisch zenuwstelsel dit doet. Het bedrijf plant nu de volgende stap: uit deze prototype chips een computer zo groot als een schoenendoos samenstellen, die ongeveer half zo complex is als het menselijk brein en een kilowatt vermogen verbruikt (een broodrooster of stofzuiger). Ter vergelijking: ons brein doet het met een vijfentwintigste hiervan. De chip is ontwikkeld in samenwerking met DARPA en verschillende universiteiten.

In één experiment leerde de chip het (inderdaad niet bijster ingewikkelde videospelletje) Pong, in een ander experiment leerde deze om een auto op een racecircuit te laten rijden. In een derde experiment leerde de chip om plaatjes te herkennen. Alle drie zijn taken die zeer lastig met een standaard-architectuur computer zijn uit te voeren (het is mogelijk, maar vereist ingewikkelde programmatuur).

Inzet bij het leger
Het Amerikaanse leger is de grootste financier van dit onderzoek. De kans is dus erg groot dat deze chips vroeg of laat een militaire toepassing gaan krijgen. Ze zijn uiteraard ideaal voor de chaotische omstandigheden van een oorlog, waarin patroonherkenning essentieel is. De kans is dus zeker aanwezig dat ze in Predators en andere robotvoertuigen ingebouwd zullen gaan worden. Liefhebbers van science fictionfilms kennen van de Terminator reeks ongetwijfeld het computernetwerk Skynet, dat in opstand komt en de mensheid probeert uit te roeien.  De grote kracht van neurale netwerken, hun flexibiliteit, is tegelijkertijd ook een groot nadeel. We kunnen niet met volledige zekerheid voorspellen wat ze gaan doen.
De Amerikanen zullen hopelijk niet zo stom zijn om hun gehele commando-infrastructuur in handen van een neuraal netwerk te stellen, maar ook een op hol geslagen Predator of gevechtsrobot, geprogrammeerd met de paranoïde mindset van een militair, kan een hoop ellende aanrichten. Zeker als deze geladen is met atoomwapens.

Bronnen:
onder andere IBM’s New Chips Compute More Than We Do- Technology Review (2011)

 

Het geheim van Area 51 eindelijk ontrafeld?

Area 51. Al lang (met het plaatsje Roswell in New Mexico) het centrum van de Amerikaanse UFO-cultus. Volgens samenzweringstheorieën zou de Amerikaanse luchtmacht over buitenaardse technologie beschikken, die voor de rest van de mensheid verborgen wordt gehouden. Voor het eerst lichten de Amerikanen nu een stukje van de sluier op.

De supergeheime militaire basis Groom Lake Test Site, ons beter bekend als Area 51, is al decennia lang het onderwerp van speculaties over UFO’s en buitenaardsen. Daar heeft de ontkenning van het bestaan van de militaire basis door de Amerikaanse overheid (tot 13 juli 2003) zeker toe bijgedragen. Dat de militaire basis wel degelijk bestaat wordt nu nogmaals bevestigd door de publicatie van gedeclassificeerde foto’s uit 1963 over een crash van een militair toestel.

National Geographic schrijft in een bericht dat Area 51 gecreëerd werd zodat Amerikaanse ‘Cold Warriors’ met de hoogste security clearance in het grootste geheim luchtvaartprojecten konden uitwerken. Eén van die projecten was de Lockheed A-12, een eenpersoonsverkenningsvliegtuig dat zo snel vloog dat het vliegtuig het Amerikaanse continent in 70 minuten kon overvliegen. Waarschijnlijk te snel voor zijn tijd, want in 1963 crashte de A-12 bij het verlaten van Area 51. Vrijgegeven foto’s moeten dienen als bewijsmateriaal voor die stelling.

Volledige artikel:
Grenswetenschap (Thomas Renneboog)