Uitspraken van de pionier op het gebied van de artificial intelligence liegen niet er niet om: 'Ik ben zeer bezorgd over de gevolgen van het soort werk dat ik doe. In de tweede helft van deze nieuwe eeuw heeft dat verregaande, negatieve gevolgen voor de mensheid. Ik vrees voor de toekomst'. Bam! Een wetenschapper die met grote vreze vreest voor de gevolgen van zijn werk, dat hakt erin. En dat is nog zacht uitgedrukt. 'Ik wil alarm slaan voor een mogelijke gigadeath artilect war'.
Wie in vredesnaam is Hugo de Garis? Een gek, een science-fiction schrijver, een goeroe? Naar eigen zeggen is hij 'een wetenschapper, een profossionele onderzoeker, een sociaal activist, een schrijver en een sociaal criticus'. Studeerde theoretische natuurkunde in Sydney en kwam via allerlei omzwervingen ('zes landen') in Amerika terecht, bij de Utah State University. Daar doet hij onderzoek naar kunstmatige intelligentie, bouwt hij brainmachines en roept hij de mensen op na te denken over de gevolgen van AI's. Volgende week woensdag komt de man uit Utah naar de UT om op het symposium Brainstorm van studievereniging Inter-Actief (Informatica) zijn missie uit te dragen.
Waarom staat De Garis op om de mensheid te waarschuwen voor grote gevaren?
De meester legt uit en verwijst naar zijn boek Artilect War (2001). Daarin schetst hij hét dilemma van de 21e eeuw: 'Moet de mensheid artilects (artificial intellects) bouwen of niet?' De Garis, en met hem alle erkende geleerden op het gebied van AI, voorspellen met behulp van de wet van Moore dat het in twintig jaar tijd mogelijk moet zijn om chips uit te rusten met een geheugen van 1 bit per 1 atoom. De wet van Moore zegt immers dat de dichtheid van integrated circuits (ic's) ieder jaar verdubbelt, hetgeen van 1965 tot heden inderdaad het geval is geweest. Dit levert gigantische opslagcapaciteiten op waar we nu alleen nog maar van kunnen dromen.
Een andere revolutionaire ontwikkeling is de kwamtumcomputer, een razendsnelle machine. Volgens De Garis is het slechts 'een kwestie van tijd' voor alle conceptuele en praktische problemen zijn opgelost.
Een derde aspect is de toenemende kennis van de werking van het menselijk brein. 'Als we weten hoe de hersenen werken, verwacht ik een revolutie', stelt De Garis om aan te geven hoe belangrijk deze neurale kennis is.
Meng deze drie ingrediënten van de technologische toekomst in de hoofden van brainmakers, en je hebt alles wat je nodig hebt, aldus De Garis: 'Met de neurowetenschappelijke kennis die door nanotechnologische gereedschappen beschikbaar komt, plus de rekenwonderen die de kwantumcomputer en de 1 bit per atoom opslag ons leveren, zullen brainbuilders als ik waarschijnlijk alle ingrediënten bij de hand hebben, nodig om een werkelijk intelligente en bewuste machine te maken.'
Volgens de hoogleraar is die ontwikkeling een writing on the wall: 'Theoretisch klopt het met alle wetenschappelijke feiten, daar is de AI-top het over eens. Het is een kwestie van tijd voor dat dit praktijk wordt.' Nog deze eeuw, voorspelt De Garis, zullen de kunstmatige intellectuelen (artilects dus) triljoenen en nog eens triljoenen maal zo intelligent zijn als de mens. 'De mens streeft voortdurend naar onsterfelijkheid - en met deze bijna-goden zal hij die bereiken'.
En wat kan dat betekenen?
De Garis heeft verschillende scenario's uitgedacht, maar als hij realistisch moet blijven, is hij pessimistisch gestemd. 'Als wij de mug, een nanotechnologisch wonder in de natuur, al doodmeppen zodra die op onze arm zit, waarom zou de artilict dan niet een zelfde houding jegens de mens aannemen, en ons uitroeien? Met hun artilectual intelligentie zal dat 'as easy as pie' zijn.'
Maar het is niet zozeer dit gevaar dat de mensheid in de 21e eeuw bedreigt, nee, het is volgens De Garis de mens zelf die over deze ontwikkeling zó verdeeld raakt dat ze zichzelf uitroeit met 21e-eeuwse wapens. Hij voorziet dat er naar alle waarschijnlijkheid vóór- en tegenstanders van de artilects zullen verschijnen: 'De menselijke groep die vóór het bouwen van artilects is, noem ik de
'cosmists', gebaseerd op het woord 'kosmos' (universum, red.), dat hun perspectief op de vraagstelling reflecteert. Volgens de cosmists is het bouwen aan artilects als een soort religie, de bestemming van het menselijk ras. 'Een werkelijk grandioos en waardevol iets, de moeite waard om je leven en je energie aan te geven.' Volgens de cosmists is het niet bouwen van een artilect, het niet creëren van de volgende stap in de evolutie, kortom het bevriezen van zeg maar het menselijk niveau, een 'kosmisch' drama. De groep die tegen het bouwen van artilects is, noem ik de 'terrans', gebaseerd op het woord 'terra' (aarde) dat hun inwaartse blik, niet-kosmische perspectief weerspiegelt. De terrans zullen, verwacht ik, betogen dat het toestaan van de cosmists om hun artilects (in hoog geavanceerdevorm) te bouwen, impliceert dat de mens het risico accepteert dat de artilects op een dag kunnen beslissen dat het menselijk ras voor hun een pest is.'
Het gaat in dit debat om de dominantie van de soort, aldus De Garis. 'We zijn altijd gewend om de nummer één van de aarde te zijn, maar wie zegt dat zo zal blijven?' En tegelijk draait het om de grote vraag waar de grenzen van de techniek liggen. Wanneer stop je met ontwikkelen? En kan je überhaupt als mensheid besluiten om een bepaalde grens niet over te gaan?
De Garis noemt zichzelf cosmolist en houdt daar een dubbel gevoel aan over. 'Ik voel dat ik deel van het artilect probleem ben, omdat ik help ze te maken. Vroeg of laat zal de mensheid moeten kiezen: bouwen we ze, of bouwen we ze niet. Ik heb al gekozen. Ik denk dat we ze moeten bouwen. Het is net een soort religie voor me, en het zal voor miljoenen anderen ook zo zijn. Maar, veel mensen zullen falikant en murderously tegen zijn en wellicht een oorlog ontketenen om hun creatie tegen te gaan. Met 21e eeuwse wapens zal een nieuwe oorlog resulteren in 'gigadeath', en misschien wel de uitroeiing van de mens zelf.'
Kan De Garis nog wel slapen 's nachts?
Wie zijn website bekijkt, kan lezen dat hij nachten lang heeft liggen woelen en denken over de verschillende toekomstscenario's. Bovendien vreest hij voor het leven van zijn kleinkinderen die 'zijn'
doemscenario waarschijnlijk zullen meemaken. Toch blijft hij onverdeeld pessimist, onverdeeld cosmist, en onverdeeld wetenschapper. En misschien daarom wel de klokkenluider van de mensheid: 'Over vijf jaar is deze problematiek net zo bekend onder het publiek als destijds het gat in de ozonlaag.'
Zie ook de homepage van Hugo de Garis: http://www.cs.usu.edu/~degaris/
Voor meer informatie over het congres van Inter-Actief: http://www.brain-storm.nu
Bram Borkent
Hugo de Garis: ...onverdeeld pessimist, cosmolist en wetenschapper...
