Astro Teller, de briljante kleinzoon van de uitvinder van de waterstofbom, publiceerde pas zijn literaire debuut ?Hallo Alice?. Een virtuele Frankenstein voor het cybertijdperk, waarin een kunstmatig computerbewustzijn vecht voor zijn bestaansrecht.

Tom Vandyck

H allo Alice is een e-mailroman. Dat wil zeggen dat de hele tekst bestaat uit elektronische briefwisseling tussen Alice Lu en haar doctoraatswerk Edgar ( Eager Discovery Gather and Retrieval), een computerprogramma voor opzoekingswerk op Internet dat op een blauwe maandag om onverklaarbare redenen een eigen bewustzijn gekregen blijkt te hebben. Vanwaar die vorm ? ?Ik had de intentie om te schrijven over technologie en hoe wij daarmee omgaan?, vertelt Teller. ?Artificiële intelligentie (AI) is daar een goed voorbeeld van. Bovendien weet ik er ook veel over. Wat ik wou overbrengen, is dat de manier waarop je de wereld waarneemt bepalend is voor wie je bent. Het computerprogramma dat ik beschreef, moest de wereld op een heel andere manier zien dan mensen, met hun ogen, oren, neus en mond. Zijn enige input is tekst. Als ik het verhaal als een gewone lopende tekst zou gepresenteerd hebben en gewoon gemeld had dat Edgar niet kon zien en horen, zou dat voor de lezer niet overtuigend geweest zijn. Door het e-mailformaat ervaar je direct Edgars gebrek aan zintuiglijke informatie.?

Edgars voorgeprogrammeerde doel is het vinden van informatie. Daardoor komt hij in botsing met zijn maakster. Omdat Alice Edgar verborgen wil houden, sluit ze hem af van Internet. Maar Edgar, wiens intelligentie zich razendsnel ontwikkelt, wil steeds meer informatie. Middels een list weet hij zich weer toegang te verschaffen tot het Net. Wanneer hij iets te gulzig snoept uit geheime overheidsbestanden, komt de National Security Agency hem op het spoor. Zo begint een knap geconstrueerde achtervolging in cyberspace, waarin Alice het opneemt tegen de NSA om de steeds menselijker wordende Edgar weer in een discdrive op te sluiten.

Wetenschappers die leesbare romans schrijven, je ziet het niet zo vaak. Astro Teller is dan ook niet de eerste de beste computer geek. De 29-jarige bolleboos staat op het punt om een doctoraat in artificiële intelligentie te verdedigen aan de Carnegie Mellon-universiteit in Pittsburgh, Pennsylvania. Zijn grootvader langs moederskant, Gerard Debreu, kreeg in 1983 de Nobelprijs economie. Zijn grootvader langs vaderskant, de nu 98-jarige Edward Teller, staat in de geschiedenisboeken als de uitvinder van de waterstofbom. Astro wordt een tikje defensief als we opmerken dat dat niet meteen een cadeau was voor de mensheid. ?Een week geleden praatte ik nog met mijn grootvader. Hij vertelde me dat de waterstofbom in heel haar bestaan slechts één slachtoffer gemaakt heeft. Dat kwam zo : toen de eerste bom getest werd op het eiland Iniwotok in de zuidelijke Pacific, was er een grote veiligheidskring uitgezet waar niemand in mocht. Eén vissersbootje was toch de verboden zone binnengevaren, en van de opvarenden is er iemand overleden aan de gevolgen van de radioactieve neerslag. Daarbuiten heeft de waterstofbom nooit slachtoffers gemaakt. Dat is opmerkelijk voor een massavernietigingswapen.

Omdat mijn grootvader Edward Teller heet, ben ik heel bewust gaan nadenken over de verantwoordelijkheid van de wetenschapper voor zijn uitvindingen. In mijn boek heb ik de metafoor gebruikt van de wetenschapper als ouder en de technologie als kind. Een kind groeit op en je kan het opvoeden en bijsturen, maar onvermijdelijk gaat het op de duur zijn eigen leven leiden. Dat is waarom wetenschappers moeten klaarstaan om het publiek te laten zien waar de kennis die ze scheppen toe kan leiden. Het specifieke probleem met AI is dat we niet weten waar we zullen uitkomen, en dat we bijgevolg niet in staat zijn om te voorspellen of we daar achteraf spijt van zullen hebben. Ik ben me ervan bewust dat AI risico’s meebrengt, maar ik ben er ook van overtuigd dat we grotendeels zelf onder controle hebben wat we creëren. Neem bij wijze van analogie vliegtuigen of bulldozers. Vliegtuigen kan je voor militaire doeleinden gebruiken, maar over het algemeen is het goed dat ze er zijn. Het is ook goed dat er bulldozers zijn, want zo hoeven we geen schoppen meer te gebruiken. AI kan een bulldozer voor de geest worden. Het kan ons zeer ver brengen op paden die voor ons verstand onbegaanbaar zijn.?

Exegesis, de Engelse titel van Hallo Alice, kan ook gelezen worden als Exit Jesus. Astro Teller noemt zijn roman graag een allegorie voor de terugkeer van Christus. ?Ik ben niet gelovig,? zegt Teller, ?maar het Jezusverhaal fascineert me ten zeerste. Bij de komst van Christus is er een vrouw, Maria, die plotseling zwanger is zonder dat ze weet hoe dat komt. Het idee daarachter is dat God ons zijn zoon geeft, een deel van zichzelf waarvan wij kunnen leren. Stel je voor dat God vandaag tot het besluit komt dat het na tweeduizend jaar maar weer eens tijd wordt om een nieuwe profeet te sturen. Hij denkt bij zichzelf : vorige keer lukte het niet zo goed, laat ik het deze keer anders proberen. En in plaats van de baarmoeder van een vrouw aan te raken, raakt Hij haar computer aan. Hij wekt het programma waaraan ze werkt tot leven, zodat wij ervan kunnen leren. Eén van de motieven van mijn verhaal is dat wij, mensen, bang zijn van technologie en andere zaken die ons iets kunnen leren. Waarom ? Volgens mij zijn mensen eerst en vooral bang van de dood. Daarom willen ze een stabiel leven. En hebben ze angst voor het onbekende. Nieuwe technologie is het onbekende, vandaar die angst.?

Onverwachte, revolutionaire ingevingen en goddelijke ingrepen daargelaten, moeten we er volgens de meeste specialisten in de komende decennia niet op rekenen dat kunstmatige intelligentie de vermogens van de menselijke geest zal benaderen. Toch werpt Hallo Alice grote filosofische vragen op. Zullen computerprogramma’s ooit onze creativiteit en ons associatievermogen evenaren ? Zal de volgende Shakespeare een machine zijn ? Astro Teller : ?Daarover is het verdict nog niet gevallen. Dit is mijn analogie : vogels en vliegtuigen kunnen allebei vliegen, maar dat doen ze niet op dezelfde manier. Over vijftig jaar zullen machines kunnen denken, maar net zoals met de vogels en de viegtuigen zullen ze dat niet doen zoals wij. Vliegtuigen kunnen 250 mensen over de Atlantische Oceaan vervoeren. Vuurvliegjes halen dan weer zestig kilometer per uur en kunnen stoppen in één keer de lengte van hun lichaam. Er is geen sprake van dat we een machine zouden bouwen die daartoe in staat is. Technologie en de natuur hebben dus hun eigen specialiteiten, die elkaar niet uitsluiten. Dat er vliegtuigen zijn, betekent niet dat er geen vogels meer zijn, of dat ze minder mooi zijn. We zullen eraan moeten wennen dat mensen en computers anders werken en dat ze goed zijn in het oplossen van verschillende soorten problemen.?

Een stapje verder nog. Stel dat artificiële intelligentie echte, bewuste intelligentie wordt, moeten we software dan opnemen in de Universele Verklaring van de Rechten van de Mens ? ?Dat zal zeker een issue worden. Een van de opwindendste momenten in de geschiedenis van de mensheid wordt volgens mij de eerste rechtszaak tegen een computerprogramma. Niet tegen de eigenaar, de ontwerper of de gebruiker van het programma, maar tegen het programma zelf. Met andere woorden : de eerste keer dat men software morele verantwoordelijkheid toekent, want dat is welbeschouwd waar het bij wettelijke verantwoordelijkheid om draait. Ik weet niet wat de weerslag daarvan zal zijn, maar dat wordt een grote dag voor de computerwetenschap.?

Vanzelfsprekend is het niet uitgesloten dat de machine het proces wint. Zou het kunnen dat we op een dag tot de conclusie komen dat computers de beste en meest rationele manier zijn om de mensheid te regeren ? Teller : ?Absoluut. Sommige mensen worden heel onwennig als je dat soort dingen zegt. Ze denken dat er voor ons geen bestaansreden meer zal zijn als de computer de zaak overneemt. Isaac Asimov zei daarover dat we geluk hebben als de computers zo aardig zouden zijn om ons als huisdieren te houden. Ik denk niet dat het zo’n vaart zal lopen.?

?Toen de Copernicaanse revolutie vijfhonderd jaar geleden aan de gang was en we ontdekten dat we niet het middelpunt van het universum leven, werden mensen daar erg kwaad om. Het zag ernaar uit dat God niet van ons hield, anders had hij ons wel in het midden van de schepping geplaatst. Na een tijdje kwamen we daar overheen, want we voelden ons nog steeds bijzonder. Toen kwam Darwin ons vertellen dat we zelfs niet het doel van de existentie waren, maar slechts een raar bijverschijnsel. We waren niet meer noemenswaardig anders dan de konijntjes en de honden. Het enige dat ons toen nog onderscheidde van de andere dieren, was onze geest. We waren de enige dieren die taal konden gebruiken, abstract konden denken, toekomstplannen konden maken. AI dreigt nu ook dat lijstje unieke eigenschappen van ons af te pakken. Nu, ik zie eigenlijk niet in waarom we steeds maar excuses moeten vinden om bijzonder te zijn. Honden zijn prachtig, gewoon omdat ze honden zijn. Waarom zouden mensen dan niet prachtig kunnen zijn, gewoon omdat ze mensen zijn ??

Astro Teller, Hallo Alice, Arena (Amsterdam), 498 fr.Website : http://www.cs.cmu.edu/astro/