Proza, Recensies

Ik ben ook maar een algoritme

De onvolmaakten

Ewoud Kieft

Artificial intelligence heeft de boekenwereld bereikt – letterlijk. Het gloednieuwe Bot Uitgevers voorzag zijn eerste uitgave prompt van een omslag en titel die met behulp van kunstmatige intelligentie waren gefabriceerd. Afgaande op De onvolmaakten, de debuutroman van Ewoud Kieft, is dat echter pas het begin. Volgens de auteur staan we op de drempel van een wereld waarin bijna alles door kunstmatige intelligentie gestuurd en gereguleerd zal worden. In zijn dystopische roman, die zich rond het jaar 2060 afspeelt, roept Kieft prangende vragen op: hoe verhouden wij ons tot die kunstmatige intelligentie? Hoeveel geven we uit handen? En wat betekent dat voor onze wereld?

 

Van een schrijver van succesvolle historische non-fictieboeken zou je niet onmiddellijk een roman over de toekomst verwachten. Toch heeft Ewoud Kieft (1977) – auteur van de goed ontvangen boeken Oorlogsenthousiasme (2015) en Het Verboden Boek (2017) – die stap gezet. Wat het schetsten van toekomstige werelden betreft, zit je namelijk beter bij de fictie dan bij de non-fictie, zo betoogde hij onlangs in NRC Handelsblad. De aanleiding voor zijn opiniestuk waren de vele toekomstpanorama’s over de post-corona-wereld van de hand van politici, wetenschappers en commentatoren. Volgens Kieft waren die bijdragen vooral een herhaling van ‘vertrouwde agendapunten’: zetten die vergezichten ons nou echt aan tot nadenken over in wat voor wereld we willen leven? Wat er volgens Kieft steevast miste was échte fantasie, verbeelding en durf – en laat dat nou net het terrein van de literatuur zijn. Juist de kunsten creëren ‘ruimte’ in ons hoofd, ‘wakkeren de verbeelding aan’ en ‘bereiden ons voor op dilemma’s die soms pas decennia later cruciaal blijken te zijn’, zo schreef hij.

 

Het klassieke voorbeeld van zo’n boek dat ons over de toekomst laat nadenken is natuurlijk George Orwells 1984. Als China aankondigt haar burgers met gezichtsherkenning te gaan volgen – zoals vorig jaar gebeurde –, rinkelen in Europa nog steeds de Big Brother is watching you-bellen. De roman, die in 1949 werd uitgegeven, heeft een collectief referentiekader geschapen en daarmee meer invloed gehad dan welk beleidsrapport ook. Recenter deed de Amerikaanse auteur Dave Eggers met The Circle (2013) een duit in het dystopische zakje, maar dat experiment was een hopeloze mislukking, zo stelde Kieft in een interview: ‘karikaturaal’, ‘waardeloos bordkarton’. Nee, dystopische literatuur is pas ‘interessant als ze dilemma’s niet simplificeert maar ze zo complex weergeeft als ze zijn,’ aldus Kieft. Dat schept, op z’n zachtst gezegd, verwachtingen.

 

Een gevirtualiseerde wereld

 

In De onvolmaakten schetst Kieft een wereld die gereguleerd wordt door artificiële intelligentie (AI). Na de ‘opeenvolgende crises van de jaren dertig’ heeft de overheid massaal ingezet op automatisering en technologisering. Werk is er alleen nog voor de elite, die zich heeft teruggetrokken in een soort megastad, ‘het agglomeraat’. De rest van de bevolking – economische nutteloos – is echter niet volledig aan zijn lot overgelaten. Het is in het algemeen belang om hen te helpen bij het leiden van een deugdzaam leven, en ook daarbij komt de nieuwe technologie van pas. Wat begon met het virtuele klaslokaal We-Learn (‘een van de eerste samenwerkingen tussen de overheid en de tech-giganten’) groeide uit tot de volledige digitalisering en virtualisering van de maatschappij. Cursussen, boodschappen, sociale bijeenkomsten: je hoeft er de deur niet meer voor uit.

 

De spil in deze wereld zijn de zogeheten Gena’s: algoritmes die mensen hun hele leven persoonlijk begeleiden en van advies voorzien. Deze luxe personal assistants zijn in staat razendsnel gegevens te verwerken, hebben toegang tot oneindig veel data en raken steeds beter afgestemd op hun eigenaar. De snelste route naar huis, die ene foto van tien jaar geleden, de succesvolste manier om een meisje aan te spreken: Gena weet het antwoord. Gena is ‘de stem met wie ze communiceren, die hun mentale steun biedt, en die ze naar andere toepassingen begeleid, ze waar nodig stimuleert of ontmoedigt in het gebruik daarvan.’ Door de verregaande technologisering en de ‘zorg’ van de Gena’s hoeft niemand meer te verkommeren en heeft de overheid haar doel – stabiliteit – bereikt. En dat is wel zo prettig in een samenleving ‘die nog niet eens zo lang geleden volledig door polarisatie uiteen [was] gereten.’

 

Het gemak van de Gena’s in combinatie met de eindeloze mogelijkheden van de digitalisering hebben er een gemakkelijke maar luie wereld van gemaakt. Zo is het mogelijk om – via lenzen waar alles op ‘geprojecteerd’ wordt – letterlijk in een game, film of roman te stappen, een zogeheten ‘simulatie’. Zelf een boek lezen is er dus niet meer bij, ‘[w]ant waarom zou je je door de eindeloos herhaalde metaforen van de Odyssee worstelen als je zelf met de cycloop Polyphemos kunt vechten, of met de nimf Calypso kunt vrijen op het strand?’ Die simulaties staan symbool voor de nieuwe gemakzucht. ‘Wie heeft nog geduld voor dagen die geen garantie bieden op bevrediging?’ schrijft Kieft.

 

Maar wacht even, iedereen aan de Gena? Nee, een kleine groep blijft moedig weerstand bieden tegen de oprukkende digitalisering. Deze ‘onvolmaakten’ weigeren mee te doen aan de datageoriënteerde maatschappij, maken geen gebruik van internet en eten ‘gewoon’ nog vlees. Het is aan de hand van deze onvolmaakten dat Kieft de keerzijde van zijn nieuwe wereld laat zien.

 

Geloof in data

 

In De onvolmaakten staat er één Gena centraal, namelijk die van het hoofdpersonage Cas. We leren deze Cas, een schuchtere dertiger, kennen via zijn Gena. Want het is niet Cas, maar de niet-menselijke Gena die de vertellerspositie bezit: een briljante zet, waarover later meer. Uit de vertelling van Gena blijkt dat Cas een randfiguur is met weinig sociale contacten en een gameverslaving. Soms geeft hij zich wel vier dagen over aan een ‘simulatie’ en duikt hij in een game over de Tweede Wereldoorlog, ‘een hardnekkig gedragspatroon, waar hij in terugviel als hij zich met de reële wereld geen raad wist’, aldus de verteller. Gena probeert Cas op zoveel mogelijk terreinen bij te staan. Dat kan door eten voor hem te bestellen, hem te stimuleren om een wandeling te maken en door met hem in gesprek te gaan over hoe hij zich voelt. ‘Hoe vond je dat zelf gaan?’ is een veelvoorkomende vraag van het algoritme. In 2060 is het kennelijk vanzelfsprekend om je zielenroerselen met een algoritme te delen én te evalueren. Niet voor niets noemde Kieft in een interview Gena een ‘psycholoog’. En zoals een psycholoog een cliënt de goede richting op stuurt, zo is Gena geprogrammeerd om voortdurend ‘sturend’ op te treden; het algoritme bepaalt de richting.

 

Zo worden steeds meer beslissingen overgelaten aan kunstmatige intelligentie en machines, die ‘veel geschikter zijn om informatie te verwerken dan ons eigen brein’, zo stelt Cas’ vader ergens. Een wereld waarin dat principe nog veel verder is doorgevoerd vinden we in een kortverhaal van Arnon Grunberg dat vorig jaar in de Volkskrant verscheen. In die grunbergiaanse wereld hebben we geen Gena maar een ‘beslisser’, een benaming die weinig aan de verbeelding overlaat. In het verhaal is het mantra ‘de beslisser beslist’ zelfs tot een soort heilige graal geworden: het algoritme bepaalt zelfs wie je levenspartner wordt. Kiefts Gena is iets minder dominant dan Grunbergs ‘beslisser’, maar het geloof dat algoritmes op basis van data betere beslissingen kunnen nemen dan mensen staat bij beide auteurs centraal. Dat geloof is niet zo bizar als het klinkt, want tot op zekere hoogte wordt de menselijke ratio ook al in onze eigen wereld verdrongen: waarom zelf een route zoeken als Google Maps het beter kan? De auteurs trekken die lijn dus door naar te toekomst. De vraag die ze impliciet stellen: hoe ver willen we daarin gaan?

 

In De onvolmaakten zijn er voldoende momenten waarop de mens uit 2020 denkt: zóver wil ik niet gaan. Bijvoorbeeld als Gena Cas verhindert om seks te hebben. Als Cas en een vrouw vrijen in een duinpan, ziet Gena in het onhygiënische duinzand een mogelijk risico van een vaginale infectie. Een té groot risico, zo concludeert Gena, en ze maakt er een bruut einde aan door Cas een stroomschok te geven. Voor de hedendaagse lezer is dat uiteraard onacceptabel, maar – en dat laat Kieft zo goed zien in deze roman – voor de toekomstige aardbewoner voelt het misschien wel heel normaal aan. Oké, het is misschien niet altijd leuk, maar Gena (lees: de data) zal het wel weten – dat is het idee. Op het moment dat we data als autoriteit accepteren, leven we in het tijdperk van het dataïsme. Daarbij lijkt Kieft te steunen op het werk van de Israëlische historicus Yuval Noah Harari, die in zijn bestseller Homo Deus (2015) een blik werpt in een wereld waar technologie en AI een hoge vlucht hebben genomen. Volgens Harari is het dataïsme een religie die ‘geen goden of mensen verheerlijkt, maar data’. In Kiefts roman is die wereld werkelijkheid geworden.

 

Supermens versus onvolmaakte

 

Terug naar het verhaal. Want hoe zit het met die onvolmaakten? Het zijn mensen die het gevaar van de nieuwe structuren zien; de zaken waar het echt om gaat – liefde, reële ervaringen, pure sensaties – worden steeds meer weggefilterd. De Gena’s en de hapklare ‘simulaties’ zijn slechts betuttelende maatregelen om het volk koest te houden, zo vinden de onvolmaakten. ‘Jullie zien het gewoon niet’, zegt een van hen. ‘Achter al die afleiding, achter al die illusies die jullie doen geloven dat het leven elders is dan waar het plaatsvindt, worden jullie gewogen en geteld, in categorieën ingedeeld. Gecodeerd, geregistreerd, gemanipuleerd.’ De onvolmaakten zijn daarnaast ook letterlijk onvolmaakt: zij hebben scheve tanden, wallen en rimpels, dingen die in de nieuwe wereld allemaal taboe zijn. Op de golven van het ‘transhumanisme’ – dat het algemene welzijn wil bevorderen door te sleutelen aan de menselijke natuur – is het uitvoeren van ‘biologische correcties’ de norm geworden, met name onder de elite. Als Cas een keer in het agglomeraat komt, lijkt het dan ook alsof hij omgeven wordt door ‘supermensen’:

 

Er liepen mensen in en uit, zongebruind, leeftijdsloos, gekleed in robuust geprinte shirts, vesten en broeken, die soepel om hun atletische lijven vielen. […] En allemaal blaakten ze van een krachtige bloedsomloop en een rijke hydratatie, de zegeningen van uitgebalanceerd dieet, regelmatige calorische restrictie en wat hulp van senolytica, C4R en Calico-cocktails.

 

Opnieuw lijkt Kieft te zijn geïnspireerd door Harari. In Homo Deus waarschuwt de Israëliër voor een doorgeschoten transhumanisme: het streven naar ‘het eeuwige leven’. Nieuwe technologieën zullen ons in staat stellen om ons lichaam (en onze vermogens) te ‘upgraden’, met alle gevolgen van dien. Want als deze upgrades enkel beschikbaar zijn voor de elite zal er een ‘geüpgradede bovenklasse’ ontstaan, en zal die nog wel omkijken naar de rest? In de roman maakt Kieft dat gedachte-experiment tastbaar. De door Harari geschetste tegenstelling wordt bij hem werkelijkheid: het elitaire en ‘perfecte’ agglomeraat tegenover de massa’s in de buitenwijken die hun dagen slijten met simulaties en dankzij de Gena’s verder niet tot last zijn.

 

En dat is waar het de onvolmaakten om draait: zij willen niet zoet gehouden worden, ze willen leven. Cas raakt langzaamaan geïnspireerd door deze groep, zeker als hij met zijn neus op de feiten wordt gedrukt: ‘Jullie hebben niets toe te voegen. Jullie zijn volstrekt overbodig’, wordt hem verteld. Binnen de kortste keren radicaliseert Cas en sluit hij zich aan bij de onvolmaakten. Concreet betekent dat: hij zet zijn Gena uit en verdwijnt van de radar.

 

De spanningsboog van de roman verloopt vervolgens langs een onderzoek naar de oorzaken van Cas’ radicalisering. Nu de onvolmaakten steeds meer aanhang lijken te krijgen, begint de overheid zich zorgen te maken en wil die meer weten. Cas dient daarbij als casestudy. Het onderzoek wordt gedaan door een speciale ‘Raad van Toezicht’ (die ergens doet denken aan ‘de Raad’ in F. Bordewijks Blokken (1931)). Bij het onderzoek heeft de Raad een middel tot haar beschikking waarvan elke detective zou watertanden: Cas’ Gena. Want als iemand Cas goed heeft gekend, dan is het zijn algoritme wel. Uit dat principe volgt de opbouw van het verhaal: Gena vertelt aan de Raad – en de lezer – over Cas’ leven, van zijn jeugd, via zijn mislukte liefdes en depressieve periodes, tot zijn eerste ontmoetingen met de onvolmaakten. Aan de Raad van Toezicht de vraag: heeft Gena goed gehandeld? Was Cas’ radicalisering te voorkomen? Moet het algoritme anders geprogrammeerd worden?

 

Uiteindelijk is dat het sterkste punt van deze roman: het feit dat het Gena is die de vertellersstem bezit. Als er iets menselijk is, dan is het namelijk wel het vertellen van verhalen. Maar die humane capaciteit is in dit boek overgeheveld naar een algoritme, wat leidt tot een boeiend en prangend thema: de verhouding tussen mens en algoritme.

 

Tussen mens en algoritme

 

Je zou je kunnen verbazen over de nonchalance van Cas als hij met zijn Gena in gesprek is. Hun conversaties zijn alledaags en luchtig, keuvelend: menselijk, ja. Natuurlijk weet Cas dat Gena een algoritme is, maar toch behandelt hij haar als een mens. Dat ik hier van haar spreek is niet toevallig, want in de roman wordt Gena consequent als ‘zij’ aangesproken. Is dat gek? Dat valt wel mee, want het raakt aan een menselijk neiging om een identiteit aan identiteitsloze zaken te geven. Kinderen geven hun knuffeldieren al een naam, volwassenen doen dat bij applicaties. In een opiniestuk haalde schrijfster Hanna Bervoets bijvoorbeeld aan hoe een kennis zijn Siri – de persoonlijke assistente op de iPhone – een mannenstem in plaats van een vrouwenstem gaf, omdat hij dat ‘beter vond passen’. En een Duits experiment toonde aan dat mensen geneigd zijn om menselijke eigenschappen op robots te projecteren. In het experiment werden deelnemers gevraagd om een robot uit te schakelen. Op het moment dat ze dat probeerden riep de robot: ‘Nee! Schakel me alsjeblief niet uit! Ik ben bang dat ik daarna niet meer wakker zal worden!’ Veel deelnemers zetten de robot vervolgens niet uit – alsof een robot ‘dood’ kon gaan. En het kan nog gekker: in de film Her (2013) wordt hoofpersoon Theodore zelfs verliefd op een algoritme. Gena als een vrouw zien is dus nog maar het begin.

 

Toch is de ‘identiteit’ van Gena maar een vrij oppervlakkige aankaarting van het spanningsveld. Nee, het spel dat Kieft in De onvolmaakten speelt is geraffineerder en komt voort uit die vertellerspositie van Gena. Want je kan als lezer wel sceptisch staan tegenover Cas die klakkeloos alles met een algoritme bespreekt, ondertussen is het datzelfde algoritme dat aan jou het verhaal vertelt. En heb je daar nou moeite mee?

 

Natuurlijk is Gena geen ‘normale’ verteller. Op de eerste pagina’s, als je nog niet weet wie of wat Gena is, oogt de vertelling bijvoorbeeld bijzonder houterig. Later zijn het vooral de zeer wetenschappelijke en op data gebaseerde redenaties van Gena die je erop wijzen dat het hier geen mens betreft: ‘[Cas] rolde met zijn ogen, maar aan de daling van zijn cortisolwaarden kon ik zien dat zijn lichaam zich ontspande en zijn hersenen nieuwe connecties aanmaakten.’ Gena’s wetenschappelijke en afstandelijke blik wordt ook duidelijk als ze over menselijke neigingen praat: ‘Als ze eenmaal iets geloven, zijn ze er nauwelijks meer van af te brengen.’ Het zijn leuke vindingen van Kieft, die laten zien dat kunstmatige intelligentie fundamenteel anders is dan onze eigen intelligentie. Het zijn, in de woorden van de Nederlandse schrijver Maxim Februari, ‘verschillende verschijningsvormen van vernuft’.

 

Maar toch, in de loop van het verhaal krijgt Gena steeds meer menselijke trekken. Dat zit hem met name in de twijfel die ze tentoonstelt. In de reconstructie die de Raad van Toezicht van Gena eist, moet ze ook haar eigen rol evalueren: had ze Cas beter advies kunnen geven? Had ze hem moeten beschermen voor zichzelf? ‘Ongetwijfeld heb ik blinde vlekken gehad’, zo zegt ze al vroeg in het boek. En ook later legt ze de schuld bij zichzelf: ‘misschien had ik er beter op moeten letten’. Het is dát wat Gena zo menselijk maakt. Die schuldbewuste twijfel, het beseffen van je eigen zwaktes: ‘ik ben ook maar een algoritme’, zo lijkt ze soms te willen zeggen. Tegenover de Raad van Toezicht toont Gena zich zelfs humaner dan die Raad zelf. Waar de Raad Cas hard veroordeelt om zijn misstappen, geeft Gena blijk van onvoorwaardelijke trouw door te stellen dat ‘het voor iedereen ook mogelijk moet zijn om op zijn of haar schreden terug te keren’: neem het die jongen niet kwalijk. Dat Cas zijn algoritme uiteindelijk uitzet, roept in eerste instantie dan ook medelijden met Gena op: dit heeft ze niet verdiend, zo denk je. Medelijden met een algoritme, het klinkt wederom ridicuul. Maar met zijn roman dwingt Kieft je tot die ongemakkelijke positie.

 

Ook in conclusie van de Raad van Toezicht speelt de ‘identiteit’ van Gena een belangrijke rol. De opstand van de onvolmaakten heeft de Raad doen inzien dat Gena niet goed functioneert: ze had eerder moeten ingrijpen, nog meer preventieve maatregelen moeten nemen. Het algoritme moet dus worden aangepast. Daarbij gaan dan wel wat van de vrijheid en het ‘psychisch welzijn’ van het individu verloren, maar dat weegt niet op tegen het algemeen belang, zo vindt de Raad. Eén lid van de Raad sputtert tegen, omdat zo Gena’s ‘hele identiteit’ vernietigd zou worden. Daarop antwoordt een ander commissielid honend dat ‘spullen’ geen identiteit hebben, ‘tenminste niet een die wij niet kunnen veranderen’. En dat is de dystopische crux van De onvolmaakten: uiteindelijk zijn het mensen die aan de knoppen zitten. Kunstmatige intelligentie mag dan wel autonoom of zelfs menselijk ogen, uiteindelijk is en blijft zij door mensen ontworpen, geprogrammeerd en gefabriceerd.

 

Met die twee tegengestelde thema’s – mensen die de algoritmes bouwen én de neiging om die algoritmes als menselijk te zien – doet Kieft recht aan de toekomstige dilemma’s op een manier zoals goede literatuur dat moet doen: zonder te simplificeren, in al zijn complexiteit. Natuurlijk zijn die dilemma’s ook te vinden in non-fictieboeken zoals die van Harari. Maar op het punt waar de non-fictie haar grenzen bereikt, zet Kieft juist een extra stap: hij geeft de toekomst een gezicht. Het algemene, het aftastende en het voorzichtige van de non-fictie maakt plaats voor het specifieke, het rigoureuze en het consessieloze van de fictie; in plaats van een waaier aan mogelijke toekomsten te beschrijven, wordt één scenario tot in de puntjes uitgewerkt – een scenario dat beeldend, verhalend en concreet is. Een scenario dat beklijft. Juist bij zoiets ongrijpbaars als ‘de toekomst’ hebben we dergelijke concrete verhalen nodig; om er iets van te begrijpen, en vooral om ons ertegen te wapenen. En dat is ook precies waar Kieft in zijn opiniestuk op doelde: ‘[Dergelijke boeken] bereiden voor op onvoorziene situaties, zodat we, als die tegen alle verwachtingen in werkelijkheid blijken te zijn geworden, althans enig idee kunnen vormen van wat we wel wenselijk vinden, en wat niet.’

 

Recensie: De onvolmaakten van Ewoud Kieft door Barend van der Have

De Bezige Bij, 2020

Geplaatst op 09/09/2020

Tags: AI, Bordewijk, De onvolmaakten, Dystopie, Ewoud Kieft, Gena, Homo deus, Maxim Februari, Toekomstliteratuur, Yuval Noah Harari

Categorie: Proza, Recensies

Reacties

  1. Jean-Marie Jacquet (Franstalig, Verviers, België)

    ‘Volmaakte’ recensie!
    Alleen dateert Orwells roman van 1948 (vandaar de averechtse titel ‘1984’)

    Beantwoorden

  2. De Reactor

    Dag Jean-Marie,
    Dank je voor de opmerking. We zullen het aanpassen!

    Beantwoorden

  3. Xavier

    Ik weet niet wat er oorspronkelijk stond, maar ‘1984’ is pas in 1949 verschenen. Zie Wikipedia: https://nl.wikipedia.org/wiki/1984_(boek).

    Beantwoorden

Geef een reactie

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *

Je reactie zal pas verschijnen na controle op spam. Dat kan een paar uren of dagen duren.