Home

De komst van de digitale heilstaat draagt de belofte in zich onze democratie om te toveren in een technocratie. De autoriteit verschuift langzaamaan van mensen naar machines. En zo zouden we op een goede dag in gedepolitiseerd ‘Nerdistan’ wakker kunnen worden. Dat is een rijk dat voortdurend gehuld gaat in een dikke datanevel en waarvan de bewoners hun geestelijke vermogens volledig geoutsourced hebben aan pientere machientjes, oftewel aan bedrijven als Google en Facebook. Het probleem is niet zozeer de machine, de tablet of de robot, als wel de onwil of onkunde maatschappelijke eisen aan ze te stellen. Robuuste wetgeving is onvermijdelijk.

Dit essay is verschenen in Burgerschap in een technodemocratie, een uitgave van Boom Tijdschriften in de serie Christen Democratische Verkenningen (herfst 2016).

 

‘Wanneer je maar lang genoeg in de afgrond staart, staart de afgrond ook in jou’, schreef Nietzsche. Een eigentijdse variant op deze uitspraak zou kunnen luiden: Wanneer je maar lang genoeg in het internet staart, staart het internet ook in jou.
Zo heeft allesverkoper Amazon onlangs een patent aangevraagd op anticiperende pakketbezorging. Dat moet het bedrijf de mogelijkheid geven om op basis van online zoekgeschiedenissen, social mediagebruik of andere digitale sporen die het datasubject achterlaat, boeken te bezorgen nog voordat deze besteld zijn.
Het adagium van Nietzsche indachtig, is ook pizzaketen de Pizza Hut voornemens de luiken van het onderbewustzijn te openen. Naar verluidt experimenteert deze pizzabakker met een zogenoemd ‘subconscious menu’. Om te voorkomen dat de pizzahutbezoeker, geconfronteerd met een al te overvloedige spijskaart, een verkeerde keuze maakt, heeft men een slimme menukaart ontwikkeld die de werkelijke pizzavoorkeur van de consument na drie seconden weet te achterhalen. Aldus behoort de pizzakeuzestress definitief tot een analoog verleden.
En dan is er nog de ceo van Facebook, Mark Zuckerberg, die tijdens een Q & A-sessie met zijn achterban hardop droomde over een telepathisch sociaal netwerk waarbij gebruikers van zijn mondiale smoelenboek hun gedachten direct en ongefilterd met elkaar kunnen delen.
Het internet der dingen: die hele beestenbende aan samengeklonterde, slimme apparaten die met elkaar, met ons en onzichtbare derden communiceren, dit internet van alles: de menselijke fantasie schiet eenvoudigweg tekort om zich een voorstelling te kunnen maken van de duizend-en-een mogelijkheden tot technologisch bemiddelde mensendressuur. Met een variant op filosoof Gunther Anders’ notie van de ‘geantiqueerdheid van de mens’, zou je kunnen zeggen dat de analoge mens een antiek meubelstuk is in een digitaal ingerichte kamer. Vrij zijn de dingen, onvrij is de mens, luidde het adagium van deze denker dan ook.

Surveillancekapitalisme

Gelukkig zijn er romanciers die onze verbeeldingskracht weten te bevrijden. Zo heeft Dave Eggers in zijn dystopische roman The Circle aanschouwelijk gemaakt waar een door technologie aangejaagde transparantiecultus toe leidt – ‘Geheimen zijn leugens, privacy is diefstal’. Maar in een werkelijkheid waar de fictie voortdurend door de feiten op de hielen wordt gezeten, blijken sommige literaire visioenen al realiteit voordat de inkt goed en wel opgedroogd is. Want wat te denken van Gary Steyngarts toekomstbeeld in zijn roman Supertriest waargebeurd liefdesverhaal, een wereld waarin ‘Hoge Nettowaarde Individuen’ allerlei voorrechten genieten en waarin met behulp van ‘kredietpalen’ burgers elkaars kredietwaardigheid kunnen aflezen?
Ja, dat doet inderdaad denken aan China waar men bezig is een systeem op te tuigen dat op basis van datasporen de morele kredietwaardigheid van burgers in kaart moet brengen en moreel wenselijk gedrag wil belonen.
Je kunt je natuurlijk afvragen wat nu precies het wezenlijke verschil is tussen het staatsgereguleerde behaviorisme dat China nastreeft en het marktgereguleerde behaviorisme dat in onze contreien zo populair is. Zoals mijn eerdere voorbeelden al illustreerden: geavanceerde gadgets en even slimme als louche meet- en weetapparatuur maken dromen, verlangens en voorkeuren zichtbaar waarvan we onszelf niet eens bewust zijn. Ook bij ons probeert men met behulp van slimme surveillancetechnologieën gedrag te voorspellen en te sturen, de mens te disciplineren en te conditioneren.
De Amerikaans hoogleraar Soshana Zuboff, verbonden aan de Harvard Businessschool, heeft hier onlangs een pakkende term voor gemunt: surveillancekapitalisme, een vorm van toezicht die tot doel heeft het menselijke handelen voorspelbaar en daar waar mogelijk marktconform te maken. Met dien verstande dat ook bij ons markt- en staatspartijen in voorkomende gevallen bij elkaar aan tafel schuiven om zich aan een copieus datadiner te zetten. Denk alleen al aan het NSA-afluisterschandaal. Of denk aan het nieuwe Systeem Risico Indicatie dat in Nederland op 1 september 2014 geruisloos is doorgevoerd, een systeem dat het mogelijk maakt om via datamining en patroonherkenning van een veelheid aan digitale bestanden te voorspellen of er een belastingontduiker in de belastingbetaler schuilt. Deze doorlichting van de burger geschiedt volgens dezelfde methodiek waarmee men profielen van potentiële criminelen en/of terroristen opstelt.
Opsporing verschuift aldus van feitelijke handelingen naar intenties, van daden naar gedachten. De onschuldpresumptie, een van de fundamenten van onze rechtsstaat, komt hiermee onder druk te staan. Sterker nog, ze neigt naar haar omdraaiing: u bent schúldig tot het tegendeel bewezen is. Daarmee stuiten we op het wezen van terreur zoals de Duitse denker Hegel dat begreep: een situatie waarin verdenking onmiddellijk overgaat in veroordeling.

Er heerst een diepgewortelde argwaan ten aanzien van menselijk handelen in het algemeen en menselijke motieven in het bijzonder

Je zou kunnen zeggen dat zowel in het oosten als in het westen een diepgewortelde, atavistische argwaan heerst ten aanzien van menselijk handelen in het algemeen en menselijke motieven in het bijzonder. Onze handelingen zijn namelijk niet alleen onomkeerbaar – ‘gedane zaken nemen geen keer’ – de gevolgen ervan zijn ook nog eens volstrekt onvoorspelbaar en onoverzichtelijk. Eén enkele daad kan een hele keten van reacties in gang zetten die letterlijk tot het einde der tijden voortduurt, om de filosofe Hannah Arendt te parafraseren. Het is een even fascinerende als verontrustende gedachte. Feitelijk betekent zij dat de mens die handelt nooit weet wat hij doet.
De hele geboekstaafde geschiedenis lang hebben denkers en doeners zich dan ook het hoofd gebroken over de vraag: hoe de menselijke kudde zo te temmen dat ze ons niet meer voor onverwachte verrassingen stelt. Een vraagstuk dat in wezen neerkomt op het verlangen om menselijke handelingen voorspelbaar te maken en derhalve te neutraliseren. Van Plato’s ideale staat, waar de koning-wijsgeer absolute maatstaven aan de kudde moest opleggen, tot aan de grote tirannieën van de twintigste eeuw, heeft men zich in woord en daad, met meer of minder succes, aan deze opdracht gewijd.
Data en algoritmen die zich kruiperig in slimme systemen en apparaten nestelen, brengen de verwezenlijking van deze droom binnen handbereik. Een droom waar de gemiddelde despoot zijn tirannieke vingers bij zou aflikken. Er bestaan echter ook zachte vormen van despotisme. In onze open, postideologische samenlevingen laat deze dwingelandij met een vriendelijk gezicht zich vooral gelden op het gebied van veiligheid en gezondheid, twee preoccupaties waarmee de massa’s zich nog wel laten conditioneren en disciplineren. Ter bevordering hiervan laat men de digitale sleepnetten zakken en worden de datazeeën langzaamaan leeggevist, waarna de vangst met behulp van algoritmen tot hapklare brokken wordt verwerkt.

Digitale proletarisering

Wat voor veel techno-utopisten en een groeiende groep bestuurders een zegen is, komt mij vooral als vloek voor. Wie namelijk zijn psyche – zijn hoop, angsten, dromen en gedachten – al dan niet vrijwillig uit handen geeft, verliest feitelijk zichzelf. En als er geen zelf meer is, als je alleen nog maar een ding bent, een hoopje informatie, gereduceerd tot grondstof voor datahandelaren, dan word je vroeg of laat een object ter manipulatie. Exclusieve toegang tot je gedachten is de noodzakelijke voorwaarde voor zelfbeschikking; de mens die dit privilege verliest, is een naakt mens, gestript van zijn waardigheid en vrijheid. Hierin schuilt de werkelijke tragedie van vergaande vormen van privacy-verlies: de mens verliest er uiteindelijk zijn handelingsbekwaamheid mee. Totale proletarisering is het gevolg.
Dat het door slimme apparaten geëntameerde datadelirium vaak als bevrijdend wordt ervaren, hoeft misschien niet te verbazen. Door oplossingen voor problemen te definiëren in termen van hun calculeerbaarheid, fungeert het datadelirische ethos als bezweringsformule voor het menselijk tekort. Is een probleem of ongerijmdheid nog niet opgelost, dan is dat eenvoudigweg een kwestie van meer data of beter rekenwerk. Kortom: stop de publieke ruimte en de privésfeer vol met slimme meet- en weetapparatuur, en een rimpelloos en geoptimaliseerd bestaan lacht ons tegemoet.
Zo ziet het er naar uit dat de inwoners van Cybertopia binnenkort geen beslissingen meer hoeven te nemen of lastige morele dilemma’s hoeven op te lossen, die komen namelijk eigenstandig uit de digitale databanken, lantaarnpalen of koelkasten rollen. De definitie van goed en kwaad, wat de onbedorven geest onderscheidt van de bedorven geest, de niet-crimineel van de crimineel, gezond gedrag van ongezond gedrag; onze onzichtbare algoritmische orakels bewaken de grenzen.
Deze dataïstische toestand creëert een soort halfslaap waarin men droomt dat er eenvoudige oplossingen bestaan voor ingewikkelde problemen en waarin subjectieve waarden worden omgetoverd in objectieve feiten. Onze zelfdenkende systemen en slimme apparaten zijn namelijk helemaal niet zo zelfdenkend en slim. Waar ze goed in zijn is het ontdekken van patronen en het berekenen van relaties van waarschijnlijkheid, in voorspellen dus. Wat de brave huisvader tot veelvraat maakt of wat hem mogelijkerwijs tot massamoord aanzet, het dataïsme blijft er blind en doof voor.
Met andere woorden: dat de burger (en zijn gedrag) tevens het product is van zijn sociaal-economische en culturele context, valt buiten het dataïstische referentiekader. De rommelige realiteit, met al haar ondoorzichtige causaliteiten en normatieve kaders, verdwijnt uit beeld, de gegevens spreken immers voor zich. En zo, terwijl de digitalisering van de samenleving voortschrijdt, regeert ‘The Iron Lady’ over haar graf heen: in een gedigitaliseerde werkelijkheid is er inderdaad ‘no such thing as society’.

Politici die zich laten verleiden door de sirenenzang van data en algoritmen, ondermijnen op den duur hun eigen bestaansrecht

Het dataïsme tracht metafysische en morele vragen letterlijk weg te cijferen; de enige norm is een rekennorm. De kille waarheid van deze ideologie trekt daarmee de zin uit het leven. Het suggereert een absoluut weten, maar impliceert een absoluut niet-weten, Het vervangt de ambiguïteit van het waarom door een onverbiddelijk het-is-zo, tellen komt in de plaats van vertellen. Het dataïsme is, zoals ook de filosoof Byung-Chul Han in zijn essay Psychopolitiek al constateerde, in wezen een vorm van nihilisme, het ziet af van elke betekenisvolle samenhang of zin.
Voor de gedesillusioneerden van vandaag is dit waarschijnlijk een hele opluchting, want daar waar normatieve keuzes overbodig worden, worden op termijn ook politici overbodig. Dit stille verlangen naar een vorm van algoritmisch bestuur, sluit overigens mooi aan bij de libertarische visioenen die in Silicon Valley zo virulent rondzingen. De komst van de digitale heilstaat draagt de belofte in zich onze democratie om te toveren in een technocratie, de autoriteit verschuift langzaamaan van mensen naar machines, het fundament van onze rechtsstaat van humanisme naar dataïsme. Tragische ironie van dit alles: politici die zich laten verleiden door de Sirenenzang van data en algoritmen ondermijnen op den duur ook hun eigen bestaansrecht. Zodra beslissingen eigenstandig uit de gegevens rollen, worden maatschappijvisies of idealistische grondslagen overbodig. De politicus verwordt dan tot de uitvoerder van datgene wat spookachtige algoritmen hem influisteren. En zo dreigt het politieke discours zowel van binnenuit als van buitenaf uitgehold te worden.
Wat de eigentijdse dwingelandij zo uniek maakt is dat zij ‘mensen zover krijgt dat zij hun lijfeigenschap omhelzen en dat de conditionering erop gericht is te zorgen dat mensen hun onontkoombare sociale bestemming prettig vinden’. In Aldous Huxley’s Brave New World staat, net als in de onze, het bevorderen van geluk, gezondheid, veiligheid en promiscuïteit centraal. En omdat de mens nu eenmaal makkelijker in het reine komt met een slecht geweten dan met een slechte naam, laat hij zich maar al te graag in het digitale maatpak naaien. Wat dit aangaat is Huxley’s profetie een stuk trefzekerder dan die van Orwell in 1984. De Israëlische historicus Yuval Harari verwoordt het in zijn onlangs verschenen boek Homo Deus aldus: ‘The individual will not be crushed by Big Brother; it will disintegrate from within.’

Robuuste wetgeving

Het probleem is niet zozeer de machine, de tablet of de robot, als wel de onwil of onkunde maatschappelijke eisen aan ze te stellen. Deels is dit te verklaren vanuit de gevaarlijke ‘common sense’-misvatting dat technologie neutraal zou zijn. Dat de ziel van de makers in onze geavanceerde machientjes rondwaart – hun mens- en wereldbeelden en opvattingen over het goede leven – mag onder techniekdenkers zo langzamerhand gemeengoed zijn, in het maatschappelijke en politieke debat ontbreekt deze dimensie nagenoeg. Daardoor blijft men blind voor het ideologische karakter van veel innovaties en ontstaat er een verraderlijke dode techniekhoek.
Wanneer wij het bouwen van onze wereld exclusief aan ‘techies’ overlaten, dan worden wij op een goede dag wakker om te ontdekken dat we in gedepolitiseerd Nerdistan beland zijn. Dat is een rijk dat voortdurend gehuld gaat in een dikke datanevel en waarvan de bewoners hun geestelijke vermogens – hun vermogen om te denken, te oordelen en te willen – volledig geoutsourced hebben aan pientere machientjes, oftewel aan bedrijven als Google en Facebook. Een kleine elite van superondernemers en whizzkids maakt er de dienst uit.
‘Chronische spijt is, daar zijn alle moralisten het over eens, een hoogst onwenselijk gevoel’, schrijft Huxley in het voorwoord van Brave New World. Chronische spijt zou ons weleens kunnen overvallen wanneer we in een wereld komen te leven waarin de menselijke, al te menselijke vrijheid om ondoelmatig te leven, de vrijheid om een ronde pin in een vierkant gat te zijn, verloren is gegaan.
Willen we een dergelijke horizon vermijden, dan is robuuste wetgeving onvermijdelijk. Zo is datahandel in veel opzichten als een vorm van mensenhandel te beschouwen. Door zijn ziel aan grootdatabezitters te verkopen, levert het datasubject zich uit aan de ondoorzichtige en manipulatieve logica van logaritmen, een logica die veelal door winst- en optimaliseringsmotieven wordt ingegeven. Er is veel voor te zeggen om de exploitatie van persoonlijke gegevens aan strikte beperkingen te onderwerpen. Sterker nog, iedereen zou het fundamentele recht moeten krijgen over zijn of haar eigen data te beschikken. De integriteit van burger en consument staat op het spel, het sociaal contract impliceert dat de overheid hier handelend optreedt. Naast stevige wetgeving is adequaat onderwijs cruciaal. Digitale geletterdheid wordt nu veelal verengd tot het aanleren van zogenoemde ‘21st century skills’. De vraag hoe je je kunt verhouden tot een wereld die vergaand digitaliseert of wat nu precies de dynamiek is tussen mens en technologie, komt nauwelijks in de lesboekjes voor. Een vorm van digitale Bildung zou standaard een plek verdienen in de leerplannen.

Uiteindelijk is het aan de politiek om een fundamenteel debat te entameren over zoiets als menselijke waardigheid. Denk alleen al aan het eroderende onderscheid tussen publiek en privé en de rol die technologie hierbij speelt. Wat is überhaupt de functie van dit onderscheid in relatie tot onze menswaardigheid? Is de mens een doel in zichzelf, zoals Immanuel Kant stelde, of kunnen wij prima als batterijen voor de machine leven? Dit alles niet om nieuwe technologieën af te wijzen, wel om ons te bezinnen op de plaats van de mens als zoön politicon – ook wel vertaald als sociaal wezen – tijdens zijn odyssee in Cyberspace. De digitale revolutie daagt ons uit na te denken over de betekenis van ons mens-zijn en de wijze waarop we onze samenlevingen willen inrichten. Dat maakt de vraag naar digitalisering bij uitstek een politieke vraag. Een goed begin zou zijn wanneer de veelal libertarische (markt)ideologie van Silicon Valley expliciet ter tafel komt en onderwerp van discussie wordt. Daarmee krijgen we de politieke dimensie van het slimme machine-universum in beeld en kan het politieke debat over dit onderwerp eindelijk beginnen.

Hans Schnitzler

Advertenties

One thought on “De vloek van het dataïsme

  1. dag hans
    een reactie op je artikel om te laten zien dat het gedachten beweegt

    de gedachte die mij als eerste bekruipt en waarmee ik je stuk wil bekrachtigen:

    wat hebben volwassenen geleerd van het dadaïsme, was het een pro-actieve of een re-actieve stroming die detail/data (paradoxen /paraboxen schelen soms een paar letters) spelenderwijs, infantiel taal kritisch beschouwde

    groet
    frank

Geef een reactie

Vul je gegevens in of klik op een icoon om in te loggen.

WordPress.com logo

Je reageert onder je WordPress.com account. Log uit / Bijwerken )

Twitter-afbeelding

Je reageert onder je Twitter account. Log uit / Bijwerken )

Facebook foto

Je reageert onder je Facebook account. Log uit / Bijwerken )

Google+ photo

Je reageert onder je Google+ account. Log uit / Bijwerken )

Verbinden met %s