Techno-optimisten willen ons maar al te graag doen geloven dat meer en meer data ons leven makkelijker maken. Maar in de praktijk betekent het geloof in technologie het einde van de politiek en het einde van onze vrijheid.
Hans Schnitzler beeld Femke van Heerikhuizen
Op 27 oktober 2021 is dit essay verschenen in De Groene Amsterdammer
De mens is ‘gedoemd tot vrijheid’, luidt het leidmotief van de existentialist Jean-Paul Sartre. Het woord ‘gedoemd’ treft het hart van de zaak: er ligt een radicale zelfbepaling aan de mens ten grondslag die tot stand komt in de keuzes die hij maakt. We hebben nu eenmaal geen vooraf bepaalde essentie, we worden in een absurde realiteit geworpen, de ‘zin van het leven’ bestaat niet en we zullen dus zelf moeten bepalen hoe we onze individuele levensgangen betekenis geven in een wereld zonder vooraf gegeven betekenis. De mens is tot deze vrijheid veroordeeld; het is zijn opdracht en verantwoordelijkheid zich er actief toe te verhouden. Anders gezegd: hoe ‘brute feiten’ of gebeurtenissen in een leven doorwerken, wat de invloed ervan is op je toekomstige levensrichting, bepaal je zelf door de keuzes die je maakt. Niets is vanzelfsprekend, alles is mogelijk; zo zou je de kern van Sartre’s filosofie kunnen samenvatten.
Hoewel Sartre’s radicale vrijheidsbegrip de mens wel heel rigoureus uit zijn sociaal-economische hengsels licht, is het natuurlijk de vraag of onze schouders wel breed genoeg zijn om deze verantwoordelijkheid te dragen. De vrijheid om te worden wie je bent, is, bij gebrek aan God of gebod, een immense opgave die gepaard gaat met onzekerheid en twijfel of, in meer existentiële zin, met ‘bestaansangst’. Dat maakt de verleiding om die last uit te besteden des te groter: bijvoorbeeld door kritiekloos een sterke leider te volgen, te vervallen in wezenloos consumentisme, door op te gaan in de massa of door allerlei vormen van techno-solutionisme te omarmen. Naarmate zelflerende algoritmen ons gedrag beter weten te voorspellen – althans: de suggestie wekken dat te doen – en de mogelijkheden ter optimalisering en beheersing verduizendvoudigen, werpt met name de technologie zich hoe langer hoe meer op als anonieme leidsvrouw voor de met zijn vrijheid worstelende mens.
Plaats je de bereidheid van autonome individuen om hun beslissingsvrijheid over te dragen aan geautomatiseerde systemen – of zo je wil: aan ‘magische helpers’ – in een wat breder historisch en cultureel perspectief, dan wordt duidelijk dat de vrijheidszin een januskop heeft. Dat begint bij de vaststelling dat de gehele moderniteit, die zo rond de zestiende eeuw begint, als één grote bevrijdingsbeweging te begrijpen is. Wetenschappers, techneuten, politici en denkers zijn al zo’n vijf eeuwen bezig ons te bevrijden: van de beperkingen die de natuur ons oplegt, van bijgeloof en hekserij, van de macht van de aristocratie, tot aan de autoriteit van staat en ouderlijk gezag in de jaren zestig van de vorige eeuw.
De gang van de westerse geschiedenis laat zich kenschetsen als één grote afrekening met intermediairs: leenheren, geestelijken of andersoortige tussenpersonen en gezagsdragers die het individu in een morele dan wel materiële afhankelijkheidsrelatie plaatste. Met de Verlichting, en in haar kielzog de Romantiek, beleefde dit emancipatieproces zijn voorlopige hoogtepunt: het autonome, authentieke en zelfdenkende individu verscheen aan de horizon. In de anderhalve eeuw die hierop volgde, wandelde de geseculariseerde burger, die zijn lot meer en meer zelf in handen kreeg, verder in de richting van toenemende zelfontplooiing en mondigheid.
De digitale revolutie was het sluitstuk van deze wordingsgeschiedenis. Dankzij de digitale netwerkstructuur kreeg de schermmens eens en voor altijd rechtstreeks grip op de dingen, de wereld kwam binnen swipe-bereik en de bemiddeling door elites of experts werd overbodig verklaard. Hiermee leek de ontwikkelingsgang naar dat typisch westerse vrijheidsideaal van vergaande emancipatie, democratisering en zelfbeschikking voltooid.
De keerzijde van deze paar eeuwen durende vrijheidsreis, een reis weg van werelden van piramideachtige structuren en traditionele verbanden naar een flexibele en gedecentraliseerde netwerksamenleving, was dat de wereld vloeibaar werd en in veel opzichten onoverzichtelijker. De samenleving kreeg een opener karakter, sociale en fysieke grenzen vervaagden, arbeid werd flexibeler, identiteiten speelser en levenspaden beweeglijker. Veranderlijkheid werd de belangrijkste constante voor wat de Brits-Poolse socioloog Zygmunt Bauman onze ‘vloeibare moderniteit’ noemde. Deze transitie bleef niet zonder gevolgen voor het vrijheidslievende dier dat homo sapiens heet. Wat de uitwerking hiervan op zijn gemoed was, heeft Erich Fromm in zijn klassieke studie De angst voor vrijheid inzichtelijk gemaakt: ‘Met zijn verlies van een vastgestelde plaats in een besloten wereld verloor de mens ook het antwoord op de vraag naar de zin van zijn leven. Zo overviel hem twijfel aan zichzelf en aan het doel van het bestaan. (…) Het paradijs ging voorgoed verloren, het individu stond nu alleen tegenover de wereld: een vreemdeling, geworpen in een grenzeloos en gevaarlijk universum. Deze nieuwe vrijheid kon niet anders dan een diep gevoel van onzekerheid wekken, van machteloosheid, van vertwijfeling, van eenzaamheid en angst. En deze gevoelens moesten getemperd worden, wilde de persoonlijkheid naar behoren kunnen functioneren.’
Gevoelens van onmacht, isolement en onzekerheid, de sensatie als door een onmetelijk ‘niets zonder einde’ rond te dwalen, maken individuele zielen ontvankelijk voor alternatieve leibanden en nieuwe vormen van autoriteit. Fromm wijst op een leemte: de westerse mens is misschien wel verlost van het korset van de pre-individualistische maatschappij, maar daarmee heeft hij nog geen vrijheid verworven in de positieve zin van het woord. Dat wil zeggen: na de afbrokkeling van tribale bindingen en oude zekerheden ontbreekt het veelal aan duurzame vormen van zelfverwezenlijking. Op de vraag welke waarden het waard zijn om nageleefd te worden, hoe je je op een actieve en gewetensvolle wijze kunt verhouden tot jezelf, de ander en de wereld, moet het atomaire individu het antwoord veelal schuldig blijven. Omdat we vrijheid vooral in termen van niet-inmenging begrijpen – het negatieve vrijheidsbegrip: vrij ben je zolang anderen geen dwang over je uitoefenen – komt het terrein van de positieve vrijheid – de vrijheid die in het teken staat van zelfbepaling, de mogelijkheid om je leven naar eigen inzicht en vermogen richting te geven – braak te liggen.
En wie dat terrein toch betreedt, moet het zonder vaststaande oriëntatiepunten stellen; voor menigeen reden genoeg om onverrichter zake om te keren. Met andere woorden: in plaats van de positieve vrijheid tegemoet te treden en er een verstandhouding mee aan te gaan, is de verleiding groot ervoor weg te lopen. En dat weglopen is des te eenvoudiger sinds de digitale revolutie mobiel is gegaan en we momenten van bezinning met onze smartphones al swipend van ons af kunnen schuiven. Dat maakt de ruimte voor een innerlijke dialoog, de ruimte om jezelf vragen te stellen die noodzakelijk zijn om de positieve vrijheid inhoud te geven – waar sta ik, waar wil ik naartoe, wat is belangrijk voor mij en waarom? – schaars.
Fromm onderscheidt drie vluchtstrategieën die in een door data en algoritmen verzadigd tijdsgewricht onverminderd actueel zijn: de vrijwillige onderwerping aan hogere en onwrikbare machten (autoritarisme), het afstand doen van de eigen, unieke persoonlijkheid door de kleur van de omgeving aan te nemen (automatisch conformisme, verwant aan Nietzsche’s kuddegeest) en, als laatste, de neiging om jezelf of anderen te vernietigen (destructivisme, verwant aan Freuds doodsdrift). De vrijheid om te worden wie je bent is een immense opgave, de verleiding is groot om die last uit te besteden
De vrijheid om te worden wie je bent is een immense opgave, de verleiding is groot om die last uit te besteden
Sinds de publicatie van Fromms boek in 1941 zijn de beschikbare hulpmiddelen ter ondersteuning van deze vluchtstrategieën wijdverbreider en verfijnder dan ooit. Zo laat het autoritarisme van Fromm zich in cybertopia met name gelden als techno-autoritarisme, waarvan de onderwerping aan het dictaat van nulletjes en eentjes de meest voorkomende vorm is. Schrijver en datacriticus Maxim Februari stelt in dit verband dat we niet langer in een bureaucratie leven maar in een ‘datacratie’. Dat is een constellatie waarbij een paar tech-molochs, al dan niet dankzij publiek-private samenwerkingsverbanden, een nauwelijks te controleren staatsmacht uitoefenen over burgers, ten koste van rechters en het parlement.
Allerlei uitvoeringsinstanties, denk bijvoorbeeld aan opsporingsdiensten of de Belastingdienst, zijn in rap tempo getransformeerd in datakoninkrijkjes, waar politici en magistraten steeds minder grip op hebben. Onvermijdelijke bijwerking hiervan is een schandaal als de toeslagenaffaire, dat duizenden ouders ten onrechte als fraudeur bestempelde. Februari waarschuwt dat de uitvoerende macht in een datacratie een dusdanige dominante positie krijgt dat het principe van de trias politica – de scheiding tussen de wetgevende, rechtsprekende en uitvoerende macht, ooit bedacht als alternatief voor absolutistische regeervormen – in gevaar komt.
Terwijl een test- en controlesamenleving ter indamming van een virus wordt opgetuigd, kunnen we die waarschuwing maar beter ter harte nemen. De behoefte aan controle en beheersing zet, zoals de Franse tech-denker Jacques Ellul ooit analyseerde, een anoniem, ongrijpbaar en eigenstandig opererend ‘technologisch systeem’ in werking – een amalgaam van politieke, economische en techno-wetenschappelijke krachten – dat zichzelf aandrijft en als vanzelf naar een technocratie neigt. De als tijdelijk bedoelde ‘Patriot Act’, afgekondigd na de terroristische aanslagen van 9/11, is hier een goed voorbeeld van: tot op de dag van vandaag kunnen Amerikaanse burgers met een beroep op deze spionagewet afgeluisterd worden. Wat ter afwending van een acuut gevaar als uitzonderingsmaatregel begon, nestelde zich sluipenderwijs als normaaltoestand in het systeem.
Voor zowel burgers als bestuurders geldt, zoals ik al eerder constateerde, dat de vrijheid om beslissingen te nemen of prioriteiten te stellen steeds vaker gedicteerd wordt door wat de algoritmische orakels influisteren. Google beslist wat belangrijk is, Tinder welke bed- of gesprekspartner je voorgeschoteld krijgt, YouTube welk filmpje je voorkeur heeft en, last but not least, de slimme classificatiesystemen van overheidsinstellingen wie er als potentiële zwendelaar of crimineel aangemerkt kan worden.
Het heeft de kinderen van de Verlichting een paar eeuwen gekost om zich vrij te maken van allerlei hogere machten en onwrikbare waarheidspredikers, om zich vervolgens in enkele decennia collectief horig te betonen aan een even betoverende, onzichtbare als soevereine machinemacht. Daarmee verliest men niet alleen zeggenschap en aanspraak (in een datacratie worden oordelen geveld zonder opgave van redenen), maar heeft men bovendien de waarde van de alledaagse realiteit wederom afhankelijk gemaakt van ‘een objectiviteit die buiten de werkelijkheid zelf ligt, maar die maatgevend wordt voor de werkelijkheid’, zoals de Nederlandse Denker des Vaderlands Paul van Tongeren het nihilisme typeert. Anders gezegd: men hevelt de eigen onafhankelijkheid over naar een uitwendige kracht, oftewel: data.
Dan is er, ten tweede, de vluchtstrategie van het techno-conformisme, dat deels voortvloeit uit het techno-autoritarisme. Ter optimalisering van zijn dagelijkse handel en wandel laat de datamens zich allerlei digitale dwangbuizen aanmeten. Men meent aan een vorm van algoritmisch zelfbestuur te doen – met behulp van lifestyle-apps, automatische zoeksuggesties, Facebook- en Twitter-feeds of de Google-routeplanner – maar is in wezen onderdeel van een gedigitaliseerd marionettenspel. En zo danst de datamens steeds onwillekeuriger naar het pijpen van onzichtbare, in non-descripte datacentra verstopte poppenspelers en koestert ondertussen de illusie dat hij het zélf is die denkt, doet en voelt. Uitgestippeld door een geautomatiseerd ‘meten is weten’-regime bewandelen datagestuurde levens de voor hun geijkte paden, waar ze bijna uitsluitend gelijkgestemden tegenkomen en waar hun opinie en smaak voortdurend bevestigd worden – de zogeheten filterbubbels. Er wordt weleens gevreesd dat robots op mensen gaan lijken, maar eerder moeten we het omgekeerde vrezen: dat mensen gaandeweg in robots veranderen. Het automatisme als default is nu eenmaal een verleidelijke instelling voor het gewoontedier dat de mens is.
Een extreem voorbeeld van techno-conformisme is een fenomeen dat ook wel bekendstaat als ‘Snapchat-dysmorfie’. Waar sommige mensen voorheen met een afbeelding van hun favoriete celebrity bij een plastisch chirurg belandden, om zich net zo’n neus- of kaaklijn als de door hen bewonderde beroemdheid te laten aanmeten, belandt men tegenwoordig met een door filters bewerkte Snapchat-selfie in de spreekkamer van de cosmetische kliniek. Niet langer een mens van vlees en bloed als ideaalbeeld voor zelfverfraaiing, maar een computersimulatie van het uiterlijk moet dienstdoen als model voor een verbeterde versie van het eigen ik. In een artikel in de Engelse krant The Guardian kwam een jonge vrouw en fanatiek snapchatter aan het woord die plastische chirurgie overwoog, omdat zij het niet langer aandurfde haar volgers in real life te ontmoeten; haar analoge gezicht schoot tekort bij de digitaal gebotoxte versie ervan. Gemord wordt over de echoput internet, maar het verblijf in zelfbevestigende sferen is voor velen geruststellend
Gemord wordt over de echoput internet, maar het verblijf in zelfbevestigende sferen is voor velen geruststellend
Wanneer je online-gezicht geen afspiegeling meer is van je leven maar je online-leven een afspiegeling wordt van je gezicht kun je gerust stellen dat de analoge en digitale sferen definitief stuivertje hebben gewisseld. Een gesimuleerde en verbeterde variant van de realiteit krijgt de overhand en verdringt de oneffenheden van de tastbare en natuurlijke wereld; iets waarvoor de Franse denker Jean Baudrillard de term hyperrealiteit reserveerde en waarvoor ik, in het geval van Snapchat-dysmorfie, de term hypertronie zou willen introduceren. De hypertronie, het fysieke afgietsel van een door kunstmatige intelligenties opgelegd schoonheidsideaal, is het esthetische misbaksel van techno-conformistische praktijken. (Het uit de Verenigde Staten overgewaaide fenomeen van het Instagram-museum, ook wel selfie-museum genoemd, waar de collectie volledig afgestemd is op haar ‘instagrammibiliteit’, laat zien dat ook de museumwereld niet immuun is voor hyperpraktijken.)
Wie wil afwijken van het gebaande pad, wie een digitaal non-conformist wil zijn, moet zich ontworstelen aan diens dataprofiel en de voorkeuren die daarin opgeslagen liggen. Dat is evenwel geen sinecure, want omgang met gelijkgezinden is over het algemeen een stuk eenvoudiger dan omgang met andersgezinden. Er wordt veel gemord over de echoput die internet heet, maar ergens vermoed ik dat het verblijf in zelfbevestigende sferen voor velen zowel troostend als geruststellend is. De mens valt immers nooit helemaal samen met de wereld waarin hij geworpen is. Er bestaat altijd wel een kloof tussen het ‘ik’ en diens omgeving, tussen wie je denkt te zijn en hoe anderen naar je kijken, tussen dromen en daden en tussen mogelijkheden en werkelijkheden. Zo’n kloof kan een bron van vervreemding en frustratie zijn, waarvoor de online-realiteit beschutting biedt; de automatisch gegenereerde bevestiging van het eigen mens- of wereldbeeld, van het eigen Grote Gelijk of de eigen Goede Smaak, is een manier om die kloof te dichten en gevoelens van isolement te verzachten.
Zowel op collectief als individueel niveau komt het machineconformisme met een prijs. Het plaveit de weg voor politieke agitators die er baat bij hebben om alternatieve waarheden te creëren en desinformatie te verspreiden. Door gericht te ‘tracken’ en op het geschikte moment een boodschap op een doelgroep af te vuren, zijn gevoelens van desillusie, desoriëntatie en wantrouwen relatief eenvoudig aan te wakkeren en kan het tribale bewustzijn – altijd latent aanwezig en ontvankelijk voor nieuwe groepsbindingen – in stelling worden gebracht.
De bestorming van het Capitool in Washington en de coronarellen in Nederland zijn waarschijnlijk een voorbode van wat ons nog te wachten staat wanneer de geautomatiseerde machinaties en manipulaties van het online-milieu ongehinderd hun gang kunnen gaan. De prijs van techno-conformisme voor het individu is zelfverlies: door zich te onderwerpen aan geautomatiseerde gezagvoerders doet het afstand van zijn vrijheid om zélf kritisch na te denken of eigenstandig tot besluiten te komen. Of, om Fromm te parafraseren: het verandert in een ‘pseudo-zelf’, een afspiegeling van andermans verwachtingen en is veroordeeld tot het spelen van een rol die het geacht wordt te spelen.
Tot slot is er nog de afgeleide van die andere tactiek om de vrijheid te loochenen, Fromms destructivisme, die ik in navolging van de filosoof Rein de Wilde ‘technologisch finalisme’ noem. Dat is een techno-deterministische manier van denken, waarbij men meent dat de geschiedenis op een onvermijdelijk einddoel afstevent. Dat einddoel heet de singulariteit: een unieke gebeurtenis die alles wat we tot nu toe voor vanzelfsprekend hielden afbreekt, omwoelt en transformeert. De wetten van ruimte en tijd, de rol van het menselijk bewustzijn, de aanwezigheid van een persoonsgebonden lichaam of het probleem van schaarste: er blijft geen bestaand idee of concept overeind. In feite wordt ons een disruptie van existentiële aard en kosmische omvang voorgespiegeld, waarbij de hedendaagse disruptieve dadendrang van Silicon Valley – innovaties aanjagen door bestaande markten en industrieën te ontwrichten, zoals in de praktijk gebracht door platforms als Uber en Airbnb – verbleekt tot kinderspel.
De stelligheid waarmee een aanstaande, alles en iedereen ontwrichtende omwenteling wordt aangekondigd, is een manier om de deur naar een ‘open toekomst’ dicht te timmeren en de menselijke verantwoordelijkheid te elimineren. De onwrikbare wetten van een exponentieel uitdijend machine-universum stuwen de mensheid immers in de richting van een onafwendbare toekomst, net zo onafwendbaar als de vestiging van de ‘dictatuur van het proletariaat’ voor het marxisme ooit was. Wie de toekomst evenwel als een eenrichtingsweg voorstelt, waarvan het eindpunt bij voorbaat vaststaat, veronachtzaamt een cruciaal aspect van de menselijke handelingsvrijheid.
Volgens Hannah Arendt brengt de mens die handelt per definitie iets nieuws en onvoorspelbaars in de wereld, elke handeling kan volgens haar een hele keten aan onvoorziene gebeurtenissen in gang zetten die tot het einde der tijden voortduurt. Om deze reden vergelijkt Arendt het vermogen om te handelen met een tweede geboorte; in elke handeling schuilt een belofte, hoe ongewis ook. Vandaar de gevleugelde uitspraak dat de toekomst altijd openligt: in die openheid – de ruimte tussen voornemen en daad, tussen jezelf een belofte maken en deze belofte al dan niet inlossen – ligt de menselijke vrijheid besloten. Het techno-destructivisme, zoals dat in het singulariteitsdenken tot uiting komt, impliceert niet alleen de doodverklaring van de huidige mens en diens leefwereld, maar negeert ook de speelruimte (en verantwoordelijkheid) die in de vrijheid van handelen besloten ligt. Door de uitkomsten van het handelen binnen de marges van (veronderstelde) technologische wetmatigheden te brengen, wordt de menselijke handelingsvrijheid stilzwijgend gelijkgeschakeld aan de laatste stand van de techniek.
Het techno-destructivisme betekent tevens het einde van de politiek, benadrukt De Wilde in zijn boek De voorspellers. Want als de toekomst voorbeschikt is, hoeft er ook niet meer in termen van dilemma’s of politiek-normatieve vraagstukken over de wenselijke richting van die toekomst nagedacht te worden, zoals dat in vrije en open samenlevingen gebruikelijk is. Het dedain voor politiek en overheid, een vrij breed gedragen sentiment in Silicon Valley, komt waarschijnlijk bij niemand zo scherp tot uitdrukking als bij de invloedrijke tech-entrepreneur Peter Thiel. In een toespraak tijdens het jaarlijkse libertarische festival ‘Libertopia’ vergeleek hij de overheid met het ‘fundamentele kwaad’ van de duivel en oreerde hij dat technologie het beste alternatief is voor politiek. Thiels antipolitieke houding is symptomatisch voor technologisch-finalistische denkstijlen; ze zijn gericht op het elimineren van alles wat de technologische vooruitgang in de weg staat en, zoals De Wilde terecht constateert, ingesteld op het vermijden van (stroperige) publieke en politieke deliberatie. En laat dat nu net het domein zijn waar de menselijke vrijheid gestalte krijgt.
Hans Schnitzler 