Technologie, macht en de toekomst van de menselijke vrijheid

door Marco Derksen op 5 mei 2023

In het voorwoord bij de nieuwe uitgave van Aldous Huxley’s dys­topische roman ‘Heerlijke nieuwe wereld‘ (Brave New World), stelt Yuval Noah Harari dat de belangrijkste technologische revolutie van de 21e eeuw het vermogen is om mensen te hacken, oftewel hen beter te begrijpen dan zij zichzelf begrijpen.

Harari waarschuwt voor de mogelijke gevaren van overheden en bedrijven die deze kennis en macht gebruiken om mensen te controleren en manipuleren. Hij benadrukt dat we ons in een tijd bevinden waarin technologie ons leven drastisch verandert, maar onze filosofische en spirituele modellen nog niet zijn aangepast. Hij beveelt het boek aan als leidraad om na te denken over de mogelijke gevolgen van deze technologische ontwikkelingen. Hoewel het boek in technologisch opzicht verouderd is, is het volgens Harari nog steeds relevant en profetisch.

Voor geinteresseerden de integrale tekst van het voorwoord door Yuval Noah Harari:

Created by Midjourney v5.1

De belangrijkste technologische revolutie van de eenentwintigste eeuw is het vermogen om mensen te hacken. Mensen hacken betekent hen beter begrijpen dan zij zichzelf begrijpen. Als een overheid of een bedrijf ons beter begrijpt dan wij onszelf begrijpen, kan het vervolgens onze gevoelens en onze beslissingen voorspellen, onze gevoelens en onze beslissingen manipuleren, en uiteindelijk namens ons alle cruciale beslissingen nemen.

Om mensen te hacken heb je drie dingen nodig: een heleboel biologische kennis, een heleboel data, en een heleboel computerkracht. Tot op heden bezat niemand dat nog allemaal. Zelfs de meest totalitaire regimes beschikten niet over voldoende biologische kennis, voldoende data en voldoende computerkracht om miljoenen mensen systematisch te hacken. Daardoor kon zelfs in nazi-Duitsland of in de Sovjet-Unie de overheid niet precies weten of bepalen wat ieder individu dacht of voelde.

Maar binnen afzienbare tijd zullen bepaalde overheden en bedrijven wel over de benodigde biologische kennis, data en computerkracht beschikken om iedereen constant in de gaten te houden en voortdurend te weten wat wij op een bepaald moment denken en voelen. Ze zullen ons beter kennen dan wij onszelf kennen. En wat gaat er dan gebeuren?

Mocht het vermogen om mensen te hacken in handen vallen van een eenentwintigste- eeuwse Stalin, dan zal dat tot het slechtst denkbare totalitaire regime in de geschiedenis leiden. Het zal nog vele malen erger zijn dan alles wat we in de twintigste eeuw al hebben gezien. En er zijn al verschillende potentiële Stalins aan het warmlopen. Maar ook al weten we zo’n digitale dictatuur te verhoeden, dan zou het vermogen om mensen te hacken nog op allerlei manieren de menselijke vrijheid kunnen ondermijnen.

Naarmate mensen steeds meer op algoritmes vertrouwen voor het nemen van individuele en collectieve beslissingen, zal het gezag geleidelijk aan van mensen naar die algoritmes verschuiven. Die verschuiving vindt nu al plaats; miljarden mensen varen blind op het Facebook-algoritme om ons te vertellen wat er gaande is, op het Google-algoritme om ons te vertellen wat waar is, op Google Maps om ons te vertellen waar we naartoe moeten, op Netflix om ons te vertellen waar we naar moeten kijken en op het Amazon-algoritme om ons te vertellen wat we moeten kopen.

Mensen zijn gewend het leven te zien als een dramatische aaneenschakeling van beslissingen. De open democratie en het vrijemarktkapitalisme zien de mens als een autonoom wezen dat voortdurend keuzes maakt aangaande zijn bestaan. In kunstwerken – of het nu stukken van Shakespeare, romans van Tolstoj of smakeloze Hollywood-kluchten zijn – staat meestal de held centraal die zich voor een cruciale beslissing geplaatst ziet: zijn of niet zijn? Bij Karenin blijven of er met de joyeuze graaf Vronski vandoor gaan? Zowel de christelijke als de islamitische theologie richt zich op een vergelijkbare manier op de dramatiek van de allesbepalende beslissing door te benadrukken dat eeuwige verlossing of verdoemenis bepaald worden door het maken van de juiste keuzes. Wat gaat er gebeuren als de algoritmes ons straks dicteren wat we moeten doen, zelfs ons lichaam en ons brein een nieuwe vorm gaan geven?

Als dat gebeurt zal het menselijk leven niet meer een dramatische aaneenschakeling van beslissingen zijn. Democratische verkiezingen en de vrije markt zullen hun zin verliezen. Net als de meeste religies en kunstwerken. Stelt u zich eens uw favoriete Shakespeare-stuk voor waarin alle cruciale beslissingen worden bepaald door het Google-algoritme. Hamlet zal een heel wat prettiger bestaan leiden, maar wat voor bestaan zal dat zijn? Beschikken wij over de filosofische en spirituele modellen om zin te geven aan een dergelijk bestaan?

We leven in een tijd van ongekende technologische overdaad, maar staan tegelijkertijd voor een filosofisch bankroet. Het gebruikelijke handjeklap tussen filosofen en politici houdt in dat filosofen tal van fantastische ideeën hebben en politici uitleggen dat die wegens een gebrek aan middelen niet uitvoerbaar zijn. We bevinden ons nu in de tegenovergestelde situatie. De nieuwe technologieën verschaffen politici de middelen om hemel en hel mogelijk te maken, maar de filosofen hebben moeite om zich voor te stellen hoe die hemel en hel eruit gaan zien.

De geschiedenis gruwt van een vacuüm. En de geschiedenis wacht niet op ons. Als we ons niet snel genoeg een beeld weten te vormen van de nieuwe hemel, zouden we zomaar door naïeve utopieën kunnen worden verleid. En als we ons niet snel genoeg een beeld weten te vormen van de nieuwe hel, dan zouden we er wel eens voor eeuwig in kunnen branden. Dus moeten we die nieuwe hemel en hel in kaart brengen, en wel snel. We hebben behoefte aan een leidraad voor de toekomst.

Misschien is de beste leidraad die ik ken wel een oude bekende: ‘Heerlijke nieuwe wereld’ van Aldous Huxley. Het boek verkent wat er gebeurt als de overheid mensen kan hacken en de maatschappij kan controleren door de innerlijke realiteit van ons lichaam te manipuleren in plaats van de uiterlijke realiteit van ons bestaan.

Huxley schreef zijn meesterwerk in 1931, en hij had nog geen weet van genetica, kunstmatige intelligentie of het internet. Zijn technologisch toekomstbeeld is dan ook verouderd. Dat zullen zijn lezers voor lief moeten nemen. Toch is ‘Heerlijke nieuwe wereld’, ook al is het in technologisch opzicht achterhaald, het meest profetische boek van de twintigste eeuw, en een van de diepzinnigste beschouwingen over de technologie van de moderne filosofie. Sterker nog, Heerlijke nieuwe wereld wordt met het jaar relevanter.

Toen Huxley Heerlijke nieuwe wereld schreef, bereikte het sovjetcommunisme nieuwe hoogten op het terrein van wreedheid, had het fascisme vorm gekregen in Italië, maakte het nazisme zich op om Duitsland over te nemen, begon het militaristische Japan zijn veroveringsoorlog in China, en verkeerde de wereld in de ban van de Grote Depressie. Toch wist Huxley door al die donkere wolken heen te kijken en zich een toekomstige maatschappij voor te stellen zonder oorlogen, hongersnoden en plagen, die permanent in het teken stond van vrede, overvloed en gezondheid. Het is een op consumptie gerichte wereld, die de vrije teugel biedt aan seks, drugs en rock-’n-roll en geluk als hoogste goed ziet. De onderliggende gedachte van het boek is dat mensen biochemische algoritmes zijn, dat de wetenschap het menselijk algoritme kan hacken, en dat de technologie vervolgens kan worden ingezet om niet alleen het individu, maar zelfs een hele samenleving te manipuleren.

In Huxleys Heerlijke nieuwe wereld maken de Wereldchefs gebruik van geavanceerde biotechnologie en manipulatietechnieken om iedereen overal en altijd tevreden te houden en niemand reden te geven tot verzet. Er is dan ook geen noodzaak voor een geheime politie, concentratiekampen, of een orwelliaans Ministerie van Liefde. Sterker nog, het genie van Huxley toont zich in het bewijs dat mensen veel beter met liefde, genot en consumptie in het gareel zijn te houden dan met geweld, angst en soberheid.

In 1984 beschrijft Orwell een angstaanjagende, nachtmerrieachtige wereld, en is de vraag alleen nog: hoe voorkomen we dat we in zo’n afschuwelijke staat terechtkomen? Het lezen van ‘Heerlijke nieuwe wereld’ is een aanzienlijk verontrustender en uitdagender ervaring, omdat het je confronteert met de vraag wat het nu precies tot een dystopie maakt. De wereld is vredig en welvarend, en iedereen is de hele tijd volkomen tevreden. Wat kan daar in hemelsnaam mee mis zijn?

Toen ‘Heerlijke nieuwe wereld’ in 1932 verscheen, wisten zowel Huxley als zijn lezers heel goed dat hij een gevaarlijke dystopie beschreef. Toch zouden veel hedendaagse lezers ‘Heerlijke nieuwe wereld’ abusievelijk voor een utopie kunnen verslijten, en onze op consumptie gerichte maatschappij is ook druk doende Huxleys visie werkelijkheid te doen worden. Geluk is tegenwoordig het allerhoogste goed en we misbruiken de biotechnologie en de sociale media steeds vaker om alle burgers/consumenten maximaal tevreden te houden. U vraagt wat daar mis mee kan zijn? Lees ‘Heerlijke nieuwe wereld.’ De samenspraak over het klimaat tussen Mustapha Mond en John de Wilde behoort tot de diepzinnigste gesprekken over technologie, geluk en de zin van het leven in de moderne westerse filosofie.

2 reacties

Ik heb ChatGPT de volgende prompt meegegeven: “Stel Mustapha Mond en John de Wilde leven in de huidige tijd waarin klimaatverandering en de snelle digitale transformatie van de samenleving de grootste uitdaging zijn van de mensheid. Hoe zou dan hun tweegesprek er uit zien? Schets de dialoog tussen Mond en de Wilde over de huidige ontwikkelingen van AI”.

John de Wilde: Mustapha, kijk naar wat er gebeurt met de wereld! Klimaatverandering bedreigt onze planeet, en de digitale transformatie van de samenleving gaat zo snel dat ik me zorgen maak over de toekomst van de mensheid. Denk je niet dat we moeten ingrijpen?

Mustapha Mond: John, ik begrijp je zorgen. Klimaatverandering is inderdaad een groot probleem, en de digitale transformatie brengt ongekende uitdagingen met zich mee. Maar we moeten ook de kansen en voordelen zien die technologie, zoals kunstmatige intelligentie, ons biedt. AI heeft het potentieel om veel van onze huidige problemen op te lossen.

John de Wilde: Maar wat als AI slimmer wordt dan de mens? Wat gebeurt er als machines beslissingen voor ons gaan nemen en we de controle verliezen? Dat zou een gevaarlijke ontwikkeling zijn, nietwaar?

Mustapha Mond: Dat is een legitieme zorg, John. Echter, ik geloof dat we de ontwikkeling van AI kunnen sturen in een richting die ten goede komt aan de mensheid. Het is aan ons om te zorgen dat AI wordt ontworpen met ethische en morele overwegingen, en dat we verantwoordelijk blijven voor de beslissingen die de machines nemen.

John de Wilde: Maar wat als we de controle verliezen, Mustapha? Hoe kunnen we er zeker van zijn dat AI niet wordt misbruikt door kwaadwillenden of dat het niet onbedoeld leidt tot onze ondergang?

Mustapha Mond: We moeten waakzaam zijn, John. De sleutel ligt in het creëren van internationale samenwerking en het opstellen van regels en richtlijnen voor de ontwikkeling en het gebruik van AI. We moeten zorgen voor transparantie en samenwerking tussen landen en organisaties om ervoor te zorgen dat AI wordt ingezet op een manier die de mensheid als geheel ten goede komt.

John de Wilde: Ik hoop dat je gelijk hebt, Mustapha. Ik vrees echter dat onze menselijke natuur misschien niet altijd het beste in ons naar boven haalt. Ik hoop dat we in staat zullen zijn om wijs en verantwoordelijk te handelen bij het navigeren door deze onbekende wateren.

Mustapha Mond: Dat is waarom we voortdurend moeten blijven leren en ons bewust moeten zijn van de gevolgen van onze acties, John. De uitdagingen die we nu tegenkomen, zijn niet alleen technologisch van aard, maar ook ethisch en filosofisch. Het is aan ons om de juiste balans te vinden tussen vooruitgang en het behoud van onze menselijkheid.

Created by ChatGPT (GPT-4)

Beantwoord

Vervolgens heb ik ChatGPT gevraagd om ook Hannah Arendt en Isaac Asimov bij dit gesprek te betrekken. Een gesprek dus tussen twee fictieve personages uit het boek van Aldous Huxley en de Duits-Amerikaanse politiek filosoof en theoreticus Hannah Arendt en de Amerikaanse schrijver en biochemicus Isaac Asimov:

Mustapha Mond: We leven in een tijd waarin kunstmatige intelligentie een steeds grotere rol speelt in het dagelijks leven. We moeten de mogelijkheden van AI erkennen en benutten, maar tegelijkertijd de risico’s beheersen, zodat we een wereld kunnen creëren waarin mens en machine in harmonie samenwerken.

John de Wilde: Het is zeker een uitdaging om de balans te vinden tussen de voordelen en gevaren van AI. De snelheid waarmee AI zich ontwikkelt, brengt de mensheid in een precaire situatie. We moeten waakzaam zijn en zorgen dat we niet onze eigen ondergang tegemoet gaan.

Hannah Arendt: Het is belangrijk om te onthouden dat technologie slechts een middel is, geen doel op zich. We moeten ons concentreren op het behouden van de menselijke waardigheid en vrijheid. Om dat te bereiken, moeten overheden en burgers samenwerken om AI te reguleren en ervoor zorgen dat het wordt ingezet op een manier die de menselijke autonomie respecteert en bevordert.

Isaac Asimov: Een mogelijke benadering is het toepassen van ethische principes, zoals mijn drie wetten van de robotica, op de ontwikkeling van AI. Dit zou helpen om een moreel kader te creëren waaraan AI zich moet houden en dat de veiligheid en het welzijn van mensen waarborgt.

Mustapha Mond: Overheden zouden kunnen investeren in onderwijs en omscholing, zodat mensen kunnen blijven gedijen in een wereld waarin AI een belangrijke rol speelt. Dit zou hen in staat stellen om mee te groeien met de technologische vooruitgang en een zinvolle bijdrage te blijven leveren aan de samenleving.

John de Wilde: Burgers moeten ook de verantwoordelijkheid nemen om zichzelf te informeren en betrokken te blijven bij de discussies over AI. We moeten kritisch blijven nadenken over de invloed van AI op onze levens en samenleving en ons uitspreken wanneer we onrechtvaardigheid of misbruik van technologie zien.

Hannah Arendt: Transparantie en openbare verantwoording zijn essentieel. Overheden en bedrijven die betrokken zijn bij de ontwikkeling en toepassing van AI moeten duidelijk communiceren over hun doelen, methoden en resultaten. Dit zou helpen om het vertrouwen van het publiek te winnen en een open dialoog te bevorderen over de toekomst van AI.

Isaac Asimov: Tot slot, samenwerking op internationaal niveau is cruciaal. AI kent geen grenzen en de impact ervan strekt zich uit over de hele wereld. Door samen te werken en gemeenschappelijke normen en standaarden te ontwikkelen, kunnen we ervoor zorgen dat AI op een verantwoorde en ethische manier wordt ingezet, ten bate van de gehele mensheid.

Created by ChatGPT (GPT-4)

Beantwoord

Geef een reactie

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *

Deze site gebruikt Akismet om spam te verminderen. Bekijk hoe je reactie-gegevens worden verwerkt.

Laatste blogs

Bekijk alle blogs (955)
Contact