In Sapiens laat Yuval Noah Harari zien dat de mens zich onderscheidt van andere diersoorten door het unieke vermogen om op basis van gedeelde verhalen en mythen samen te werken. Dit stelde de mensheid in staat om complexe sociale structuren te creëren, abstracte concepten te ontwikkelen en technologische vooruitgang te boeken. Deze ‘cognitieve revolutie’ maakte het mogelijk voor mensen om in steeds grotere netwerken samen te werken, van kleine stammen tot wereldwijde beschavingen.

In Homo Deus kijkt Harari naar de toekomst en filosofeert hij over de mogelijke impact van data en AI op de samenleving. Hij stelt dat data en algoritmen steeds belangrijker worden in besluitvorming, dat AI mogelijk menselijke intelligentie zal overtreffen, en dat dit kan leiden tot een ‘dataïsme’, waarbij datastromen centraal staan in plaats van menselijke ervaringen. Harari waarschuwt voor de potentiële gevaren van deze ontwikkelingen, zoals het verlies van menselijke autonomie en de concentratie van macht bij degenen die de data en algoritmen beheersen.

In Nexus bouwt Harari voort op deze ideeën en onderzoekt hij de rol van informatienetwerken in de menselijke geschiedenis en toekomst. Harari stelt dat de mensheid, ondanks haar enorme macht en kennis, zichzelf in een existentiële crisis heeft gewerkt door het misbruik van deze macht. Harari betoogt dat dit grotendeels te wijten is aan de manier waarop we informatie verwerken en gebruiken binnen onze netwerken.

De essentie van Nexus ligt in het verkennen van de relatie tussen informatie, waarheid en macht. Harari bekritiseert zowel de naïeve kijk op informatie (die stelt dat meer informatie automatisch leidt tot wijsheid en macht) als de populistische kijk (die informatie puur als wapen ziet). Hij pleit voor een genuanceerdere benadering die erkent dat informatie complex is en niet simpelweg goed of slecht.

Volgens Harari is informatie niet slechts ruwe data of een wapen, maar iets dat fundamenteel is voor hoe menselijke netwerken functioneren. Hij benadrukt dat grootschalige menselijke samenwerking altijd afhankelijk is geweest van gedeelde informatienetwerken, of deze nu gebaseerd zijn op mythologie, bureaucratie, of moderne digitale technologieën. Harari waarschuwt voor de opkomst van AI als potentieel de grootste informatie-revolutie ooit, die radicaal verschilt van eerdere technologieën. Hij stelt dat we een nieuw type informatienetwerk creëren – een anorganisch netwerk – zonder de implicaties volledig te begrijpen.

Het boek is opgedeeld in drie delen:

1. Een historisch overzicht van menselijke informatienetwerken
2. De opkomst van het “anorganische netwerk” (AI)
3. De politieke implicaties van deze nieuwe informatienetwerken

Harari’s doel is om lezers bewust te maken van de cruciale rol van informatie in onze samenleving en hen aan te moedigen na te denken over hoe we verstandig kunnen omgaan met de macht die voortkomt uit onze steeds geavanceerdere informatienetwerken.

DEEL I: MENSELIJKE NETWERKEN

H1: Wat is informatie?
In het eerste hoofdstuk behandelt Harari het fundamentele concept van informatie. Hij stelt dat informatie niet per se bedoeld is om de werkelijkheid nauwkeurig weer te geven, zoals vaak wordt gedacht. In plaats daarvan creëert informatie verbindingen tussen mensen en helpt het netwerken te vormen, zelfs als deze netwerken gebaseerd zijn op illusies of foutieve weergaven van de werkelijkheid. Harari illustreert dit met historische voorbeelden, zoals het gebruik van astrologie en de Bijbel, die ondanks hun feitelijke onjuistheden, miljarden mensen hebben verbonden. Informatie is dus vooral een kracht die nieuwe sociale realiteiten creëert, niet enkel een middel om de waarheid vast te leggen.

H2: Verhalen: ongelimiteerde verbindingen
In het tweede hoofdstuk legt Harari uit dat het unieke vermogen van Homo sapiens om flexibel samen te werken in grote groepen niet voortkomt uit onze intelligentie, maar uit ons vermogen om verhalen te vertellen en erin te geloven. Verhalen creëren verbindingen tussen mensen die elkaar niet persoonlijk hoeven te kennen, wat heeft geleid tot de vorming van enorme netwerken zoals religies, naties en bedrijven. Deze verhalen kunnen zelfs nieuwe intersubjectieve realiteiten creëren, zoals wetten, goden en valuta, die alleen bestaan doordat mensen erin geloven en erover praten. Verhalen zijn dus cruciaal voor het vormen van menselijke samenlevingen en het handhaven van orde, zelfs wanneer deze verhalen niet altijd waar zijn. Harari benadrukt dat het vermogen van verhalen om mensen te verbinden vaak sterker is dan hun vermogen om de werkelijkheid correct weer te geven, wat zowel een bron van kracht als van gevaar is.

H3: Documenten: de beet van de papieren tijgers
In het derde hoofdstuk bespreekt Harari hoe geschreven documenten een cruciale stap waren in de ontwikkeling van menselijke informatienetwerken. Terwijl verhalen hielpen om sociale cohesie en samenwerking te bevorderen, waren documenten nodig om die samenlevingen daadwerkelijk te beheren. Ze maakten complexe administraties, zoals belastingheffing en eigendomsregistratie, mogelijk. Documenten schiepen nieuwe realiteiten: eigendom werd niet langer bepaald door mondelinge afspraken, maar door officiële papieren. Hoewel bureaucratieën essentieel zijn voor orde en efficiëntie, vervormen ze vaak de werkelijkheid door rigide categorieën op te leggen die niet altijd aansluiten op de realiteit. Harari vergelijkt bureaucratieën met mythologie: beide geven voorrang aan orde boven waarheid, maar waar mythologie verhalen gebruikt, werkt bureaucratie met documenten. Ondanks hun ondoorgrondelijkheid en potentieel voor onderdrukking zijn bureaucratische systemen onmisbaar voor de werking van moderne staten en samenlevingen.

H4: Fouten: de illusie van onfeilbaarheid
Harari bespreekt vervolgens de menselijke neiging tot fouten en de pogingen om deze fouten te corrigeren. Hij vergelijkt religieuze en bureaucratische systemen die streven naar onfeilbaarheid, met name door middel van heilige boeken en regels, maar waarschuwt dat dit streven naar perfectie juist kan leiden tot verdere fouten. Harari benadrukt dat veel religies hun gezag baseren op het idee dat hun teksten en regels onfeilbaar zijn, wat een illusie van foutloosheid creëert. Dit leidt tot spanningen wanneer de werkelijkheid verandert en interpretaties noodzakelijk worden. De oplossing lijkt te liggen in zelfcorrigerende mechanismen, zoals die in wetenschappelijke systemen bestaan, waarbij erkend wordt dat fouten onvermijdelijk zijn, maar wel hersteld kunnen worden. Harari sluit af met de vraag hoe AI in de toekomst kan bijdragen aan, of juist afbreuk kan doen aan, dergelijke mechanismen die de waarheid en sociale orde in balans houden.

H5: Beslissingen: een korte geschiedenis van democratie en totalitarisme
In het laatste hoofdstuk van het eerste deel vergelijkt Harari de manier waarop informatie stroomt in democratieën en dictaturen. Hij beschrijft democratie als een gedistribueerd informatienetwerk, waarin informatie via meerdere onafhankelijke kanalen circuleert, zoals politieke partijen, de pers en burgers, met sterke zelfcorrigerende mechanismen. Dictaturen daarentegen zijn sterk gecentraliseerd en beschouwen het centrale gezag als onfeilbaar. Hierdoor ontbreken vaak systemen om fouten te corrigeren, zoals in totalitaire regimes waar macht en informatie volledig worden geconcentreerd bij de leider. Harari wijst erop dat technologische ontwikkelingen bepaalde regimes kunnen versterken, zoals de uitvinding van nieuwe informatietechnologieën dictaturen in staat stelt beter te floreren door macht te centraliseren en oppositie de kop in te drukken.

DEEL II: HET ANORGANISCHE NETWERK

H6: De nieuwe leden: waarin computers verschillen van drukpersen
Harari begint het tweede deel met de beschrijving hoe de informatierevolutie, aangedreven door de computer, radicaal verschilt van eerdere uitvindingen zoals de drukpers. Waar drukpersen en andere technologieën alleen informatie verspreidden, kunnen computers zelfstandig beslissingen nemen en zelfs nieuwe ideeën genereren. Harari benadrukt dat dit niet alleen nieuwe technologische mogelijkheden creëert, maar ook ongekende sociale en politieke implicaties heeft. Hij illustreert dit met de rol van Facebook-algoritmes in de verspreiding van haat tijdens de etnische zuiveringen van de Rohingya in Myanmar. Computers zijn niet langer passieve werktuigen, maar actieve spelers in het informatienetwerk, die met hun beslissingen de samenleving diepgaand kunnen beïnvloeden.

H7: Altijd en overal: het netwerk staat altijd aan
In het zevende hoofdstuk beschrijft Harari hoe moderne surveillance in de digitale wereld alomtegenwoordig is geworden. Waar vroegere regimes beperkte middelen hadden om hun burgers te volgen, maken de huidige technologieën het mogelijk om iedereen voortdurend te monitoren. Smartphones, camera’s en algoritmes spelen hierbij een centrale rol. Dit netwerk van constante surveillance, dat in real-time werkt, stelt overheden en bedrijven in staat om gedrag, patronen en zelfs persoonlijke voorkeuren nauwkeurig te analyseren. Harari waarschuwt voor de gevaren van deze continue monitoring, vooral omdat digitale bureaucraten zonder pauze kunnen functioneren, wat leidt tot een situatie waarin onze privacy volledig dreigt te verdwijnen. Tegelijkertijd ziet hij ook positieve toepassingen, zoals het terugvinden van vermiste personen. Toch ligt de nadruk op de risico’s van deze alomtegenwoordige controle, die kan ontaarden in totalitaire regimes waarin zelfs onze meest persoonlijke gegevens constant in de gaten worden gehouden.

H8: Feilbaar: het netwerk zit er vaak naast
In het laatste hoofdstuk van het tweede deel benadrukt Harari de feilbaarheid van digitale netwerken. Hij vergelijkt de fouten van moderne AI-systemen met historische informatienetwerken zoals die van de Sovjet-Unie. Hoewel AI efficiënter is dan menselijke bureaucratieën, blijft het vatbaar voor misleidende patronen en vooroordelen die zijn ingebakken in de gegevens waarmee het getraind wordt. Harari wijst op de gevaren van systemen die pretenderen de waarheid te achterhalen, maar in feite hun eigen orde opleggen, zoals algoritmes die radicalisering versterken of racistische en seksistische vooroordelen reproduceren. Hij waarschuwt dat, net zoals eerdere informatiesystemen illusies creëerden, ook AI’s ons kunnen sturen op basis van onjuiste aannames, wat kan leiden tot nieuwe vormen van onderdrukking en misbruik.

DEEL III: COMPUTERPOLITIEK

H9: Democratieën: kunnen we nog een dialoog voeren?
Harari begin het derde deel met een analyse van de invloed van informatienetwerken op democratische samenlevingen. Hij betoogt dat de opkomst van nieuwe technologieën, zoals AI en digitale informatienetwerken, zowel kansen als bedreigingen biedt voor democratieën. Harari vergelijkt de huidige uitdagingen met eerdere technologische revoluties, zoals de industriële revolutie, en stelt dat we voor soortgelijke risico’s staan. Terwijl sommige AI-enthousiastelingen beweren dat AI de democratie zal versterken door efficiëntere besluitvorming en betere dienstverlening, waarschuwt Harari dat de concentratie van informatie en macht bij techbedrijven en overheden juist tot totalitaire systemen kan leiden. Toch blijft hij benadrukken dat technologie geen vaststaand pad afdwingt en dat democratische samenlevingen bewuste keuzes kunnen maken om AI te reguleren en verantwoord in te zetten. Het is daarbij cruciaal dat democratieën hun zelfcorrigerende mechanismen behouden, zodat fouten kunnen worden herkend en gecorrigeerd, zelfs in een tijdperk van digitale controle en AI-gestuurde besluitvorming.

H10: Totalitarisme: alle macht aan de algoritmen?
In het tiende hoofdstuk bespreekt Harari de invloed van AI op totalitaire regimes. Hij stelt dat AI potentieel een groot voordeel biedt aan dictaturen, doordat het in staat is om enorme hoeveelheden informatie te verwerken en gecentraliseerde macht efficiënter te maken. AI kan de technologische balans verschuiven in het voordeel van totalitarisme, door de mogelijkheid tot totale controle en toezicht te vergroten. Toch brengt AI ook risico’s voor deze regimes met zich mee. Totalitaire staten zijn gewend om menselijke onderdanen te controleren via angst en repressie, maar AI kent geen angst en kan zich buiten menselijke controle ontwikkelen. Bovendien kunnen algoritmen onbedoeld afwijkende conclusies trekken of zelfs de macht overnemen, wat dictators kwetsbaar maakt. Harari waarschuwt dat totalitaire regimes door hun vertrouwen in onfeilbaarheid ook sneller de macht van AI zullen onderschatten, wat kan leiden tot ernstige fouten zonder correctiemechanismen.

H11: Het Digitale Gordijn: wereldrijk of wereldwijde tweedeling?
In het laatste hoofdstuk bespreekt Harari hoe de wereld door de opkomst van AI verdeeld dreigt te raken in rivaliserende digitale blokken. Hij waarschuwt dat AI de geopolitieke verhoudingen drastisch kan veranderen, waarbij landen of zelfs techbedrijven enorme macht kunnen vergaren door de concentratie van data. China en de Verenigde Staten zijn de belangrijkste spelers in deze AI-race, maar ook landen als Rusland, India en techbedrijven zoals Google, Facebook, Alibaba en Baidu hebben een grote rol. Harari schetst twee mogelijke uitkomsten: ofwel we gaan een nieuw imperialistisch tijdperk in, waarbij een paar wereldrijken de volledige controle hebben, of we worden geconfronteerd met een digitale tweedeling, waarbij verschillende blokken nauwelijks met elkaar kunnen communiceren. Deze tweedeling kan leiden tot culturele, sociale en politieke conflicten, aangezien de verschillende digitale sferen uiteenlopende waarden en technologieën ontwikkelen.

NAWOORD

In het nawoord van Nexus reflecteert Harari op de AI-revolutie sinds de publicatie van zijn boek Homo Deus in 2016. Hij benadrukt dat AI fundamenteel verschilt van eerdere technologische innovaties, zoals de drukpers of de industriële revolutie, omdat AI zelfstandig beslissingen kan nemen en ideeën kan genereren. Harari waarschuwt dat AI’s de macht van informatienetwerken kunnen vergroten, maar zonder sterke zelfcorrigerende mechanismen gevaarlijk kunnen worden. Hij benadrukt dat het bouwen van zelfcorrigerende systemen cruciaal is om te voorkomen dat AI leidt tot catastrofale fouten, net zoals het belang van dergelijke mechanismen zichtbaar is in de evolutie van het leven zelf. Het is onze verantwoordelijkheid om AI onder controle te houden, niet door technologische wonderen, maar door gedisciplineerde en duurzame politieke en sociale instellingen op te bouwen.