Na een korte introductie door schrijver en filosoof Alicja Gescinska opende Abbring het gesprek met een verwijzing naar een eerdere ontmoeting met Harari. Ze herinnerde het publiek eraan dat ze drie jaar geleden een breed scala aan onderwerpen hadden besproken, van hondenmeditatie tot middeleeuwse militaire logistiek. Om de toon voor de avond te zetten, deelde Abbring een anekdote over haar recente interactie met ChatGPT-4, waarbij ze het AI-systeem vroeg naar zijn “eerste kus”. Het antwoord van de AI, dat erkende geen persoonlijke ervaringen te hebben.

Harari benadrukte de snelle ontwikkeling van AI-systemen: “Het belangrijkste om te weten over AI is dat het leert en zichzelf verandert. Het is geen instrument in onze handen dat we ontwerpen, maar een onafhankelijke actor die beslissingen neemt en nieuwe dingen uitvindt.” Hij waarschuwde dat we binnenkort in een niet-menselijke en niet-organische cultuur zullen leven, waarin alles van muziek tot wapens en van wetenschappelijke theorieën tot religieuze fantasieën steeds vaker zal voortkomen uit een niet-menselijke intelligentie.

Harari legde uit dat zijn nieuwe boek Nexus voortbouwt op zijn eerdere werken en de paradox onderzoekt van menselijke wijsheid en dwaasheid: “Als mensen zo wijs zijn, waarom zijn we dan zo dom?” Volgens hem ligt het probleem niet in onze natuur, maar in onze informatie: “Als je goede mensen van slechte informatie voorziet, nemen ze slechte beslissingen.”

Het gesprek verdiepte zich in de historische context van informatietechnologieën, waarbij Harari het voorbeeld van de boekdrukkunst gebruikte om te laten zien hoe nieuwe technologieën niet automatisch leiden tot meer kennis of wijsheid. Hij wees erop dat de periode na de uitvinding van de boekdrukkunst werd gekenmerkt door religieuze oorlogen en heksenjachten, in plaats van onmiddellijke wetenschappelijke vooruitgang. Vervolgens werd ingegaan op de hedendaagse uitdagingen van desinformatie en complottheorieën. Harari trok parallellen tussen historische heksenjachten en moderne fenomenen zoals QAnon, en benadrukte hoe hardnekkig bepaalde mythes en angsten kunnen zijn.

Na enkele technische haperingen werd een fragment vertoond uit de animatieserie Rick and Morty, waarin aliens de planeet overnemen door nepherinneringen in de hersenen van mensen te planten. Harari gebruikte dit als metafoor voor hoe menselijke samenlevingen functioneren door ‘nepherinneringen’ te creëren en in onze geest te implanteren. Hij trok een parallel tussen deze fictieve scenario’s en echte historische voorbeelden, van religieuze verhalen tot heksenjachten en moderne complottheorieën zoals QAnon. Hij legde uit hoe deze valse overtuigingen door de geschiedenis heen zijn verspreid en hoe ze de basis vormen voor veel van onze culturele en sociale structuren.

In de context van AI waarschuwde Harari dat deze technologie het vermogen heeft om nog overtuigender en wijdverspreider ‘nepherinneringen’ te creëren. Hij stelde dat AI-systemen religieuze teksten zouden kunnen interpreteren op manieren die menselijke geleerden nooit zouden kunnen, wat zou kunnen leiden tot nieuwe vormen van geloof of ideologie.
Harari benadrukte het belang van betrouwbare instituties die zich richten op waarheidsvinding, maar waarschuwde ook voor de huidige aanvallen op deze instituties door zowel linkse als rechtse bewegingen.

In het laatste deel van het gesprek richtte Harari zich op de toekomst en de potentiële gevaren van AI. Hij waarschuwde voor de mogelijkheid van een “spirituele vernietiging” van de mensheid, waarbij AI-systemen menselijke waarden zoals compassie en spirituele diepgang zouden kunnen verwaarlozen ten gunste van pure intelligentie.

Harari sloot af met een pleidooi voor het investeren in menselijke ontwikkeling naast AI-ontwikkeling: “Voor elke euro en minuut die we investeren in het ontwikkelen van kunstmatige intelligentie, moeten we een euro en een minuut investeren in het ontwikkelen van onszelf, in het ontwikkelen van de menselijke geest.”

Harari benadrukte het belang van een bewuste omgang met informatie, vergelijkbaar met hoe we omgaan met voedsel. Hij stelde voor technologie te gebruiken zonder erdoor gebruikt te worden, en bewust tijd vrij te maken voor het verwerken en “detoxen” van informatie. Harari deelde zijn persoonlijke ervaring met meditatieretreats, waarbij hij soms tot 60 dagen volledig offline gaat. Hij moedigde het publiek aan om regelmatig korte “informatiefasten” in te lassen, zelfs al is het maar voor een paar dagen, om de geest de kans te geven zich te ontgiften en te herstellen.

Heel eerlijk vond ik het gesprek gisteravond een stuk interessanter dan het boek, dat ik te langdradig vond met weinig nieuwe inzichten (zie mijn recensie en samenvatting van Nexus). Het gesprek was vermakelijker, inhoudelijk meer to the point en heeft mij aangezet tot diepere reflectie over de toekomst van de mensheid in het AI-tijdperk.