Ik begon mijn bijdrage met het verhaal van Omelas.

Omelas is een prachtige stad aan de kust waar de zon altijd schijnt. Omelas is een stad waar geen koningen, geen slaven en geen oorlogen zijn. Omelas is een stad die alleen geluk en voorspoed kent. In de straten van Omelas horen we muziek en zien we mensen dansen. Kortom, de mensen van Omelas zijn er ultiem gelukkig.

Maar, net zoals in de sprookjes van vroeger, heeft ook deze utopische stad een geheim. De voorwaarde voor dit gelukkige leven, is dat er ergens verborgen in een donkere kelder in de stad een kind wordt vastgehouden. Dit kind, verwaarloosd en vergeten, is de prijs die de mensen in Omelas moeten betalen voor hun geluk en voorspoed. Iedereen in Omelas weet van het geheim, maar niemand spreekt erover.

Dit filosofische verhaal over Omelas werd mij begin dit jaar verteld door een ethicus en heeft mij een ander perspectief gegeven op de huidige ontwikkelingen van kunstmatige intelligentie of AI.

Het raakte mij vooral omdat ik net als vele anderen iedere dag weer met verwondering en bewondering kijk naar de huidige ontwikkelingen van AI.

Tijdens mijn studie eind jaren 80 ben ik afgestudeerd op onderzoek naar de toepassingen van AI in de scheikunde. Na mijn studie heb ik nog enkele jaren gewerkt aan onderzoek hoe AI zou kunnen helpen om te komen tot betere geneesmiddelen. Samen met collega’s van Organon heb ik in 1996 een prijs gewonnen voor een AI-model waarmee we de bio-activiteit in geneesmiddelen konden voorspellen op basis van laboratorium-experimenten. Met deze nieuwe test kon het jaarlijks gebruik van dieren bij Organon aanzienlijk worden verminderd.

De publieke belangstelling voor AI verdween in de jaren 90 toen bleek dat de computers onvoldoende rekenkracht hadden en er nog te weinig data beschikbaar was om AI-modellen te ontwikkelen die echt toepasbaar waren in de praktijk.

Met de opkomst van snellere computers en vooral de opkomst van mobiel internet en sociale media waardoor er data in overvloed kwam, is AI inmiddels in de derde AI-zomer bezig en zien we steeds meer toepassingen waarover we destijds alleen maar konden dromen.

AI heeft zich de laatste jaren ontwikkeld van patroonherkenning naar het genereren van patronen. Van het herkennen van plaatjes en muzieknummers naar het genereren van teksten en foto’s. Als je maar genoeg data hebt, dan kun je daar – kort door de bocht – een AI-model op trainen.

We kennen inmiddels allemaal de voorbeelden als ChatGPT om ons huiswerk te maken of Midjourney om leuke plaatjes te genereren, maar de echte beloften van AI ligt vooral op het gebied waar het ons kan helpen om complexe, maatschappelijke problemen op te lossen. Denk daarbij aan klimaatverandering, energietransitie of de uitdagingen op het gebied van onderwijs, veiligheid en zorg.

Vooral de recente stap van patroonherkenning naar het genereren van patronen (wat we ook wel generatieve AI noemen), leidt tot controverse. We maken immers de stap van wat we ook wel noemen narrow AI (AI die heel goed zijn in één specifieke taak) naar general AI (AI die is getraind om te schaken, maar ook ineens het Japanse bordspel Go kan spelen; of AI die is getraind op Westerse talen ineens ook een Afrikaanse taal kent). Dat hadden de AI-experts pas voorspeld voor 2040.

Ondertussen komt er steeds meer aandacht voor het verwaarloosde kind in de kelder. Vanuit de AI-wereld waarschuwen mensen als Elon Musk, Sam Altman (OpenAI) en Geoffrey Hinton (toen nog Google) de samenleving voor de existentiële risico’s van AI en hebben begin dit jaar een oproep gedaan om een pauze in te lassen op de doorontwikkeling van AI.

Existentiële risico’s zijn risico’s die de potentie hebben om de gehele mensheid uit te roeien. We kennen ze vooral vanuit de SF-films waar robots en machines de macht overnemen en de mens uitroeien.

De oproep kreeg vooral steun vanuit de AI-wereld zelf, critici waaronder veel ethici beweren dat het een marketing-truuk is waarbij ze AI groter maken dan het is en ondertussen de aandacht afleiden van de echte risico’s die vandaag al spelen. Ze zouden vooral bang zijn dat door wet- en regelgeving hun businessmodel op korte termijn een gevaar loopt.

Deze existentiele risico’s zijn niet het echte kind in de kelder. Het echte kind in de kelder zijn de ethische dilemma’s die nu al spelen.

Privacy en copyrights: Veel data is afkomstig door het internet af te struinen waarbij databanken zoals Wikipedia, Google books, sociale media en fora worden gebruikt om AI-modellen te trainen. De vraag is of al die data wel rechtmatig is verkregen. Veel artiesten en schrijvers herkennen hun werk terug in de antwoorden van AI terwijl ze aan de andere kant hun banen zien verdwijnen door de inzet van AI.

Betrouwbaarheid: AI is geen zoekmachine maar een statistisch model dat op basis van de data waarop het getraind is een voorspelling doet met een bepaalde betrouwbaarheid. Bovendien kan het ook niet de bronnen vermelden waarop het is gebaseerd of een toelichting geven hoe het tot een antwoord is gekomen. Vaak gaat het goed, maar in voorkomende gevallen komt het ook met onzinnige resultaten. Denk aan het voorbeeld waarin Elon Musk is verongelukt met een Tesla of het voorbeeld waarin een advocaat die in zijn pleidooi komt met verzonnen jurisprudentie.

Bias (vooroordelen): Het resultaat van AI is sterk afhankelijk van de data waarop het getraind is. Zo blijkt dat de meeste AI-modellen zijn getraind op data afkomstig uit de Westerse wereld en dan met name de VS. Daarmee zal het antwoord van AI gekleurd zijn. Bekende voorbeelden zijn de beelden van vooral donker geleurde mannen met baard als wordt gevraagd om een beeld te maken van een terrorist, maar ook voorbeelden waar je cultuurafhankelijke antwoorden krijgt die niet passen. Op een medische vraag kun je het antwoord krijgen om vooral eerst naar de medisch specialist te gaan, maar in Nederland kan dat niet, daar moet je eerst via de huisarts. Dat is in de VS anders.

AI Model Collapse: En wat te denken van de door AI gegenereerde data die nu steeds meer online is te vinden (in 2026 is 90% van de data afkomstig van AI). Wat gebeurt er als deze data wordt gebruikt om de nieuwe AI-modellen te trainen? Wat als daar significante fouten in zitten (en die kans is groot)? Wat betekent het als wij straks die AI-modellen gaan gebruiken in de praktijk? We noemen dit ook wel de gekke koeienziekte van AI.

En zo kunnen we nog wel even doorgaan met ethische dilemma’s die nu vandaag al spelen. Denk alleen maar eens aan de risico’s voor de samenleving als straks de macht bij een beperkt aantal grote techbedrijven ligt, of aan het enorme energie en watergebruik om AI-modellen te trainen. En dan hebben we het nog niet eens gehad over de lage lonen voor de mensen die onder erbarmelijke omstandigheden de data opschonen die nodig is voor het trainen van de AI-modellen.

Het verhaal van Omelas is van de SF-auteur Ursula K. Le Guin die in 1973 het kort filosofische verhaal “The Ones Who Walk Away from Omelas” (Zij die wegliepen uit Omelas) scheef.

De prachtige stad Omelas, het gelukkige leven van de mensen in de stad onder de voorwaarde dat er klein kind in de kelder wordt vastgehouden. Elke inwoner van Omelas wordt als hij of zij oud genoeg is op een bepaald moment in hun leven geconfronteerd met dit vreselijke geheim, en hoewel de meesten de situatie stilzwijgend accepteren, zijn er enkelen die kiezen om weg te lopen uit de stad. Niemand weet waarheen of wat er met de mensen gebeurt. Zij die wegliepen uit Omelas.

Ik heb destijds de risico’s van sociale media niet gezien en onderschat. Ook daar zag ik vooral de prachtige stad Omelas en verwaarloosde ik het kind in de kelder. Ik hoop dat wij vandaag de dag kritischer zijn op de ontwikkelingen van AI.

En bij iedere AI-toepassing zouden we ons de volgende vragen moeten stellen:

• Moeten we het überhaupt gebruiken?
• Wat levert het op?
• Wie worden er beter van?
• Hoe behouden we de menselijke maat?
• Wat is de prijs van AI?

Tot slot stelde ik het publiek de vraag:

Welke prijs ben jij bereid te betalen voor het gebruik van AI?

En yes, I did it, mijn eerste TED-talk! 😉