In het interview met Éric Sadin in NRC bespreekt hij de zorgwekkende invloed van technologie en AI op de mensheid. Sadin, een Franse techfilosoof, waarschuwt voor een toekomst waarin mensen leven als ‘zombies’, gedomineerd door algoritmes. Zijn nieuwste boek, ‘La vie spectrale. Penser l’ère du métavers et des IA génératives’, richt zich op de toename van digitale integratie in het dagelijks leven, een trend die hij ziet als voornamelijk gedreven door de belangen van Big Tech.
Sadin bekritiseert de toenemende ‘spectralisering’ van het leven, waarin interacties steeds meer via digitale schermen plaatsvinden. Hij ziet de metaverse als een versnelling van deze trend, verder verwijderd van fysieke menselijke interactie. De filosoof uit ook zijn zorgen over de volledige commercialisering van het leven, mede mogelijk gemaakt door AI, waarbij alledaagse beslissingen steeds meer worden beïnvloed door winstgedreven technologieën.
De snelle ontwikkeling van technologie, volgens Sadin, vergroot de kloof tussen de realiteit en het vermogen van de samenleving om de impact ervan te begrijpen en te reguleren. Hij stelt dat technologie, met name AI, primair private belangen dient en een bedreiging vormt voor menselijke expressie en individualiteit.
Sadin bekritiseert ook de term ‘kunstmatige intelligentie’ omdat deze suggereert dat AI een equivalent is van menselijke intelligentie, terwijl het in werkelijkheid vooral gericht is op optimalisatie en commercialisering. Hij ziet de huidige trend van AI, zoals in apps die adviezen geven of beslissingen nemen, als een stap naar een toekomst waarin mensen nog meer door technologie worden gestuurd.
Sadin pleit voor een heroverweging van de rol van AI in de samenleving, en stelt zelfs voor om generatieve AI te verbieden. Hij benadrukt dat de toekomst van de mensheid niet in handen moet zijn van een kleine groep techmiljardairs, maar gestuurd moet worden door breder maatschappelijk overleg en keuzes.
Zou staatssecretaris Alexandra van Huffelen (Digitale Zaken) naar Sadin hebben geluisterd toen ze haar verbod op gebruik AI-software door ambtenaren aan het voorbereiden was? Een verbod op AI lijkt me overigens niet verstandig (kind met het badwater weggooien), maar het is inmiddels wel duidelijk dat het gebruik van AI om heldere richtlijnen en voldoende bewustzijn vraagt.
Bron: NRC (pdf)
4 reacties
Marco Derksen, heb je het boek gelezen en is het ook in het Engels of Nederlands verkrijgbaar? Ik denk niet dat ik het ga lezen, want het trekt mijn aandacht totaal niet. Van wat je schrijft gaan mijn haren overeind staan en wil ik er het volgende over kwijt. Ik weet dat veel mensen zich zorgen maken over de mogelijke negatieve gevolgen van technologieën als AI en de Metaverse, maar het is belangrijk om te weten dat ze eigenlijk alleen maar voorlopers zijn van nog betere (én socialere) technologieën (zie hiervoor visies vanuit het transhumanisme). Dus op zichzelf zijn ze geen slechte ontwikkeling. Vaak wordt commercieel belang en winst als probleem genoemd, maar dat heeft niets te maken met schermen, AI of de Metaverse. Het is belangrijk om de verantwoordelijkheid op de juiste plek te leggen en niet te snel vinger te wijzen naar deze technologieën. Een veelgehoorde angst is dat AI een bedreiging vormt voor expressie en creativiteit. Maar eigenlijk is het tegenovergestelde waar. AI kan juist inspiratie bieden voor creativiteit. Doordat AI saai werk kan automatiseren, ontstaat er meer ruimte voor creatieve expressie. Bovendien daagt AI ons uit om onze expressie naar een hoger niveau te tillen. Het is eigenlijk een samenwerking tussen AI en mensen, waarbij creativiteit gestimuleerd en verrijkt wordt. Natuurlijk zijn er wel misstanden in de wereld waar geld, macht en schuld een veel te grote rol spelen. Maar dat ligt niet aan AI zelf. Precies zoals een mes op zichzelf niet slecht is, maar wel misbruikt kan worden voor kwaadaardige doeleinden, geldt hetzelfde voor AI. Het is de verantwoordelijkheid van de gebruikers om AI ethisch en verstandig toe te passen. Toegankelijkheid en democratische besluitvorming zijn heel belangrijk in de ontwikkeling en het gebruik van AI. Generatieve AI zou niet verboden moeten worden, maar er moeten juist duidelijke richtlijnen zijn én dat alle mensen betrokken worden bij de besluitvorming. Het mag niet zo zijn dat deze nieuwe technologieën alleen in handen zijn van een selecte groep met macht over het lot van de mensheid.
Heb het boek nog niet gelezen, mijn blog is gebaseerd op het artikel in NRC. Wat mij betreft is het minder zwart-wit als hier wordt gesteld. Natuurlijk zijn er toepassingen die de samenleving gaan helpen, maar we zullen ook kritisch moeten zijn op de inzet van AI voor het nemen van geautomatiseerde beslissingen of nog meer efficientie in productieprocessen. Het is de balans die we moeten vinden imho.
Mbv de AI-tool Eightify heb ik een samenvatting laten maken van deze video waarin Éric Sadin spreekt over zijn boek:
Het toenemende gebruik van kunstmatige intelligentie (AI) in de samenleving brengt inderdaad ingrijpende veranderingen en uitdagingen met zich mee. Deze uitdagingen omvatten onder meer:
Hyperrationalisatie van de samenleving: AI draagt bij aan een steeds rationelere, efficiëntiegerichte samenleving, waarbij menselijke emoties en irrationaliteiten vaak worden genegeerd. Dit kan leiden tot een verlies van diversiteit in menselijk denken en handelen, en een verscherping van bestaande problemen.
Controle en bewaking door AI: Systemen die menselijk gedrag controleren en bewaken, kunnen individuen reduceren tot ‘robots’, waarbij hun welzijn en autonomie veronachtzaamd worden. Dit reflecteert een nieuwe vorm van kapitalisme die automatisering en privatisering prioriteert ten koste van menselijke waarden.
Dominantie van utilitarisme en vermindering van menselijke intelligentie: De nadruk op utilitarisme, waarbij de focus ligt op het maximaliseren van nut of efficiëntie, kan leiden tot een vermindering van menselijke intelligentie en creativiteit. Immateriële waarden en menselijke waardigheid kunnen hierdoor in het gedrang komen.
Verlies van menselijke vrijheid en verantwoordelijkheid: AI-systemen die namens mensen spreken en beslissingen nemen, kunnen leiden tot vervreemding van de eigen verantwoordelijkheden en vrijheden. Dit verhoogt de afhankelijkheid van particuliere bedrijven en kan een bewustzijnsverlies over het heden en zijn gevolgen veroorzaken.
Catastrofale sociale impact: AI kan leiden tot de productie van misleidende of schadelijke inhoud, zoals nepnieuws, deepfakes en haatdragende teksten. Dit ondermijnt het vertrouwen in informatiebronnen en kan sociale verdeeldheid en conflicten verergeren.
Bedreiging voor individualiteit en creativiteit: Door de toenemende afhankelijkheid van AI en automatisering lopen diverse beroepen en creatieve processen gevaar. Dit kan leiden tot een uniformiteit in denken en een verlies aan unieke menselijke bijdragen.
Uitdagingen in regulering en ethiek: Het reguleren van AI is complex en vereist een doordachte aanpak die rekening houdt met ethische, sociale en economische factoren. Er is een behoefte aan nieuwe regelgeving die deze technologieën in goede banen leidt zonder innovatie te stremmen.
Herstructurering van de samenleving: Er is een groeiende behoefte aan het herstructureren van de samenleving, waarbij deskundige beoordeling en het algemeen belang centraal staan. Dit vereist een verschuiving weg van eenzijdige modellen die door een kleine groep worden aangestuurd, naar een meer inclusieve en mensgerichte aanpak.
Het is essentieel dat er initiatieven worden genomen om deze uitdagingen aan te pakken, waarbij een brede groep stakeholders betrokken wordt. Dit omvat het uitdagen van dominante verhalen, het benadrukken van de behoefte aan menselijke zorg en interactie, en het waarborgen van ethische principes in de ontwikkeling en implementatie van AI-technologieën.
Het artikel heeft mij juist zeer geïnteresseerd gemaakt in zijn boek: is er al een vertaling beschikbaar of zonee, komt die eraan?