Bill Gates, oprichter en voormalig CEO van Microsoft, benadrukte eerder deze maand dat het belangrijk is om de kansen van AI te benutten en de bedreigingen te beperken door het ontwikkelen van verantwoordelijkheidsgevoel en toezicht. Alhoewel hij wat genuanceerder is dan de ondertekenaars van de open brief, pleit ook hij op Gatesnotes.com voor het stellen van normen voor de ontwikkeling en het gebruik van AI.

Amy Webb, futurist en oprichter van het Future Today Institute, stelde tijdens SXSW in een interview met BBC dat de zorgen over AI niet overdreven moeten worden, maar dat het ook niet verstandig is om ze te negeren. Ze benadrukt dat de ontwikkeling van AI een complex en onvoorspelbaar proces is, en dat er een reële mogelijkheid bestaat dat AI-systemen onverwachte en potentieel gevaarlijke gedragingen vertonen.

Techguru Jaron Lanier stelt in een interview met The Guardian dat het gevaar niet is dat AI ons vernietigt, maar dat het ons gek maakt. Lanier waarschuwt dat AI-algoritmen ons gedrag en onze percepties kunnen manipuleren, waardoor we verstrikt raken in een eindeloze cyclus van zelfbevestigende informatie en filterbubbels. Dit kan leiden tot extreme politieke opvattingen, paranoia, angst en depressie, en kan ons vermogen om onze eigen gedachten en emoties te begrijpen en te beheersen aantasten. Lanier pleit voor meer menselijke controle over AI-systemen en meer transparantie over de manier waarop deze systemen werken en hoe ze worden ontwikkeld en gebruikt.

Het is duidelijk dat de transparantie van AI-algoritmen omhoog moet, er normen moeten komen voor de ontwikkeling en het gebruik van AI, dat er onafhankelijk toezicht op AI komt en dat er meer aandacht moet komen voor de AI-ethiek. Maar toch vind ik het opmerkelijk dat vooral belanghebbenden deze open brief hebben opgesteld. Wat proberen ze hier nu mee te bereiken?

Arvind Narayanan, een associate professor computerwetenschappen aan de Princeton University en een AI-expert, heeft op Twitter kritiek geuit op de open brief. Hij betoogt dat de brief bijdraagt aan het versterken van de AI-hype en het juist moeilijker maakt om reële AI-risico’s aan te pakken die zich al voordoen. Volgens hem kan de open brief juist in het voordeel werken van de bedrijven die het zou moeten reguleren en niet ten goede komen aan de samenleving.

Ook Emily Bender, professor Computerwetenschappen aan de Universiteit van Washington, heeft op Twitter kritiek op de open brief en betoogt dat deze is doordrenkt met AI-hype. Ze benadrukt dat de open brief de AI-hype alleen maar versterkt, terwijl de echte problemen die moeten worden aangepakt in de AI-industrie elders liggen. Ze stelt voor dat de ontwikkeling van AI-systemen zich moet richten op meer nauwkeurigheid, veiligheid, transparantie en interpretatie:

Dichter bij huis stelt Piek Visser-Knijff op LinkedIn dat er momenteel een dominante trend is van “techsaviorism”, waarbij de nadruk ligt op de technische oplossingen voor complexe maatschappelijke problemen en waarbij de rol van maatschappelijke factoren wordt geminimaliseerd. Ze onderstreept het belang van een kritische reflectie op de ontwikkeling en gebruik van AI, maar waarschuwt ook voor het narratief waar de ondertekenaars van de open brief ons in meenemen.

Ook het LinkedIn-bericht van Siri Beerends gaat over de angst voor AI en de rol van narratieven daarbij. “We gaan niet ten onder aan de intelligentie van computers, maar aan onze eigen stupiditeit en nihilisme” aldus Beerends.

Als we nu alles op een rij zetten, is dan de open brief een terrechte waarschuwing aan de samenleving of is het vooral bedoeld om een angst-narratief te creeeren en de AI hype verder aan te jagen? De open brief heeft zeker veel aandacht gekregen en draagt bij aan het debat over de risico’s en kansen van AI-technologie. Het is ook een duidelijke oproep aan de AI-gemeenschap om na te denken over de impact van hun onderzoek en de ontwikkeling van verantwoordelijke AI-systemen te bevorderen.

Sommige critici stellen dat de brief overdreven angst zaait over de ontwikkeling van AI-systemen en bijdraagt aan de AI-hype. Ze wijzen erop dat sommige van de risico’s die in de brief worden genoemd, overdreven zijn en dat er weinig bewijs is om de beweringen te ondersteunen dat AI-systemen een directe bedreiging vormen voor de mensheid.

Aan de andere kant zijn er ook critici die stellen dat de brief niet ver genoeg gaat en niet voldoende aandacht besteedt aan de bredere maatschappelijke en ethische implicaties van AI. Ze benadrukken dat er meer aandacht moet worden besteed aan de manier waarop AI-technologieën kunnen worden gebruikt om sociale ongelijkheid te versterken, privacy te schenden en andere schadelijke gevolgen te hebben.

De angst voor AI op de korte termijn lijkt onterecht, maar het is duidelijk dat er meer aandacht moet komen voor de maatschappelijke en ethische implicaties van AI-technologieën en dat er meer verantwoordelijkheid moet worden genomen door de AI-gemeenschap om deze problemen aan te pakken. De oproep voor een tijdelijke pauze van AI ontwikkelingen lijkt niet alleen onrealistisch, het is nog maar de vraag of het bijdraagt aan de aanpak van de werkelijke uitdagingen van AI!