AI in de Indonesische verkiezingen

• AI werd op grote schaal ingezet in de campagnes van de kandidaten, zoals het genereren van content, strategieën en speeches met behulp van tools als ChatGPT.
• De digitale campagneteams maakten gebruik van AI-dashboards om narratieven te synchroniseren en te verspreiden via sociale media.
• Een ‘schattige’ AI-gegenereerde versie van Prabowo Subianto, de uiteindelijke winnaar, ging viraal op TikTok en verbeterde zijn imago bij jonge kiezers.
• Tegenstanders claimden dat botnetwerken werden ingezet om binnen een minuut honderden commentaren te plaatsen op sociale media.

Zorgen over AI en verkiezingen

• Deskundigen waarschuwen voor de bedreiging van AI voor de democratie als er geen regels worden gesteld.
• Techbedrijven als OpenAI en Google erkennen de risico’s en proberen beperkingen in te stellen, maar die blijken niet waterdicht.
• In tests kon AI-chatbots als ChatGPT en Copilot strategieën voorstellen om desinformatie te verspreiden en kiezers te ontmoedigen om te stemmen, ondanks disclaimers.

Toekomst en regulering

• 2024 wordt gezien als een cruciaal jaar met veel verkiezingen en de opkomst van krachtige AI-tools.
• Techbedrijven hebben een akkoord gesloten om misleiding bij verkiezingen tegen te gaan, maar de handhaving is onduidelijk.
• Er is behoefte aan duidelijke spelregels en transparantie over hoe AI verantwoord kan worden ingezet bij verkiezingen.

In het korte videofragment hierboven, horen we Anthony Leong die tijdens de verkiezingen in Indonesië een team coordineerde van 15.000 digitale vrijwilligers. Daarbij gebruikten ze een AI-dashboard om de campagne van Prabowo Subianto te ondersteunen. Het dashboard maakt gebruik van tools als ChatGPT om automatisch campagnestrategieën, speeches en social media content te genereren. Met het dashboard kunnen ze snel narratieven harmoniseren en synchroniseren over verschillende sociale mediakanalen. Anthony laat zien hoe ze met één druk op de knop AI kunnen inzetten om bijvoorbeeld Instagram captions te schrijven, gericht op specifieke doelgroepen.

Anthony geeft toe dat ze het dashboard soms gebruikten om positieve commentaren te genereren om een “buzzer” effect te creëren voor bepaalde content. Hoewel hij ontkent dat ze botnetwerken inzetten, erkent hij wel dat ze de “richting” konden sturen door hun grote aantal vrijwilligers gecoördineerd te laten reageren. Anthony’s tegenstander Razi claimde dat ze binnen een minuut honderden negatieve commentaren kregen die waarschijnlijk door bots werden gegenereerd. Dit zorgde voor een “oorlogssituatie” waarbij ze zich vooral moesten verdedigen in plaats van campagne voeren.

De opkomst van AI-tools zoals ChatGPT en de mogelijkheden voor deepfakes en desinformatie vormen een serieuze uitdaging voor de integriteit van verkiezingen, ook in Nederland. Om ons hierop voor te bereiden, zijn wat mij betreft een aantal stappen cruciaal:

• De EU AI Act, die regels stelt voor het gebruik van AI, moet zo snel mogelijk worden aangenomen en geïmplementeerd. Dit moet gepaard gaan met duidelijke richtlijnen en handhaving voor het verantwoord inzetten van AI in verkiezingscampagnes. Transparantie over de inzet van AI-tools door partijen en kandidaten is essentieel.
• Er moet fors worden geïnvesteerd in digitale en AI-geletterdheid onder burgers, zodat zij beter in staat zijn om desinformatie, deepfakes en nepnieuws te herkennen. Dit kan via educatiecampagnes en lessen op scholen en bibliotheken.
• Techbedrijven moeten nauwer samenwerken met overheden en toezichthouders om misbruik van hun AI-tools tegen te gaan. De zelfopgelegde regels blijken nog onvoldoende waterdicht. Er is meer transparantie nodig over de werking van algoritmes en betere detectie van deepfakes.
• Er moet een breed maatschappelijk debat worden gevoerd over welke publieke waarden zoals transparantie, gelijkheid en inclusiviteit we willen borgen bij de inzet van AI door overheden en politieke partijen. Algoritmes mogen democratische principes niet ondermijnen. Deze speciale afleveringen van Nieuwsuur Ophef zijn daar al een goed voorbeeld van.

Door een combinatie van wetgeving, digitale bewustwording, samenwerking met techbedrijven, onafhankelijk toezicht en een ethisch kader kan Nederland zich wapenen tegen de risico’s van AI voor de verkiezingen. De urgentie is groot, gezien de snelle ontwikkelingen en de vele verkiezingen dit jaar wereldwijd!