De afgelopen jaren heeft AI een steeds grotere rol gekregen in de gezondheidszorg. Van diagnostische systemen en klinische besluitvorming tot logistieke optimalisatie en patiëntmonitoring: AI belooft efficiëntere, nauwkeurigere en beter schaalbare zorg. Zie ook mijn eerdere blog over AI in de zorg.
Toch brengt deze technologische vooruitgang uitdagingen met zich mee, zoals bias in AI-modellen (waardoor bepaalde patiëntgroepen slechter worden bediend), gebrek aan transparantie (waardoor zorgverleners AI-beslissingen moeilijk kunnen vertrouwen) en juridische en ethische onzekerheden (vooral rond privacy en gegevensbescherming).
Om deze problemen aan te pakken, heeft een internationaal consortium van onderzoekers en zorgexperts de FUTURE-AI-richtlijnen opgesteld. Dit raamwerk, dat afgelopen week is gepubliceerd in the BMJ, biedt een holistische benadering om AI betrouwbaar, ethisch en klinisch bruikbaar te maken.
De kernprincipes van FUTURE-AI
FUTURE-AI is opgebouwd rond zes fundamentele principes die samen een raamwerk vormen voor verantwoorde AI-toepassingen in de zorg.
Fairness (eerlijkheid)
AI moet eerlijk en inclusief zijn, zonder bias tegen bepaalde patiëntgroepen. In de praktijk betekent dit:
- diversiteit in trainingsdata: AI-modellen moeten worden getraind met gegevens van diverse patiëntpopulaties om te voorkomen dat ze systematisch bepaalde groepen benadelen;
- transparantie over bias: zorginstellingen en ontwikkelaars moeten bias-metrics toepassen en openbaar maken hoe het model presteert voor verschillende demografische groepen;
- actieve mitigatie van bias: door methoden zoals adversarial debiasing of equalized odds kunnen ontwikkelaars bias detecteren en corrigeren.
Voorbeeld:
Een AI-model dat de kans op hartziekten voorspelt, moet even goed presteren voor mannen als voor vrouwen, ondanks dat hartziekten zich vaak met andere symptomen manifesteren bij vrouwen.
Universality (universaliteit)
AI moet breed toepasbaar zijn in verschillende zorgcontexten en niet beperkt blijven tot een enkele instelling of dataset. Dit wordt bereikt door:
- gebruik van multi-source datasets: AI-modellen moeten worden getraind op gegevens van verschillende ziekenhuizen en regio’s;
- testen op generaliseerbaarheid: het model moet niet alleen goed presteren in de ontwikkelomgeving, maar ook in nieuwe en onbekende settings;
- aanpasbaarheid aan diverse populaties: AI-systemen moeten flexibel zijn en zich kunnen aanpassen aan verschillen in medische praktijken en populaties.
Voorbeeld:
Een AI-model dat doorligwonden voorspelt (zoals DRAAI) moet werken in zowel academische ziekenhuizen als verpleeghuizen, ondanks verschillen in zorgpraktijken en patiëntenpopulaties.
Traceability (traceerbaarheid)
AI-beslissingen moeten herleidbaar en begrijpelijk zijn voor zorgverleners en beleidsmakers. Dit kan door:
- transparante documentatie: elke stap in de ontwikkeling van een AI-model moet worden gedocumenteerd;
- audit trails: zorgverleners moeten kunnen achterhalen welke data en berekeningen tot een bepaalde AI-voorspelling hebben geleid;
- toegankelijke logboeken: AI-systemen moeten logs genereren die inzicht bieden in de werking van het model.
Voorbeeld:
Bij een no-show-voorspelmodel in ziekenhuizen moet een arts kunnen zien waarom een patiënt als risicogeval is gemarkeerd (bijvoorbeeld eerdere gemiste afspraken, afstand tot de kliniek of medische voorgeschiedenis).
Usability (gebruiksvriendelijkheid)
AI moet intuïtief en efficiënt in de klinische praktijk kunnen worden ingezet. Dit betekent:
- EPD-integratie: AI-uitvoer moet direct beschikbaar zijn in het elektronisch patiëntendossier (EPD) en niet in een aparte interface;
- duidelijke aanbevelingen: de AI moet niet alleen een risico voorspellen, maar ook concrete aanbevelingen doen (bijvoorbeeld “Draai patiënt binnen 30 minuten om decubitus te voorkomen”);
- training en ondersteuning: zorgverleners moeten worden getraind in hoe ze AI-beslissingen kunnen interpreteren en toepassen.
Voorbeeld:
Een AI-model dat medicatievoorschriften optimaliseert, moet eenvoudig bruikbaar zijn voor artsen en apothekers zonder extra stappen in hun workflow toe te voegen.
Robustness (robuustheid)
AI-modellen moeten betrouwbaar blijven presteren onder wisselende omstandigheden. Dit vereist:
- continue monitoring en hertraining: AI-modellen moeten regelmatig worden geüpdatet met nieuwe data om relevant te blijven;
- fail-safe-mechanismen: AI-systemen mogen geen beslissingen afdwingen zonder menselijke supervisie;
- tests onder verschillende scenario’s: modellen moeten worden blootgesteld aan variërende situaties, zoals pandemieën of extreme weersomstandigheden.
Voorbeeld:
Een AI-model dat ICU-bedden toewijst, moet robuust blijven presteren tijdens een griepepidemie of een COVID-19-uitbraak.
Explainability (verklaarbaarheid)
AI moet begrijpelijk zijn voor artsen en patiënten. Dit kan worden bereikt door:
- gebruik van Explainable AI (XAI): methodes zoals SHAP en LIME kunnen uitleggen welke factoren de AI-beslissing beïnvloeden;
- visuele hulpmiddelen: AI-uitvoer moet begrijpelijk worden gepresenteerd, bijvoorbeeld in kleurgecodeerde risico-indicatoren;
- gebruikersfeedback integreren: zorgverleners en patiënten moeten AI-beslissingen kunnen begrijpen en waar nodig in twijfel trekken.
Voorbeeld:
Een AI-model dat een kankerdiagnose ondersteunt, moet aangeven welke kenmerken van een medische scan hebben bijgedragen aan de diagnose, zodat artsen kunnen valideren of de aanbeveling correct is.
FUTURE-AI biedt mijn inziens een goed kader voor de implementatie van AI in de gezondheidszorg. Door deze zes principes toe te passen, kunnen AI-systemen worden ontwikkeld die niet alleen technologisch geavanceerd zijn, maar ook ethisch verantwoord, robuust en gebruiksvriendelijk. Niet alleen in de zorg overigens!
