AI voor advies aan IC-artsen
Het Amsterdam UMC kondigde gister vol trots aan dat ze een AI-systeem hebben ontwikkeld voor op de Intensive Care (IC). Dit systeem zal internisten advies gaan geven over wanneer een patiënt ontslagen kan worden van de IC en daarmee naar de verpleegafdeling kan. Het systeem heeft hiervoor toegang tot het elektronische patiëntendossier.
Het AI-systeem zal internisten advies geven over een belangrijke beslissing: moet een patiënt nog op de IC blijven? Hierbij spelen meerdere belangen. Een patiënt kan er na een te vroege verplaatsing weer op achteruit gaan en daardoor weer terug moeten naar de IC. Dit verhoogt het risico op overlijden. Aan de andere kant is de IC niet comfortabel voor de patiënt en de plekken zijn kostbaar.
Hoe werkt het AI-systeem? Het systeem probeert op basis van de behandelingsgeschiedenis van bijna 25000 patiënten die op de IC hebben gelegen van het Amsterdam UMC te voorspellen wat de kans is dat een patiënt binnen een week weer terug naar de IC moet. Het systeem laat naast de voorspelling ook zien hoe de voorspelling is veranderd en welke factoren een grote rol spelen. Dit leidt tot een advies voor de internist die dit mee kan nemen in het uiteindelijke besluit. De internist blijft uiteraard de eindverantwoordelijke.
Er zijn weinig mensen die staan te springen om hun behandeling te laten bepalen door een computer, dus die zullen zich misschien zorgen maken om dit systeem. Het is bekend dat het gebruik van hulpmiddelen zoals een checklist[1] of een simpele beslisboom[2] leidt tot betere behandelingsresultaten. Dit systeem zal een vergelijkbare rol krijgen en geeft de internist een referentiekader voor de beslissing.
Vanuit een juridisch perspectief zijn er nog wel een aantal interessante kwesties. Ten eerste het gebruik van de patiëntgegevens. Dit zijn bijzondere persoonsgegevens, en die mogen niet zomaar gebruikt worden voor het ontwikkelen van een AI-systeem. Op basis van Artikel 24 UAVG[3] moet er uitdrukkelijke toestemming worden gevraagd aan de patiënten of, als dit niet (praktisch) mogelijk is, moet er aan een aantal andere eisen worden voldaan:[4]
- De verwerking van de gegevens moet noodzakelijk zijn voor het onderzoek;
- Het onderzoek moet het algemeen belang dienen;
- Er moeten passende dataminimalisatie-maatregelen worden getroffen; en
- Bij de uitvoering moet de persoonlijke levenssfeer van de patiënt niet geschaad worden.
Als maatregel heeft het Amsterdam UMC de persoonsgegevens gepseudonimiseerd, wat inhoudt dat het bedrijf dat het AI-systeem ontwikkelt niet over alle informatie beschikt en dus niet zelf in staat is om de individuele patiënten te identificeren. Het is echter wel belangrijk dat deze ontwikkelaar de gegevens goed beschermt, want ondanks de pseudonimisering kan het zijn dat andere mensen er wel weer individuen uit kunnen halen.
Voor de lange termijn zal het Amsterdam UMC het systeem moeten blijven bijwerken, omdat een ziekte als Covid-19 dan bijvoorbeeld minder bepalend is voor de bezetting van de IC. Hierbij kan een eventuele uitrol naar andere ziekenhuizen ook helpen, als die ook mee willen helpen met het ontwikkelen.
De grote vraag wordt natuurlijk wel of er straks bij het Amsterdam UMC betere ontslagbeslissingen worden genomen op de IC. Hiervoor zullen we een tijdje moeten wachten, de hoop is dat dit systeem een waardevolle hulp voor de internisten zal worden.
[1] Atul Gawande (2009), The Checklist Manifesto
[2] Paul E. Meehl (1996), Clinical Versus Statistical Prediction: A Theoretical Analysis and a Review of the Evidence
[3] Uitvoeringswet Algemene Verordening Gegevensbescherming
