Artificiële intelligentie (AI) maakt een opmars in alle facetten van het dagelijks leven. Zo lijkt AI ook in bijna alle delen van het ziekenhuis wel gebruikt te kunnen worden. Maar wat zijn de voordelen en risico’s van AI in het ziekenhuis?
Henkjan Huisman, hoogleraar AI voor medische beeldvorming bij het Radboudumc
‘Een heleboel mensen zien AI nog onterecht als tool. Het moet bijvoorbeeld radiologen en pathologen sneller maken. De insteek van AI is dan vooral ondersteuning. Maar bij radiologie zijn er ook al voorbeelden dat autonome AI niet alleen sneller maar ook beter kan diagnosticeren. Kijk bijvoorbeeld naar projecten als Pi-cai voor prostaatkanker en Panorama voor alvleesklierkanker. AI gebruiken om zelfstandig dingen te doen kan in sommige gevallen al beter werken dan AI als tool. Het is dus reuze interessant wat deze technologische ontwikkelingen de zorg de komende jaren gaan brengen.
‘Als AI autonoom ingezet wordt, moet het wel goed blijven werken. Daarom zijn we nu met monitoring bezig. Hierbij maken we een soort indicator die groen blijft zolang de AI goed functioneert. De AI doet het werk, maar 10 procent wordt achteraf nog een keer bekeken door een arts. Dat zorgt voor kwaliteitsbewaking. Als de AI en de arts het eens zijn met elkaar, dan blijft de indicator groen. Als ze te veel van elkaar afwijken, gaat de indicator op rood.
‘De artsen gaan niet weg; die blijven de controle. In de ontwikkeling zitten artsen die feedback blijven geven op de werking van de AI. De rol van de artsen zal enkel veranderen, niet verdwijnen. De dagelijkse klusjes kunnen meer door AI opgepakt worden. Hierdoor houden artsen meer tijd over die zij kunnen inzetten om na te denken over hoe zij de methode nog beter kunnen maken of de kwaliteit kunnen bewaken. Uiteindelijk zou AI de arts ontlasten van de hoge druk die nu ervaren wordt, waardoor betere en betaalbare zorg geleverd kan worden.
‘Natuurlijk zijn er risico’s. Het niet bewaken van AI vind ik een enorm risico. Een AI maken is super simpel, maar het is best ingewikkeld om betrouwbare AI te maken die beter is dan de bestaande zorg. Tegelijkertijd is het belangrijk om de techniek breed in te zetten als wij als ziekenhuis weten dat er goed naar gekeken is, om de alsmaar toenemende werkdruk in de zorg te verminderen.’
Michel van Genderen, internist-intensivist en mede-oprichter van het Responsible and Ethical AI for Healthcare Lab
‘Er wordt wereldwijd enorm geïnvesteerd in AI-onderzoek, maar het gros van de modellen blijft steken in de prototypefase. Minder dan 2 procent van alle modellen wordt daadwerkelijk geïmplementeerd in de klinische praktijk. Waarom er dan zo weinig modellen zijn die daadwerkelijk in de kliniek gebruikt worden? Wij zien dat cruciale randvoorwaarden als beheer, validatie, integratie in werkprocessen en bovenal ethische verankering ontbreken.
‘Als je kijkt naar de snelheid waarmee de Verenigde Staten en China AI implementeren, zou je kunnen zeggen dat het ethisch onverantwoord is om niet mee te bewegen met deze AI-ontwikkeling. Maar snelheid zonder duidelijke maatstaaf is geen vooruitgang. Wij moeten zélf definiëren wat verantwoorde implementatie betekent. Waar een model ook vandaan komt, je moet altijd kunnen uitleggen hoe het werkt, op welke data het is getraind en voor wie het betrouwbaar is. AI moet voor de zwarte en witte man en vrouw even goed werken en we weten nu gewoon dat dat niet zo is. Is het dan verantwoord om op grote schaal te gaan implementeren? Ik denk dat daar nu geen goed of fout in is, maar het is wel belangrijk om deze discussies te voeren.
‘Wat we nu vaak zien, is dat modellen worden ontwikkeld zonder helder klinisch einddoel. Het gevolg daarvan is dat een model misschien niet goed of zelfs averechts werkt. Stel, er komt een model dat artsen helpt bij administratie en tijdswinst geeft. Als dat ervoor zorgt dat artsen en verpleegkundigen meer patiënten moeten zien, hebben zij minder rust tussen patiënten, waardoor het doel van het model wordt ondermijnd. Implementatie vraagt daarom om systeemdenken, niet om modeldenken.
‘We moeten weg van de reflex ‘we kunnen dit voorspellen, dus laten we het gebruiken’, maar meer naar ‘hoe implementeren we het in de praktijk’. Net als bij eerdere technologische innovaties moeten we ook bij AI kritische vragen blijven stellen. Als we nu niet over dit soort zaken nadenken, dan is het straks te laat. Zoals TU Delft-hoogleraar Jeroen van de Hoven zegt: ethiek kan je achteraf niet meer als een soort USB in zo’n model pluggen.’