de intensivist

In een eerder artikel heeft u de stappen voor ontwikkeling van een AI-model geleerd.^[1] Een AI-model kan fantastische resultaten geven, maar als het in de praktijk niet gebruikt wordt, zullen wij er nooit de vruchten van plukken. Van alle ontwikkelde AI-modellen op de IC komt slechts 2% daadwerkelijk aan bed.^[2] Om deze implementatiekloof te overbruggen, moeten we begrijpen welke stappen nodig zijn voor een succesvolle implementatie van een AI-model in de klinische praktijk en dit vertalen naar governance en beleid.^[3,4] In dit artikel bespreken we deze stappen.

Stap 1: Externe validatie

Externe validatie test de prestaties van een AI-model op onafhankelijke gegevens die niet zijn gebruikt voor de bouw van het model. Dit is cruciaal om te garanderen dat het model niet alleen goed presteert op de trainingsdata, maar ook op nieuwe, ongeziene data. Door externe validatie kan men beoordelen of het model robuust en generaliseerbaar is voor verschillende patiëntengroepen en omstandigheden. Pas na deze stap kan een AI-model uit de onderzoeksfase komen en klaar zijn voor klinische implementatie.

Stap 2: Voldoen aan wet- en regelgeving

AI-modellen die helpen met diagnostiek of therapie zijn Clinical Decision Support (CDS) tools. Deze moeten voldoen aan strikte wet- en regelgeving voordat ze in de gezondheidszorg kunnen worden gebruikt.^[5] In Europa geldt hiervoor de Medical Device Regulation (MDR) en moet het model CE-gecertificeerd zijn. Dit certificeringsproces kan maanden tot jaren duren en omvat een beoordeling van de technische documentatie, klinische evaluaties en risicobeoordelingen. Voldoen aan wet- en regelgeving is essentieel voor het opbouwen van vertrouwen bij zorgverleners en patiënten, en is een voorwaarde voordat een CDS-applicatie daadwerkelijk in de zorg gebruikt mag worden.

Stap 3: Kalibratie van het model in een ziekenhuis

Zodra het AI-model is goedgekeurd en deze toegepast mag worden in een nieuw ziekenhuis, is het gewenst dat het wordt gekalibreerd op de specifieke patiëntenpopulatie van het ziekenhuis. Patiëntenpopulaties variëren tussen ziekenhuizen, wat van invloed is op de prestaties van het AI-model. Herkalibratie zorgt ervoor dat het model aangepast is aan de lokale data, waardoor potentiële fouten worden geminimaliseerd en de nauwkeurigheid wordt verbeterd. Regelmatige herkalibratie is noodzakelijk om te anticiperen op veranderingen in de ziekenhuispopulatie en klinische praktijk over de tijd.

Stap 4: Software rondom het AI-model maken

Op dit moment is het AI-model nog in programmeertaal, waardoor het niet bruikbaar is voor zorgverleners in hun dagelijks werk. Daarom is het belangrijk om het model om te vormen tot gebruiksvriendelijke software. Deze software moet intuïtief en gemakkelijk te navigeren zijn, zodat artsen en verpleegkundigen snel de voorspellingen en aanbevelingen van het model kunnen raadplegen. Belangrijke functionaliteiten zijn gebruiksvriendelijke interfaces, integratie met bestaande systemen en realtime notificaties.

NB, voor het doorlopen van de MDR moet de software reeds gemaakt zijn. In de praktijk komt deze stap dus eerder aan bod.

Stap 5: Integratie met bestaande ziekenhuissystemen

De integratie van AI-software met bestaande ziekenhuissystemen, zoals het elektronisch patiëntendossier (EPD), is cruciaal voor een effectieve werking binnen de klinische workflow. Het AI-model moet toegang hebben tot actuele en relevante patiëntgegevens, en de resultaten moeten zichtbaar zijn in het EPD. Dit voorkomt dubbele invoer en inconsistenties. Een goed geïntegreerd AI-systeem zorgt ervoor dat zorgverleners snel en efficiënt toegang hebben tot waardevolle inzichten die passen bij hun manier van werken.

Stap 6: Continue monitoring van data en het model op de achtergrond

AI-modellen vergen continue monitoring van zowel de data als het model. Regelmatige evaluatie van de prestaties en herkalibratie bij significante veranderingen in de ziekenhuispopulatie of klinische praktijken zorgen ervoor dat de voorspellingen van het model betrouwbaar blijven. Ook is het belangrijk om de kwaliteit van de ingevoerde data te bewaken en te voldoen aan ethische normen.^[6] Feedback van zorgverleners helpt praktische problemen te identificeren en verbeteringen door te voeren. Het is belangrijk je te realiseren dat iemand dit blijft doen: heeft je ziekenhuis zelf een model ontwikkeld en geïmplementeerd, dan ligtdeze verantwoordelijkheid dus bij het ziekenhuis zelf. Bij gesprekken met een AI-leverancier moeten deze zaken dan ookgeëist worden. Continue monitoring waarborgt de effectiviteit en betrouwbaarheid van AI-oplossingen op de lange termijn.

Governance en beleid

Om bovenstaande stappen te waarborgen is het van belang dat ziekenhuizen goede governance en AI-beleid opstellen. Effectieve governancestructuren zorgen voor duidelijke richtlijnen en verantwoordelijkheden, terwijl beleid helpt bij het waarborgen hiervan. Door een solide governance framework en beleid te implementeren, kunnen ziekenhuizen ervoor zorgen dat AI-technologieën niet alleen effectief en betrouwbaar zijn, maar ook veilig en ethisch verantwoord worden gebruikt.

AI lifecycle

De ‘AI lifecycle’ is een term die in de literatuur gebruikt wordt om alle fasen van het leven van een AI-model te beschrijven: van ontwikkeling tot en met implementatie en voortdurende evaluatie. Transparantie en samenwerking tussen diverse stakeholders, zoals intensivisten, IC-verpleegkundigen, AI-leveranciers, data scientists en ICT-ers, en ziekenhuismanagers, zijn essentieel. De lifecycle-benadering zorgt ervoor dat AI-modellen effectief en betrouwbaar zijn en blijven, wat bijdraagt aan de duurzaamheid en waardevolle inzet van AI in de gezondheidszorg.

Conclusie

De implementatie van een AI-model in de klinische praktijk is een complex proces dat verder reikt dan de initiële ontwikkeling. Door via solide governance en beleid aandacht te besteden aan externe validatie, wet- en regelgeving, kalibratie, integratie en continue monitoring, kunnen we de kloof tussen ontwikkeling en klinische implementatie overbruggen.