de intensivist

Jessica Workum is intensivist en klinisch farmacoloog in het ETZ. Daarnaast is zij opgeleid aan de TU/e als biomedisch ingenieur en promoveert zij op het gebied van AI op de IC. Bij Pacmed is zij betrokken bij toekomstige productontwikkeling en implementatie van AI in het zorgproces.

Eliëtte Vaal is advocaat, werkzaam bij advocatenkantoor The Data Lawyers in Amsterdam, gespecialiseerd in privacy- en AI-recht. Zij adviseert zowel zorgverleners als IT-leveranciers.

In ons dagelijks leven speelt artificial intelligence (AI) een steeds grotere rol. De stap naar het gebruik van deze tools op het werk wordt dus steeds kleiner. Maar wat mag u als zorgverlener nu eigenlijk wel en niet doen met AI, en met welke wetgeving moet u rekening houden? In dit artikel zullen we drie belangrijke wetten bespreken die relevant zijn voor het gebruik van AI in de gezondheidszorg: de Wet op de geneeskundige behandelingsovereenkomst (WGBO), de Algemene Verordening Gegevensbescherming (AVG) en de Medical Device Regulation (MDR).^[1][2][3]

De WGBO en AI

De WGBO regelt de relatie tussen patiënt en zorgverlener. Deze wet beschrijft onder andere de rechten en plichten van zowel de zorgverlener als de patiënt.^[1][5] Een van de belangrijkste plichten van de zorgverlener is het beroepsgeheim. Het beroepsgeheim verplicht de zorgverlener dat alle informatie die de patiënt verstrekt vertrouwelijk moet worden behandeld. Het is dus niet toegestaan om deze informatie zomaar met een ander te delen, laat staan met een AI-tool.^[1][5]

Voordat u zomaar medische informatie van uw patiënt in een externe AI-tool zoals ChatGPT plakt, moet u zich realiseren dat het kan zijn dat u daarmee uw beroepsgeheim schendt. ChatGPT gebruikt namelijk in principe deze informatie om het taalmodel te (her)trainen. En dat betekent dat de informatie die u het geeft in de grote ballenbak terecht komt van informatie, en dat OpenAI (het bedrijf achter ChatGPT) en andere gebruikers dit eruit kan vissen. Bij gebruik van geautoriseerde AI-tools binnen het ziekenhuis is dit waarschijnlijk goed gewaarborgd en dus geen probleem, mits uw ziekenhuis hier alert op is. Maar bij gebruik van AI-tools die leven buiten het ziekenhuis: let goed op wat u deelt.

De AVG en AI

De AVG behandelt de bescherming van persoonsgegevens. Zo mag u niet zomaar persoonsgegevens van derden (zoals uw patiënt) gebruiken of delen. In beginsel mogen patiëntgegevens alleen gebruikt worden als dat noodzakelijk is voor de uitvoering van de behandelovereenkomst of als er uitdrukkelijke toestemming is gegeven door de patiënt. Zoals beschreven in de vorige editie van De Intensivist over Ethiek en AI, is het bij gebruik van AI in de gezondheidszorg van groot belang dat de privacy van patiëntgegevens wordt gewaarborgd.^[2][4] Bij gebruik van een AI-tool geldt hiervoor hetzelfde als bij de WGBO: pas op bij externe tools en anonimiseer altijd alles. Let daarbij op dat er hoge eisen worden gesteld aan anonimiseren. Zo kunnen geaggregeerde gegevens ook persoonsgegevens zijn. Juist met de hulp van AI-tools kunnen deze gegevens weer herleidbaar worden tot het individu (bijv. door combinatie met andere gegevens).

Naast de rechtmatigheid van de gegevensverwerking bevat de AVG strenge regels over automatische besluitvorming zonder menselijke tussenkomst. Ook moeten patiënten altijd vooraf geïnformeerd worden over alle details van de gegevensverwerking.

De MDR en AI

De MDR is de Medical Device Regulation. Deze wet stelt strenge eisen aan medische hulpmiddelen. Software wordt hierin gezien als hulpmiddel, en een AI-tool is dat dus ook.^[3][5] Grofweg mag je stellen dat als een AI-tool helpt met medische beslisondersteuning, dit valt onder de MDR. Medische beslisondersteuning is bijvoorbeeld het opstellen van een differentiaaldiagnose of behandelplan. Omdat de eisen van de MDR zo streng zijn, is het moeilijk voor bedrijven om hun AI-tool daadwerkelijk aan het bed te krijgen. Dit proces kan namelijk wel jaren duren. Dit is een van de redenen dat AI-implementatie in de zorg vele malen langzamer gaat dan in andere industrieën.^[3][6]

De MDR is van toepassing op bedrijven en niet op individuen. Formeel gezien mag u dus best aan ChatGPT een differentiaaldiagnose vragen (hoewel wij dit om andere redenen, zoals de betrouwbaarheid, zouden afraden; hier zijn betere tools voor), maar een bedrijf mag niet zomaar dezelfde functionaliteit in het EPD inbouwen. Wees u hiervan bewust als u een AI-tool gebruikt. Als een AI-tool CE-gecertificeerd is, weet u dat het aan de juiste eisen voldoet. Vraagt u zich eens af of een AI-algoritme dat u wellicht al in uw eigen ziekenhuis gebruikt, wel CE-gecertificeerd is. Het zal u verbazen hoe vaak dit tegenvalt.

Conclusie

Het gebruik van AI in de gezondheidszorg biedt veel mogelijkheden, maar het is belangrijk om rekening te houden met de relevante wet- en regelgeving. De WGBO, AVG en MDR zijn drie belangrijke wetten die van invloed zijn op het gebruik van AI in de zorg. Het is essentieel dat zorgverleners en ziekenhuizen zich bewust zijn van deze wetgeving en de implicaties ervan voor het gebruik van AI-tools. Door zorgvuldig om te gaan met patiëntgegevens en te voldoen aan de wettelijke eisen, kunnen we de voordelen van AI in de zorg benutten terwijl we de privacy en gerelateerde rechten van patiënten beschermen.