Blog: Begeleidingsethiek zorgt voor constructief gesprek over gebruik van AI voor brughoek tumoren

Door: Stephan Romeijn & André Krom

Gebruik van kunstmatige intelligentie (AI) in de zorg brengt naast nieuwe mogelijkheden, ook nieuwe uitdagingen met zich mee. Technisch, maar ook ethisch. Hoe houd je nu de focus op wat er wél kan en breng je AI in de kliniek ondanks de uitdagingen toch een stap dichterbij? “Begeleidingsethiek” helpt om ethische vragen al bij het ontwikkelen van nieuwe technologie te bespreken, en om te zetten in handelingsopties. In deze blog blikken we kort terug op een recente workshop begeleidingsethiek over het gebruik van AI bij brughoek tumoren. Wat is besproken, en wat leverde het op?

Binnen het LUMC werd onlangs voor de tweede keer een workshop begeleidingsethiek gehouden over AI. Centraal stond het brughoek project vanuit de LUMC 2.0 use case "Waardegedreven Diagnostiek". Dit project is een samenwerking tussen de KNO- en Radiologie afdeling. Doel van het project is om een AI-algoritme te ontwikkelen dat naast de detectie en volumebepaling van de tumor ook een voorspelling kan geven van de tumorgroei over tijd. De resultaten van dit model kunnen als input dienen voor een patiënt-specifiek behandelplan. Als de inschatting is dat een tumor snel groeit, zou bijvoorbeeld eerder overgegaan kunnen worden tot een operatie (en omgekeerd).

In de workshop ging een brede groep betrokkenen in op de ethische aspecten van deze toepassing: het team van betrokken KNO-artsen, radiologen, technisch- en medische onderzoekers, en klinisch technologen; een afgevaardigde van Patiëntenfederatie Nederland; een patiënt, en twee ethici. De sessie werd begeleid door ECP (Platform voor de Informatiesamenleving).

Begeleidingsethiek: via effecten en waarden naar concrete handelingsopties
Een workshop begeleidingsethiek bestaat uit vijf stappen: 1) Maak concreet om welke techniek het gaat, in welke context, en voor welk doel. 2) Inventariseer welke actoren bij de casus betrokken zijn; 3) Inventariseer welke effecten gebruik van de techniek kan hebben, positief én negatief; 4) Breng in kaart welke waarden een rol spelen, die maken dat we sommige effecten als positief zien en andere als negatief; 5) Bedenk welke partij wat kan doen om positieve effecten te bevorderen, en negatieve effecten zoveel mogelijk te beperken.[i]

In dit geval  ging het dus om een AI-algoritme om de aanwezigheid en het volume van een brughoektumor te bepalen en de groeisnelheid ervan te voorspellen. Dit als input voor een patiënt-specifiek behandelplan (Stap 1). Naast de partijen die deelnamen aan de workshop werden nog enkele andere relevante actoren benoemd, waaronder revalidatieartsen, zorgverzekeraars en het Ministerie van Volksgezondheid en Sport. Idealiter wordt ook het perspectief van deze partijen op enig moment betrokken in het proces (Stap 2). Dat geeft een rijker beeld van mogelijke effecten en biedt een zo stevig mogelijke basis om na te denken over handelingsopties om positieve effecten te realiseren en negatieve effecten te beperken. In de workshop werden 32 mogelijke effecten benoemd, waarvan de helft positief en de helft negatief. Het betrekken van patiënten bij het multidisciplinaire team kan volgens de deelnemers positief uitwerken, omdat informatie vanuit patiëntperspectief essentieel is voor een hoge kwaliteit van zorg en van leven. Als mogelijk risico werd gezien dat de AI-resultaten een te groot gewicht krijgen in de shared decision making met de patiënt. Dat zou ten koste kunnen gaan van de autonomie van de patiënt en het vertrouwen in de arts-patiënt relatie (Stap 3 en 4). Concrete handelingsopties zouden volgens de deelnemers het positieve effect kunnen bevorderen en het negatieve effect beperken. Bijvoorbeeld door zowel een behandelbesluit met als zonder inzet van het AI-model te nemen en te vergelijken welk besluit bijdraagt aan een zo hoog mogelijke kwaliteit van zorg en leven. En door shared decision-making (expliciet) te borgen, zodat ook andere elementen dan de uitkomst van het AI-model een rol blijven spelen bij de behandeling. Zoals hoe patiënten in het leven staan, en wat zij zelf belangrijk vinden.

Deze korte illustratie laat zien dat de aanpak begeleidingsethiek een handzaam format biedt om met betrokken partijen heel gericht na te denken over welke ethische vragen spelen bij het gebruik van AI in de zorg, en hoe deze vragen omgezet kunnen worden in praktische handelingsopties.

Terugkijkend op de sessie werd er unaniem aangegeven dat de inbreng vanuit het patiënten perspectief erg waardevol was en deze betrokkenheid in de toekomst vaker gewenst is. Het is van belang om de aannames omtrent hoe de visualisatie en presentatie van de resultaten van AI algoritmes ervaren worden door de patiënt ook getoetst wordt bij degene waar het uiteindelijk allemaal om draait, de patiënt. Om deze feedback mee te kunnen nemen gedurende de ontwikkeling is het gewenst om op meerdere momenten tijdens het project deze betrokkenheid te hebben.

[i] Tijdens de workshop worden deze stappen onderverdeeld in drie fasen: toelichting, dialoog, handelingsopties.

Blog: Automatische verslaglegging met de digital scribe

Door: Marieke van Buchem

Een systeem dat automatisch een samenvatting maakt van een consult klinkt futuristisch. Toch komt de digital scribe snel dichterbij. Wat is al mogelijk en welke hindernissen moeten nog worden genomen om deze digital scribe in de praktijk te implementeren? Dit zijn de vragen die in onze recent gepubliceerde review worden beantwoord. Hier een korte samenvatting.

In april 2018 werd een artikel gepubliceerd in Mayo Clinic Proceedings onder de naam ‘Reimagining Clinical Documentation Using Artificial Intelligence’. De auteurs van dit stuk, drie artsen, riepen technici, data scientists en artsen op om de handen ineen te slaan en met behulp van een digital scribe artsen los te maken van hun computerscherm.

Wat is een digital scribe?
Een digital scribe is een systeem dat artsen ondersteunt bij de klinische verslaglegging door automatisch een samenvatting van een consult te maken. De digital scribe neemt het consult op met een microfoon en gebruikt automatische spraakherkenning om het te transcriberen. Een AI-model haalt de belangrijkste informatie uit dit transcript en maakt hier een samenvatting van. De combinatie van deze componenten heet een digital scribe.

Hoe kan een digital scribe de klinische praktijk verbeteren?
Ten eerste kan het de huidige registratielast onder artsen verminderen. Gemiddeld besteden artsen rond de 40% van hun tijd aan administratieve taken, waarvan de klinische verslaglegging het meest tijdrovend is. Door artsen in deze taak te ondersteunen zou er meer tijd zijn voor bijvoorbeeld patiëntencontact. Ten tweede typen artsen tijdens het consult vaak mee met het verhaal van de patiënt, waardoor ze tijdens een consult soms wel de helft van de tijd naar hun scherm kijken. Dit kan een negatief effect hebben op de communicatie tussen arts en patiënt en daardoor zelfs op de therapietrouw. Ten derde kan een digital scribe een gestructureerd verslag maken zonder dat de arts hier extra tijd aan hoeft te besteden. De verzameling van al deze gestructureerde data zou een eerste stap richting een ‘slimme spreekkamer’ kunnen zijn, waar brieven automatisch worden gegenereerd, medicatie automatisch wordt besteld en de arts tijdens het gesprek suggesties voor de differentiaal diagnose krijgt. Dit begint allemaal met het verzamelen van gestructureerde data uit consulten.

Waar staat de digital scribe op dit moment?
In onze scoping review hebben we onderzocht (1) welke AI-methoden worden gebruikt, (2) hoe accuraat deze methoden zijn en (3) of sommige methoden in de klinische praktijk zijn geëvalueerd. We hebben hiervoor in de literatuur gekeken maar ook contact gezocht met relevante bedrijven. Dit leidde tot de volgende inzichten:

• - Hoewel er nog niet veel over de digital scribe is geschreven zijn er wel vijf onderzoeksgroepen en minstens tien bedrijven bezig met het ontwikkelen of uitrollen van een digital scribe (in de Verenigde Staten).
• - De gepubliceerde resultaten zijn veelbelovend! Helaas zijn (nog) geen van de gepubliceerde modellen ook daadwerkelijk geïmplementeerd. Aan de andere kant bieden een aantal bedrijven al geïmplementeerde digital scribes aan die tot uren per dag aan tijdswinst op zouden leveren, zonder dit wetenschappelijk te bewijzen.
• - Dit vorige punt laat ook de afstand zien tussen ontwikkeling en implementatie: alle gepubliceerde artikelen beschrijven nog niet geïmplementeerde digital scribes, terwijl de bedrijven hun digital scribe implementeren zonder hierover te publiceren. Het effect op de klinische praktijk blijft in beide gevallen onderbelicht.

Wat kunnen we uit deze inzichten concluderen?
We zijn optimistisch over de digital scribe: uit onze review komt naar voren dat het mogelijk lijkt om een digital scribe te ontwikkelen die de arts kan ondersteunen bij de klinische verslaglegging. Verder zijn er meerdere toegewijde onderzoeksgroepen en bedrijven bezig zo’n digital scribe te ontwikkelen (alhoewel ze zich allemaal op Amerikaans Engels richten). Het grootste probleem is echter het gebrek aan wetenschappelijk bewijs voor de klinische effectiviteit en daarmee ook een gebrek aan inzicht in potentiële negatieve effecten van de digital scribe. Wij roepen op tot meer onderzoek naar de klinische validiteit, gebruiksvriendelijkheid en klinische effectiviteit van de digital scribe.

Gebaseerd op ‘The Digital Scribe in Clinical Practice: a Scoping Review and Research Agenda’, geschreven door Marieke van Buchem, Hileen Boosman, Martijn Bauer, Simone Cammel en Ewout Steyerberg en op 26 maart 2021 gepubliceerd in Nature partner journal Digital Medicine.

SAMENWERKING - Arts-patient gesprekken autmatisch analyseren en samenvatten

In samenwerking met Autoscriber ontwikkelen we een product dat arts-patiënt gesprekken automatisch analyseert en samenvat. Hierdoor kan de arts gefocust blijven op de patiënt en worden vele uren aan administratieve werkzaamheden voorkomen.

Bekijk onze video waarin we meer uitleg geven over onze aanpak, voortgang en onze samenwerking met het LUMC.

Werkbezoek Hare Majesteit Koningin Máxima

Tijdens een online werkbezoek van Koningin Máxima vertelde CAIRELab voorzitter Marjolein Elderhorst hoe CAIRELab de toepassing van AI in de zorg verder vooruitbrengt. Het werkbezoek ging over mensgerichte en verantwoorde kunstmatige intelligentie (AI). 

Een samenvatting van het gesprek is te zien op Vimeo.