Als het algoritme de witte jas aantrekt kan kunstmatige intelligentie de gezondheidszorg sneller, efficiënter en soms nauwkeuriger maken?
AI kan afwijkingen op röntgenfoto’s herkennen, grote hoeveelheden patiëntgegevens analyseren en artsen ondersteunen bij diagnoses. Maar zodra een computer invloed krijgt op medische beslissingen, worden fouten geen technisch ongemak meer. Ze kunnen rechtstreeks gevolgen hebben voor iemands gezondheid. De grootste risico’s liggen bij privacy, onjuist medisch advies en discriminatie door onvolledige of scheve gegevens.
Het medisch dossier als digitale grondstof
AI-systemen hebben grote hoeveelheden gegevens nodig. In de zorg gaat het daarbij om diagnoses, medicijngebruik, laboratoriumuitslagen, medische beelden, genetische informatie en soms zelfs psychologische verslagen. Gezondheidsgegevens behoren volgens de Autoriteit Persoonsgegevens tot de meest gevoelige persoonsgegevens en krijgen daarom extra bescherming onder de AVG. (Autoriteit Persoonsgegevens)
Toch is vaak onduidelijk waar medische gegevens precies terechtkomen. Worden ze uitsluitend in het ziekenhuis verwerkt, opgeslagen in een commerciële cloud of gebruikt om een buitenlands AI-model verder te trainen? Zelfs geanonimiseerde gegevens kunnen soms opnieuw tot een persoon worden herleid wanneer ze met andere databronnen worden gecombineerd.
Een praktisch risico ontstaat wanneer zorgmedewerkers patiëntinformatie kopiëren naar algemene AI-chatbots om snel een brief, samenvatting of behandelvoorstel te laten maken. De Autoriteit Persoonsgegevens waarschuwt dat hierdoor organisaties achter de chatbot toegang kunnen krijgen tot informatie die zij helemaal niet mogen ontvangen. (Autoriteit Persoonsgegevens)
De oplossing begint bij dataminimalisatie: gebruik alleen de gegevens die werkelijk nodig zijn. Daarnaast moeten zorginstellingen precies weten wie toegang heeft, waar informatie wordt opgeslagen en of gegevens later opnieuw worden gebruikt. Patiënten moeten daarover begrijpelijk worden geïnformeerd. Een onleesbare privacyverklaring van veertig pagina’s is geen werkelijke toestemming.
Een overtuigend antwoord kan toch fout zijn
Generatieve AI formuleert antwoorden vaak in een zelfverzekerde en deskundig klinkende stijl. Dat maakt de technologie bruikbaar, maar ook gevaarlijk. Een systeem kan symptomen verkeerd interpreteren, een zeldzame bijwerking missen, een niet-bestaande medische bron noemen of een geneesmiddel adviseren dat niet samengaat met andere medicatie.
AI begrijpt een patiënt bovendien niet zoals een arts dat doet. Het systeem herkent patronen, maar kent geen twijfel, verantwoordelijkheid of lichamelijk onderzoek. Het weet niet automatisch dat een oudere patiënt zijn klachten bagatelliseert of dat een korte opmerking kan wijzen op een ernstige psychische crisis.
De Wereldgezondheidsorganisatie waarschuwt daarom dat generatieve AI onjuiste, onvolledige of bevooroordeelde medische informatie kan produceren. De WHO pleit voor zorgvuldig toezicht, transparante evaluatie en duidelijke verantwoordelijkheid voordat dergelijke systemen breed in de zorg worden gebruikt. (WHO)
Daar komt het gevaar van automatiseringsbias bij: mensen hebben de neiging een computeradvies te vertrouwen omdat het objectief lijkt. Een arts die onder tijdsdruk werkt, kan een AI-conclusie daardoor minder kritisch controleren. Menselijk toezicht heeft alleen betekenis wanneer een zorgverlener voldoende tijd, kennis en bevoegdheid heeft om het algoritme tegen te spreken.
Discriminatie verpakt als rekenwerk
Een AI-systeem leert van bestaande gegevens. Wanneer bepaalde groepen daarin onvoldoende voorkomen, kan het systeem bij hen slechter presteren. Denk aan medische beeldbanken met vooral patiënten van één huidskleur, onderzoek waarin vrouwen ondervertegenwoordigd zijn of gegevens die voornamelijk afkomstig zijn uit grote academische ziekenhuizen.
Ook historische ongelijkheid kan ongemerkt worden overgenomen. Wanneer een algoritme zorggebruik als maatstaf voor medische behoefte gebruikt, kan het concluderen dat groepen die in het verleden minder toegang tot zorg hadden ook minder hulp nodig hebben. De computer veroorzaakt die ongelijkheid niet zelf, maar zet haar wel om in een ogenschijnlijk neutrale voorspelling.
Volgens de WHO moet medische AI bruikbaar en rechtvaardig zijn voor mensen van verschillende leeftijden, inkomens, geslachten, achtergronden en beperkingen. (WHO) Toezichthouders benadrukken daarom dat prestaties niet alleen gemiddeld moeten worden gemeten, maar ook afzonderlijk voor verschillende patiëntengroepen. Transparantie maakt het mogelijk fouten, teruglopende prestaties en mogelijke discriminatie eerder te ontdekken. (FDA)
De arts moet meer blijven dan een uitvoerder
AI hoeft niet uit de gezondheidszorg te worden geweerd. De technologie kan artsen ondersteunen, administratieve lasten verminderen en patronen ontdekken die mensen gemakkelijk missen. Maar medische AI moet onafhankelijk worden getest, voortdurend worden gecontroleerd en eenvoudig kunnen worden stilgezet wanneer de prestaties verslechteren. Ook moet vooraf duidelijk zijn wie aansprakelijk is wanneer het systeem schade veroorzaakt.
De belangrijkste vraag is daarom niet of kunstmatige intelligentie slimmer wordt dan de arts. De werkelijke vraag is wie verantwoordelijk blijft wanneer het algoritme zich vergist. In de gezondheidszorg mag AI adviseren, vergelijken en waarschuwen. Maar de patiënt mag nooit verdwijnen achter de data waaruit het systeem zijn waarheid berekent.
Reactie plaatsen
Reacties