AI in de zorg: aandachtspunten bij de aanschaf van AI in het zorgdomein

03-07-2020

We kunnen er niet (meer) omheen: AI is hot. Kunstmatige Intelligentie staat al lang niet meer in de kinderschoenen en heeft zich ontwikkeld van kleinschalig hobbyisme naar volwaardige toepassing binnen allerlei facetten van het bedrijfsleven. Gebruik van AI kan de kwaliteit van dienstverlening optimaliseren, productiviteit verhogen en kosten besparen. Ook zorginstellingen gaan zich steeds meer gaan verdiepen in gebruik van AI. Maar waar moet u op letten? Aan de hand van een kort voorbeeld bespreken we de belangrijkste aandachtspunten bij de aanschaf van AI.

Wat is AI?

Kunstmatige Intelligentie (of: AI) is geen vastomlijnd juridisch begrip. In het kort zou je AI kunnen omschrijven als het concept waarbij computers grote hoeveelheden data analyseren en op basis daarvan “intelligent” gedrag vertonen. Denk bijvoorbeeld aan een tool die met hoge mate van nauwkeurigheid kan voorspellen welke patiënten komen opdagen bij een consult, of die artsen ondersteunt bij het analyseren van MRI-scans.

Casus: aanschaf van AI in de zorg

Binnen het zorgdomein kan de inzet van AI erg aantrekkelijk zijn. Stel dat uw ziekenhuis wordt benaderd door een leverancier die is gespecialiseerd in softwaretools voor beeldanalyse. De leverancier zou graag toegang willen krijgen tot scans van patiënten waarbij huidkanker is vastgesteld, om op die manier een softwaretool te ontwikkelen die huidkanker in een vroeg stadium kan herkennen. U krijgt vervolgens een flinke korting op de aanschafkosten daarvan. Herkenbaar? Zorg dan dat u de onderstaande tips doorleest vóórdat u met de leverancier in onderhandeling treedt.

Cruciale voorvragen

Voordat u met de leverancier in zee gaat, is het van belang een helder beeld te krijgen van de AI-oplossing, de betrokken partijen en de risico’s. Zorg er daarom voor dat u vooraf duidelijkheid krijgt over de onderstaande vragen:

  1. Wat voor AI neem ik af, en wat zijn de kosten?
  2. Welke data is er nodig, aan wie wordt daartoe toegang verleend en voor hoe lang?
  3. Wat zijn de juridisch relevante aspecten?
  4. Welke risico’s loop ik, en kan ik die eventueel contractueel beperken?

De leverancier zal uw eerste aanspreekpunt zijn voor beantwoording van vraag 1 & 2. Zorg ervoor dat u goed begrijpt wat u wordt aangeboden en schroom niet om vragen te stellen. Ook is het verstandig om al in een vroeg stadium inzicht te krijgen in het kostenplaatje en uw aannames te verifiëren: dit voorkomt dat u voor onplezierige verrassingen komt te staan.

Data

AI en big data gaan hand in hand. Voor een goede werking heeft de tool enorme hoeveelheden doorzoekbare data nodig. Zorg er daarom ook voor dat u die data daadwerkelijk kan en mág aanleveren, en zorg dat de toegang tot die data goed beveiligd is. Vraag ook kritisch door naar eventueel gebruik van data voor andere doeleinden. De ervaring leert dat leveranciers zichzelf bij voorkeur het recht voorbehouden om de data te (blijven) gebruiken om hun algoritmen te trainen en daarmee hun product te verbeteren. Voor bepaalde leveranciers is dit zelfs een niet-onderhandelbaar punt. Zeker in de zorg, waar de data in veel gevallen zullen kwalificeren als bijzondere persoonsgegevens, is dit een potentieel breekpunt en zeker niet iets waar je pas in de contractfase achter wil komen.

Juridisch kader

Er bestaan geen specifieke bepalingen die zien op de aanschaf of toepassing van AI binnen het zorgdomein.(1) In principe wordt daarom teruggevallen op het algemene civiele recht.

  • Bepalingen ten aanzien van (product)aansprakelijkheid en rechten van intellectuele eigendom zijn van belang bij de aanschaf van AI.
  • Daarnaast zal per geval beoordeeld moeten worden of er aanvullende specifieke wettelijke bepalingen gelden. Zo maakt AI gebruik van grote hoeveelheden data, waardoor de privacy-aspecten van belang zullen zijn (zie deel 2 van deze blogpost).
  • AI-oplossingen binnen het zorgdomein kwalificeren mogelijk als een medisch hulpmiddel, waardoor er strenge(re) eisen gelden voor het gebruik daarvan. Op 26 mei 2021 treedt bovendien de EU-Verordening voor medische hulpmiddelen (MDR) in werking.
  • Ook de wet op de geneeskundige behandelingsovereenkomst (WGBO) en de Wet kwaliteit, klachten en geschillen zorg (Wkkgz) kunnen aanvullende verplichtingen met zich meebrengen.

Afdekken van risico’s: een goed contract

Wanneer u een goed beeld heeft van het juridisch kader, kunt u zich ook een goed beeld vormen van de risico’s die bij de aanschaf en toepassing van de tool een rol spelen. Uiteindelijk zullen de risico’s afgedekt worden in een gedegen contract. Daarbij speelt niet alleen de aansprakelijkheidsverdeling een rol (inclusief de nodige vrijwaringen, bijvoorbeeld voor security-inbreuken, IE-inbreuken of datalekken), maar ook de eventuele eigendomsverdeling, auditrechten, een gedegen SLA en waar nodig een exit-clausule.

Kortom: De aanschaf van AI-toepassingen kunnen ook binnen het zorgdomein van grote waarde zijn. Het is van belang om al in een vroeg stadium de (juridische) risico’s te identificeren. Denk daarbij niet alleen aan specifieke wettelijke verplichtingen (AVG, MDR), maar ook aan een gedegen risicoverdeling in het contract.

voetnoten

(1) Wel heeft de Europese Commissie inmiddels Richtlijnen opgesteld waaraan betrouwbare AI-oplossingen zouden moeten voldoen, zie: https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai.


Meer artikelen van Kennedy Van der Laan

Van onze partners

Opleiding Privacy in het sociaal domein - 3 daags

Met deze driedaagse opleiding wordt u opgeleid tot privacy professional in het sociaal domein.

→ Lees meer

Privacy in het sociaal domein

→ Lees meer

Privacy in de zorg

→ Lees meer

Nieuwsbrief

Blijf op de hoogte van het laatste nieuws over privacy, cybersecurity en data. Abonneer op onze gratis nieuwsbrief.

Abonneer