Kamerbrief met reactie op advies 'Waarde(n)volle zorgtechnologie'

03-07-2019

Minister Bruins reageert op het advies van de Raad voor Volksgezondheid en Samenleving over de kansen en risico's van kunstmatige intelligentie in de zorg.

Geachte voorzitter,

Met uw brief van 13 maart 2019 heeft u mij gevraagd te reageren op het RVSrapport ‘Waarde(n)volle zorgtechnologie’. De RVS is van mening dat Artificiële Intelligentie (AI) de zorg veel te bieden heeft. Het kan een positieve bijdrage leveren aan de publieke waarden die verbonden zijn aan de zorg. Het gaat dan om kwaliteit, toegankelijkheid, betaalbaarheid/solidariteit en pluriformiteit (aansluiting op diversiteit in de samenleving) van de zorg. Niettemin zien zij ook risico’s. AI zou de eerdergenoemde publieke waarden ook juist kunnen ondermijnen. De RVS stelt in zijn rapport een tweesporenbenadering voor om de ontwikkeling van AI in de zorg in goede banen te leiden: een spoor voor de lange(re) termijn en een spoor waarmee nu al kan worden gestart. Het spoor voor de langere termijn bevat drie onderdelen:

  1. Een programmatische aanpak, waarbij ontwikkelingen worden gevolgd, ervaringen bijeen worden gebracht en gekeken wordt welke maatregelen nodig zijn om de publieke belangen te kunnen blijven borgen.
  2. Kennis genereren en delen, burgers informeren. De RVS adviseert de overheid om inhoudelijke kennis, debat en opinievorming over de rol van AI in de gezondheidszorg en de veranderingen die dit met zich meebrengt te stimuleren.
  3. Opleiden. In de verschillende zorgopleidingen is specifieke aandacht nodig voor AI, zowel voor het leren doorgronden van algoritmen als voor de interactie tussen mens en technologie.

Het spoor voor de korte termijn bevat vier onderdelen:

  1. Kwaliteitseisen stellen. De RVS adviseert de overheid om nadere kwaliteitseisen te stellen voor toelating tot de (Nederlandse) markt en daarbij samen te werken op Europees niveau. De Voorzitter van de Tweede Kamer der Staten-Generaal Pagina 2 van 7
  2. Kwaliteitseisen afdwingen. Aanbieders van AI-technologie opereren voor een belangrijk deel (in eerste instantie) buiten het collectieve systeem om. De RVS denkt dat zij daardoor niet hoeven te voldoen aan de regels die tot doel hebben de kwaliteit, de toegankelijkheid en de betaalbaarheid van de zorg te borgen.
  3. Datacontinuïteit garanderen. Bedrijven kunnen failliet gaan. In dat geval moeten patiënten over hun gegevens kunnen blijven beschikken. De RVS stelt voor een (gratis) downloadmogelijkheid voor patiënten van hun gegevens in zorgsystemen te verplichten om de continuïteit van zorg te waarborgen.
  4. Traceerbaarheid voor burgers realiseren. De RVS stelt dat burgers moeten kunnen zien waar hun medische gegevens zijn opgeslagen en met wie deze gegevens worden gedeeld.

Beleidsreactie

Net als de RVS ben ik van mening dat AI de zorg veel te bieden heeft, mits de publieke belangen in de zorg voldoende worden beschermd. Daarbij vind ik het ook belangrijk dat de belangen van de individuele patiënt worden beschermd, zoals de patiëntveiligheid en autonomie. In deze brief reageer ik op de voorgestelde tweesporenbenadering. In mijn reactie geef ik aan welke acties de Rijksoverheid al neemt om de ontwikkeling van AI in de zorg in goede banen te leiden. Er gebeurt al veel, op enkele punten is nadere uitwerking vereist. Op 29 mei 2019 heb ik tijdens een gesprek met de RVS afgesproken dat zij worden betrokken bij de verdere stappen die de overheid zet op het gebied van AI in de zorg.

Een programmatische aanpak

De RVS stelt voor om te komen tot een programmatische aanpak voor AI. Hier is het kabinet momenteel al mee bezig. Op korte termijn wordt het ‘Strategisch actieplan voor AI’ vanuit het kabinet gepubliceerd. Hieraan heeft het ministerie van VWS meegewerkt. Dit actieplan zal de visie en standpunten van het kabinet bevatten voor het benutten van de vele mogelijkheden die AI biedt voor innovatie en economische groei, en voor de aanpak van maatschappelijke uitdagingen. In het strategisch actieplan kijkt het kabinet breder dan gezondheid, zorg en ondersteuning.

Voor de implementatie en doorontwikkeling van het strategisch actieplan voor AI en de onderliggende acties wordt een brede Nationale AI Coalitie opgezet. In deze coalitie gaan bedrijven, overheden, kennisinstellingen en onderwijsinstellingen zo veel mogelijk samen acties oppakken. Vanuit het ministerie van VWS wordt momenteel bekeken op welke manier de gezondheidszorg het best aangehaakt en vertegenwoordigd kan worden in deze coalitie.

Specifieke aspecten van de toepassing van AI ten behoeve van gezondheid, zorg en ondersteuning staan ook op mijn netvlies. In de Kamerbrief “data laten werken voor gezondheid” van november 2018 schrijf ik dat gebruik van data-analyses nieuwe vragen met zich meebrengt, onder andere op juridisch en ethisch gebied.

Ik organiseer momenteel ronde tafels met een diversiteit aan partijen om te bezien wat kansen en risico’s zijn bij ontwikkeling, implementatie en opschaling van AI-tools in de zorg. Binnen Europa wordt hier ook volop aandacht aan besteed, onder ander in het E-health Network. Eind 2019 informeer ik u over de voortgang op de actielijnen uit voorgenoemde Kamerbrief. In mijn visie op Medische Technologie, die u op 26 april 2019 heeft ontvangen, omschrijf ik mijn ambitie om te komen tot een evenwichtige MedTech markt. Daarbij zet ik onder andere in op het opzetten van een internationale horizonscanning voor MedTech om (de ontwikkeling van) nieuwe Medische Technologie, waaronder AI, in de gaten te houden.
Daarnaast komen in de recente voortgangsrapportage Innovatie en Zorgvernieuwing de activiteiten aan de orde die VWS oppakt om kansrijke toepassingen, waarbij technologieën zoals AI worden ingezet, op te schalen teneinde de zorg organiseerbaar te houden. Op Europees niveau is Nederland voorzitter van de werkgroep New Emerging Technologies. Deze werkgroep bespreekt hoe nieuwe medische technologieën (waaronder AI-toepassingen) passen binnen het wetgevend kader voor medische hulpmiddelen.

Kennis genereren en delen, burgers informeren

De RVS adviseert de overheid om inhoudelijke kennis, debat en opinievorming over de rol van AI in de gezondheidszorg en de veranderingen die dit met zich meebrengt te stimuleren. Het kabinet onderneemt hiertoe al verschillende activiteiten. Op zeer korte termijn wordt de ‘kabinetsvisie AI, publieke waarden en mensenrechten’ opgeleverd. Deze kabinetsvisie bevat een beschrijving van de kansen en risico’s van Artificiële Intelligentie (AI) voor belangrijke publieke waarden en mensenrechten, evenals de beleidsmaatregelen om kansen te versterken en risico’s te adresseren. Met steun van het ministerie van BZK is voor iedereen in Nederland de Nationale AI-cursus beschikbaar gesteld. In deze cursus leren Nederlanders wat AI precies is, wat de basisprincipes zijn en waarom AI belangrijk is. Het brede (industriële) MKB krijgt de beschikking over actuele kennis en tools voor verantwoord gebruik van AI en data via vijf regionale smart industry initiatieven.

Specifiek op het terrein van zorg organiseert Nictiz in samenwerking met het Centrum voor ethiek en gezondheid (CEG) bijeenkomsten over de ethiek van digitale zorg. AI is daar een belangrijk onderdeel van. Daarnaast heb ik het CEG gevraagd om een signalement uit te brengen met de ethische aspecten die een rol spelen bij een aantal concrete zorgtoepassingen waarin AI kan worden gebruikt. Het gaat om apps en wearables bij preventie, robotisering in de langdurige zorg en sensortechnologie ten behoeve van maatschappelijke ondersteuning. Het CEG heeft al eerdere een signalement uitgebracht over het gebruik van medische expertsystemen in de curatieve zorg. Ik verwacht dat deze signalementen nuttige input leveren voor opinievorming over de rol van AI voor gezondheid, zorg en ondersteuning. Ten slotte ontwikkel ik momenteel een toolbox voor zorgprofessionals die willen starten met het ontwikkelen of implementeren van AItoepassingen, maar vragen hebben over wet- en regelgeving, ethiek of mogelijkheden tot opleiding. Deze zal eind van het jaar beschikbaar zijn voor eenieder die hierin interesse heeft.

Opleiden

In alle hoofdlijnenakkoorden hebben de betrokken partijen onderschreven dat technologische ontwikkelingen een rol spelen bij de noodzaak voor aanpassingen in de wijze waarop zorg en ondersteuning wordt aangeboden. Dit vraagt ook wat van de vaardigheden en kennis van de zorgprofessionals van de toekomst. De beroepsgroepen en opleiders betrekken technologische ontwikkelingen dan ook nadrukkelijk in verschillende trajecten om de opleidingen toekomstbestendig te maken. Zo worden technologische ontwikkelingen expliciet betrokken in de herziening van het raamplan voor de basisartsopleiding dat dit jaar in opdracht de NVZ en NFU wordt uitgevoerd. Ook geeft de FMS in haar visiedocument Medisch Specialist 2025 expliciet aandacht aan technologische ontwikkelingen. De aanbevelingen van de RVS benadrukken het belang van kennis en vaardigheden van de zorgprofessionals van de toekomst en voor de studenten van nu op het gebied van technologische ontwikkelingen.

Kwaliteitseisen stellen voor markttoelating van zelflerende software

De Europese wetgeving stelt strenge eisen aan de veiligheid en betrouwbaarheid van medische hulpmiddelen. Hoe hoger de risicoklasse, hoe strenger de eisen. De RVS stelt in zijn rapport dat de CE-markering voor toelating tot de (Europese) markt van AI-toepassingen ontoereikend is. Het klopt dat veel software nu buiten het bereik van de Europese richtlijnen voor medische hulpmiddelen valt. Dit gaat veranderen per mei 2020. Vanaf dat moment is nieuwe Europese wetgeving van toepassing. Alle software met een medisch doel valt onder deze wetgeving. Dat geldt dus ook voor medische software met AI. Software valt onder de nieuwe regels bovendien sneller in een hogere risicoklasse.

Er zal voortaan klinisch bewijs moeten zijn dat medische software doet wat het belooft voordat de software op de markt wordt gebracht. Dit geldt ook (na een eventuele overgangstermijn) voor medische software die nu al op de markt is. Bovendien wordt vereist dat software wordt ontwikkeld volgens de state of the art. Dit houdt in dat de software moet voldoen aan de geldende Europese en internationale normen. Er wordt gewerkt aan een internationale norm voor AI. In februari 2019 is hierover een bijeenkomst bij NEN geweest.

Op Europees niveau wordt gewerkt aan een leidraad voor klinisch onderzoek naar software. Het is een uitdaging om te komen tot goede onderzoeksresultaten over de betrouwbaarheid van zelflerende software. Door het zelflerende karakter kunnen de uitkomsten immers voortdurend veranderen. Ik dring erop aan dat er in de richtlijn aandacht wordt besteed aan onderzoek naar zelflerende algoritmen.

Kwaliteitseisen afdwingen

De RVS gaat er vanuit dat kwaliteitseisen voor AI in de zorg niet afdwingbaar zijn, omdat zij voor een belangrijk deel buiten het collectieve systeem om functioneren. De kwaliteitseisen voor markttoelating en post market surveillance die op grond van de Europese verordening medische hulpmiddelen gelden voor medische software zijn van toepassing op alle medische software, ongeacht of het binnen of buiten het collectieve systeem functioneert. Daarnaast gelden de regels zoals vastgelegd in de Wet op de geneeskundige behandelingsovereenkomst (WGBO) en Wet kwaliteit, klachten en geschillen zorg (Wkkgz) onverminderd als de AI wordt ingezet door een zorgaanbieder. Ook de vergoeding van AI in de zorg is in principe niet anders dan de vergoeding van ‘reguliere’ medische hulpmiddelen.

Ik zal (laten) uitzoeken in hoeverre regels uit de WGBO en Wkkgz van toepassing zijn indien AI zorg levert zonder tussenkomst van een zorgverlener. Ik vind het namelijk belangrijk dat de kwaliteit, de toegankelijkheid en de betaalbaarheid ook geborgd zijn als (in de toekomst) zorg wordt verleend door zelfstandige AI. Daarbij zal de afweging moeten worden gemaakt of AI zonder medisch doel die wordt geleverd binnen de gezondheidszorg of maatschappelijke ondersteuning (zoals sociale robots), specifieke aandacht nodig heeft of dat het voldoende is om deze vormen van AI mee te nemen in het brede strategisch actieplan voor AI.

In het kader van kwaliteitseisen wijs ik ook graag op de richtlijnen voor de ontwikkeling en implementatie van ethiek in artificiële intelligentie. Deze richtlijnen zijn begin april 2019 gepubliceerd door de Europese Commissie. Daarin wordt ook ingegaan op de bescherming van publieke waarden (zie onderstaand kader). De Europese Commissie wil na een pilotfase komen tot internationale consensus over de ethische ai-richtlijnen. Technologie, data en algoritmes kennen immers geen grenzen. De Europese Commissie wil samenwerken met partners als Japan, Canada en Singapore en een actieve rol spelen in internationale discussies en initiatieven als de G7 en de G20.

De zeven ai-richtlijnen van de EU

  1. Menselijk toezicht: ai-systemen moeten het mogelijk maken dat de mens de regie houdt en de rechten van de mens ondersteunt. Ze mag niet de menselijke autonomie ondermijnen;
  2. Robuust en veilig: ai vraagt om veilige, betrouwbare en robuuste algoritmes die om kunnen gaan met de fouten binnen ai-systemen;
  3. Privacy en databeleid: burgers moeten volledige controle hebben over hun eigen data, terwijl data over hen niet gebruikt mag worden om hen schade te berokken of te discrimineren;
  4. Transparantie: ai-systemen moeten traceerbaar zijn;
  5. Diversiteit en eerlijkheid: ai-systemen moeten alle menselijke vaardigheden meenemen en toegang verzekeren voor iedereen;
  6. Maatschappij en milieu centraal: ai-systemen moeten positieve sociale veranderingen mogelijk maken en duurzaamheid hoog in het vaandel dragen;
  7. Verantwoordelijkheid: mechanismes moeten ingebouwd worden om entiteiten verantwoordelijk te maken voor (de uitkomsten van) ai-systemen.

Datacontinuïteit garanderen

De RVS stelt voor een (gratis) downloadmogelijkheid voor patiënten van hun gegevens in zorgsystemen te verplichten om de continuïteit van zorg waarborgen. Op die manier kunnen patiënten over hun medische gegevens blijven beschikken, bijvoorbeeld als een zorginstelling failliet gaat.
Het is reeds wettelijk verplicht voor zorgaanbieders om patiënten desgevraagd een digitaal overzicht van hun medische gegevens te verstrekken. Met het programma MedMij zorgt VWS ervoor dat iedereen die dat wil, levenslang kan beschikken over zijn eigen gezondheidsgegevens in een persoonlijke gezondheidsomgeving (PGO). Deze informatie blijft na het downloaden van gegevens beschikbaar, ook als een zorginstelling failliet is gegaan.

Traceerbaarheid voor burgers realiseren

De RVS stelt dat burgers moeten kunnen zien waar hun medische gegevens zijn opgeslagen en met wie deze gegevens worden gedeeld. Ik zet in op maximale zeggenschap van burgers over de eigen (medische) data. Ik vind het van groot belang dat burgers en patiënten weten waar hun data zich bevindt en wat er mee gebeurt. Hierbij hoort dat patiënten (indien gewenst) terugkoppeling krijgen over uitkomsten van data-analyses en dat iemand kan weigeren om zijn persoonlijke data beschikbaar te stellen voor onderzoek, of eerder gegeven toestemming in kan trekken. In de Algemene Verordening gegevensbescherming (AVG) is het wettelijke kader op het gebied van privacy in de zorg geregeld, waaronder de verantwoordelijkheid voor het informeren van betrokkenen over de opslag en het gebruik van data. Toezicht hierop wordt gehouden door de Autoriteit Persoonsgegevens. Als een patiënt wil weten welke medische gegevens zijn opgeslagen en met wie die zijn gedeeld, dient de patiënt dit zelf op te vragen bij de zorgaanbieder. Als een medisch hulpmiddel medische gegevens opslaat, kan de patiënt deze informatie opvragen bij de beheerder van de data van het medische hulpmiddel. Ik acht het met het oog op informatiebeveiliging niet wenselijk om (op één locatie) te verzamelen bij welke zorgaanbieders of in welke medische hulpmiddelen gegevens van een patiënt zijn verzameld. Dit is namelijk privacygevoelige informatie.

Ten slotte

Er gebeurt veel op het terrein van AI, zowel binnen gezondheid, zorg en ondersteuning als daarbuiten. Ik volg de ontwikkelingen nauwgezet en zal AI een centrale plek geven in de nationale agenda MedTech 2020-2024. Deze nationale agenda wordt ontwikkeld in samenspraak met het veld. Ook de RVS zal in dit traject worden betrokken. AI zal ons ongetwijfeld voor uitdagingen stellen, maar ik heb er vertrouwen in dat we met de hierboven omschreven acties kunnen profiteren van de kansen die AI biedt voor gezondheid, zorg en ondersteuning.

Hoogachtend,

de minister voor Medische Zorg en Sport,

Bruno Bruins


Deze Kamerbrief is ook te vinden in het dossier Privacy in de zorg

bron: Rijksoverheid

Van onze partners

Opleiding Privacy in het sociaal domein - 3 daags

Met deze driedaagse opleiding wordt u opgeleid tot privacy professional in het sociaal domein.

→ Lees meer

Cursus: werken aan een privacybewuste organisatie

Na deze afwisselende en interactieve cursus kunnen deelnemers een privacybewustzijnsproces in hun eigen organisatie initiëren.

→ Lees meer

Nieuwsbrief

Blijf op de hoogte van het laatste nieuws over privacy, cybersecurity en data. Abonneer op onze gratis nieuwsbrief.

Abonneer