In de blogserie ‘Gezonde Bytes’ onderzoekt het Rathenau Instituut hoe kunstmatige intelligentie (AI) verantwoord voor onze gezondheid wordt ingezet. In deze openingsblog stellen ze vast dat verantwoorde inzet van AI betekent dat onze gezondheid centraal staat en de patiënt eigen keuzes kan maken. AI kan ons ondersteunen in die keuzes. Maar naarmate we meer steunen op de technologie, wordt de vraag ‘wie beslist?’ actueler. Garanties zijn nodig om waarden als autonomie, privacy en inclusiviteit te waarborgen in automatische beslissystemen. Het Rathenau Instituut gaan op zoek naar goede voorbeelden, zodat we leren hoe professionals, patiënten en de samenleving vorm geven aan verantwoorde inzet van AI.
Gezondheid is een groot goed. In enquêtes geven Nederlanders steevast aan dat ze gezondheid heel belangrijk vinden. In het beleid staat de patiënt of de cliënt centraal. Samen met familie en bijgestaan door artsen en andere professionals maken we zelf onze keuzes. Tenminste, dat is het ideaalbeeld. Juist als het om onze gezondheid gaat, blijkt in de praktijk dat willen nog geen kunnen is en dat kunnen nog geen doen inhoudt.
Nieuwe technologie kan ons helpen. Door onze gezondheid te monitoren, ons te coachen, te helpen beslissen en door verbanden te leggen op basis van heel veel gegevens, die we zelf niet zouden kunnen interpreteren. De stappenteller is een eenvoudig voorbeeld. Onze stappen worden gemeten, we krijgen advies om te bewegen en we kunnen ook zien hoe we het doen in vergelijking met anderen. Bij het interpreteren van medische beelden speelt hetzelfde. Door veel meetgegevens te verzamelen, die worden geïnterpreteerd door rekenmodellen (algoritmen), komen artsen tot adviezen. Bijvoorbeeld om wel of niet te opereren. In beide voorbeelden is sprake van kunstmatige intelligentie of artificial intelligence (AI) die al die data doorrekent.
Maar wie beslist? Staat de patiënt of onze gezondheid nog centraal? Of zijn commerciële of andere motieven leidend?
Het Rathenau Instituut onderzocht eerder aan welke randvoorwaarden zowel eenvoudige als ingewikkelde beslissystemen zouden moeten voldoen en wanneer ze behulpzaam en betrouwbaar zijn. Of de beslissingen in ons belang zijn, blijkt lang niet altijd navolgbaar, verantwoord of zelfs evidence based. Tijdens onze eerdere onderzoeken zagen we ook goede voorbeelden van toepassingen van kunstmatige intelligente, slimme algoritmen en automatische beslissystemen voor gezondheid en welzijn. We bekeken hoe die zijn ingebed in goede zorg en advies.
We concludeerden dat automatische beslissystemen keuzes kunnen maken waarin de gezondheid en de patiënt centraal staan, mits we letten op drie factoren: de kwaliteit van de data, de manier waarop data worden verwerkt en de adviezen die het automatische beslissysteem geeft. Zijn de data relevant voor deze individuele patiënt, of zijn de data verzameld in een context die niet op deze patiënt van toepassing is? Staat het belang van de patiënt centraal, of houdt het algoritme rekening met andere (bijvoorbeeld commerciële) belangen? Is het advies persoonlijk toegesneden op de patiënt, of lijkt het eerder op een one size fits all?
Wanneer we, zoals voorspeld, voor onze gezondheid meer en meer gaan steunen en vertrouwen op deze technologie, wordt het belangrijker dat er garanties komen voor zeggenschap, autonomie, uitlegbaarheid, maar ook privacy en inclusiviteit, zodat er geen uitsluiting of discriminatie plaatsvindt op basis van geautomatiseerde adviezen en keuzes. De vraag ‘wie beslist?’ wordt met de inzet van kunstmatige intelligentie nog actueler. Wie wil, wie kan en wie beslist uiteindelijk over onze gezondheid en welzijn?
Op zoek naar goede voorbeelden van de toepassing van kunstmatige intelligentie in de zorg, vroegen we belangrijke spelers op het gebied van gezondheid en welzijn in Nederland naar hun ervaringen. In de komende weken zullen we deze inzichten delen via onze website. Hoe maken we nu en in de toekomst gezonde keuzes? Hoe zorgen we dat we zelf kunnen beslissen waar dat kan? En begrijpen we op welke manier anderen verantwoordelijkheid nemen voor onze gezondheid waar dat moet? Ook met de inzet van technologie moet onze gezondheid centraal staan.
bron: Rathenau Instituut
Dit artikel is ook te vinden in het dossier Privacy in de zorg
