WIE heeft nieuwe richtlijnen uitgegeven over de ethiek en het bestuur van grote multimodale modellen (LMM's) voor het juiste gebruik ervan om de gezondheid van bevolkingsgroepen te bevorderen en te beschermen. LMM's zijn een soort snelgroeiende generatieven kunstmatige intelligentie (AI)-technologie met vijf brede toepassingen voor de gezondheid in
1. Diagnose en klinische zorg, zoals het reageren op schriftelijke vragen van patiënten;
2. Patiëntgestuurd gebruik, bijvoorbeeld voor symptoomonderzoek en behandeling;
3. Administratieve en administratieve taken, zoals het documenteren en samenvatten van patiëntbezoeken in elektronische medische dossiers;
4. Medisch en verpleegkundig onderwijs, inclusief het aanbieden van gesimuleerde ontmoetingen met patiënten, en;
5. Wetenschappelijk onderzoek en ontwikkeling van geneesmiddelen, inclusief de identificatie van nieuwe verbindingen.
Deze toepassingen in de gezondheidszorg lopen echter het risico dat er valse, onnauwkeurige, bevooroordeelde of onvolledige uitspraken worden gedaan, wat schadelijk zou kunnen zijn voor mensen die dergelijke informatie gebruiken bij het nemen van gezondheidsbeslissingen. Bovendien kunnen LMM's worden getraind op gegevens die van slechte kwaliteit zijn of bevooroordeeld zijn, ongeacht of het gaat om ras, etniciteit, afkomst, geslacht, genderidentiteit of leeftijd. Er zijn ook bredere risico's voor de gezondheidszorgstelsels, zoals de toegankelijkheid en betaalbaarheid van de best presterende LMM's. LMM's kunnen ook 'automatiseringsvooroordelen' bij zorgprofessionals en patiënten aanmoedigen, waarbij fouten over het hoofd worden gezien die anders zouden zijn geïdentificeerd of moeilijke keuzes ten onrechte aan een LMM worden gedelegeerd. LMM's zijn, net als andere vormen van AI, zijn ook kwetsbaar voor cyberveiligheidsrisico's die de patiëntinformatie of de betrouwbaarheid van deze algoritmen en de gezondheidszorg in bredere zin in gevaar kunnen brengen.
Om veilige en effectieve LMM’s te creëren heeft de WHO daarom aanbevelingen gedaan voor overheden en ontwikkelaars van LMM’s.
Regeringen hebben de primaire verantwoordelijkheid om normen vast te stellen voor de ontwikkeling en inzet van LMM's, en de integratie en het gebruik ervan voor volksgezondheids- en medische doeleinden. Overheden moeten investeren in of voorzien in non-profit of publieke infrastructuur, met inbegrip van rekenkracht en publieke datasets, toegankelijk voor ontwikkelaars in de publieke, private en non-profitsector, die vereist dat gebruikers zich houden aan ethische principes en waarden op het gebied van ruilen voor toegang.
· Gebruik wetten, beleid en regelgeving om ervoor te zorgen dat LMM's en toepassingen die in de gezondheidszorg en de geneeskunde worden gebruikt, ongeacht het risico of voordeel dat met de AI technologie, voldoen aan ethische verplichtingen en mensenrechtennormen die bijvoorbeeld de waardigheid, autonomie of privacy van een persoon aantasten.
· Wijs een bestaand of nieuw regelgevend agentschap toe om LMM's en toepassingen die bedoeld zijn voor gebruik in de gezondheidszorg of de geneeskunde te beoordelen en goed te keuren – voor zover de middelen dit toelaten.
· Introduceer verplichte audits en effectbeoordelingen na de release, ook voor gegevensbescherming en mensenrechten, door onafhankelijke derde partijen wanneer een LMM op grote schaal wordt ingezet. De audits en effectbeoordelingen moeten worden gepubliceerd
en moet uitkomsten en effecten omvatten, uitgesplitst naar type gebruiker, bijvoorbeeld naar leeftijd, ras of handicap.
· LMM's worden niet alleen ontworpen door wetenschappers en ingenieurs. Potentiële gebruikers en alle directe en indirecte belanghebbenden, waaronder medische zorgverleners, wetenschappelijke onderzoekers, beroepsbeoefenaren in de gezondheidszorg en patiënten, moeten vanaf het beginstadium van de ontwikkeling worden betrokken. AI ontwikkeling in gestructureerd, inclusief, transparant ontwerp en kansen gegeven om ethische kwesties aan de orde te stellen, zorgen te uiten en input te leveren voor de samenleving AI aanvraag in behandeling.
LMM's zijn ontworpen om goed gedefinieerde taken uit te voeren met de nodige nauwkeurigheid en betrouwbaarheid om de capaciteit van de gezondheidszorgsystemen te verbeteren en de belangen van de patiënt te bevorderen. Ontwikkelaars moeten ook potentiële secundaire uitkomsten kunnen voorspellen en begrijpen.
***
Bron:
WHO 2024. Ethiek en bestuur van kunstmatige intelligentie voor de gezondheid: begeleiding bij grote multimodale modellen. Verkrijgbaar bij https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
***
