Generatieve kunstmatige intelligentie (AI): WHO brengt nieuwe richtlijnen uit voor het bestuur van LMM's

De WHO heeft nieuwe richtlijnen uitgevaardigd over de ethiek en het bestuur van grote multimodale modellen (LMM's) voor het juiste gebruik ervan ter bevordering en bescherming van de volksgezondheid. LMM's zijn een snelgroeiende generatieve kunstmatige intelligentie (AI)-technologie met vijf brede toepassingen in de gezondheidszorg .

1. Diagnose en klinische zorg, zoals het reageren op schriftelijke vragen van patiënten; 

2. Patiëntgestuurd gebruik, bijvoorbeeld voor symptoomonderzoek en behandeling; 

3. Administratieve en administratieve taken, zoals het documenteren en samenvatten van patiëntbezoeken in elektronische medische dossiers; 

4. Medisch en verpleegkundig onderwijs, inclusief het aanbieden van gesimuleerde ontmoetingen met patiënten, en; 

5. Wetenschappelijk onderzoek en ontwikkeling van geneesmiddelen, inclusief de identificatie van nieuwe verbindingen. 

Deze toepassingen in de gezondheidszorg brengen echter het risico met zich mee dat ze onjuiste, inaccurate, bevooroordeelde of onvolledige uitspraken produceren, wat schadelijk kan zijn voor mensen die dergelijke informatie gebruiken bij het nemen van gezondheidsbeslissingen. Bovendien kunnen LMM's getraind worden op data van slechte kwaliteit of met een vooroordeel, bijvoorbeeld op basis van ras, etniciteit, afkomst, geslacht, genderidentiteit of leeftijd. Er zijn ook bredere risico's voor gezondheidszorgsystemen, zoals de toegankelijkheid en betaalbaarheid van de best presterende LMM's. LMM's kunnen ook 'automatiseringsbias' in de hand werken bij zorgprofessionals en patiënten, waardoor fouten die anders zouden zijn opgemerkt over het hoofd worden gezien of moeilijke keuzes ten onrechte aan een LMM worden gedelegeerd. Net als andere vormen van AI zijn LMM's ook kwetsbaar voor cyberbeveiligingsrisico's die de patiëntinformatie, de betrouwbaarheid van deze algoritmen en de gezondheidszorg in het algemeen in gevaar kunnen brengen.

Om veilige en effectieve LMM’s te creëren heeft de WHO daarom aanbevelingen gedaan voor overheden en ontwikkelaars van LMM’s. 

Regeringen hebben de primaire verantwoordelijkheid om normen vast te stellen voor de ontwikkeling en inzet van LMM's, en de integratie en het gebruik ervan voor volksgezondheids- en medische doeleinden. Overheden moeten investeren in of voorzien in non-profit of publieke infrastructuur, met inbegrip van rekenkracht en publieke datasets, toegankelijk voor ontwikkelaars in de publieke, private en non-profitsector, die vereist dat gebruikers zich houden aan ethische principes en waarden op het gebied van ruilen voor toegang. 

• Gebruik wetten, beleid en regelgeving om ervoor te zorgen dat LMM's en toepassingen die in de gezondheidszorg en geneeskunde worden gebruikt, ongeacht het risico of voordeel van de AI- technologie, voldoen aan ethische verplichtingen en mensenrechtennormen die bijvoorbeeld de waardigheid, autonomie of privacy van een persoon aantasten.

· Wijs een bestaand of nieuw regelgevend agentschap toe om LMM's en toepassingen die bedoeld zijn voor gebruik in de gezondheidszorg of de geneeskunde te beoordelen en goed te keuren – voor zover de middelen dit toelaten. 

· Introduceer verplichte audits en effectbeoordelingen na de release, ook voor gegevensbescherming en mensenrechten, door onafhankelijke derde partijen wanneer een LMM op grote schaal wordt ingezet. De audits en effectbeoordelingen moeten worden gepubliceerd 

en moet uitkomsten en effecten omvatten, uitgesplitst naar type gebruiker, bijvoorbeeld naar leeftijd, ras of handicap. 

• LMM's worden niet alleen ontworpen door wetenschappers en ingenieurs. Potentiële gebruikers en alle directe en indirecte belanghebbenden, waaronder zorgverleners, wetenschappelijke onderzoekers, professionals in de gezondheidszorg en patiënten, moeten vanaf de vroege stadia van AI- ontwikkeling worden betrokken bij een gestructureerd, inclusief en transparant ontwerp. Zij moeten de mogelijkheid krijgen om ethische kwesties aan te kaarten, zorgen te uiten en input te leveren voor de betreffende AI- toepassing.

LMM's zijn ontworpen om goed gedefinieerde taken uit te voeren met de nodige nauwkeurigheid en betrouwbaarheid om de capaciteit van de gezondheidszorgsystemen te verbeteren en de belangen van de patiënt te bevorderen. Ontwikkelaars moeten ook potentiële secundaire uitkomsten kunnen voorspellen en begrijpen. 

*** 

Bron: 

WHO 2024. Ethiek en governance van kunstmatige intelligentie voor de gezondheidszorg: richtlijnen voor grote multimodale modellen. Beschikbaar op https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y

***