ADVERTENTIE

Generatieve kunstmatige intelligentie (AI): WHO brengt nieuwe richtlijnen uit voor het bestuur van LMM's

WIE heeft nieuwe richtlijnen uitgegeven over de ethiek en het bestuur van grote multimodale modellen (LMM's) voor het juiste gebruik ervan om de gezondheid van bevolkingsgroepen te bevorderen en te beschermen. LMM's zijn een soort snelgroeiende generatieven kunstmatige intelligentie (AI)-technologie met vijf brede toepassingen voor de gezondheid in 

1. Diagnose en klinische zorg, zoals het reageren op schriftelijke vragen van patiënten; 

2. Patiëntgestuurd gebruik, bijvoorbeeld voor symptoomonderzoek en behandeling; 

3. Administratieve en administratieve taken, zoals het documenteren en samenvatten van patiëntbezoeken in elektronische medische dossiers; 

4. Medisch en verpleegkundig onderwijs, inclusief het aanbieden van gesimuleerde ontmoetingen met patiënten, en; 

5. Wetenschappelijk onderzoek en ontwikkeling van geneesmiddelen, inclusief de identificatie van nieuwe verbindingen. 

Deze toepassingen in de gezondheidszorg lopen echter het risico dat er valse, onnauwkeurige, bevooroordeelde of onvolledige uitspraken worden gedaan, wat schadelijk kan zijn voor mensen die dergelijke informatie gebruiken bij het nemen van gezondheidsbeslissingen. Bovendien kunnen LMM's worden getraind op gegevens die van slechte kwaliteit zijn of bevooroordeeld zijn, ongeacht of het gaat om ras, etniciteit, afkomst, geslacht, genderidentiteit of leeftijd. Er zijn ook bredere risico's voor de gezondheidszorgstelsels, zoals de toegankelijkheid en betaalbaarheid van de best presterende LMM's. LMM's kunnen ook 'automatiseringsvooroordelen' bij zorgprofessionals en patiënten aanmoedigen, waarbij fouten over het hoofd worden gezien die anders zouden zijn geïdentificeerd of moeilijke keuzes ten onrechte aan een LMM worden gedelegeerd. LMM’s zijn, net als andere vormen van AI, ook kwetsbaar voor cyberveiligheidsrisico’s die de patiëntinformatie of de betrouwbaarheid van deze algoritmen en de gezondheidszorg in bredere zin in gevaar kunnen brengen. 

Om veilige en effectieve LMM’s te creëren heeft de WHO daarom aanbevelingen gedaan voor overheden en ontwikkelaars van LMM’s. 

Regeringen hebben de primaire verantwoordelijkheid om normen vast te stellen voor de ontwikkeling en inzet van LMM's, en de integratie en het gebruik ervan voor volksgezondheids- en medische doeleinden. Overheden moeten investeren in of voorzien in non-profit of publieke infrastructuur, met inbegrip van rekenkracht en publieke datasets, toegankelijk voor ontwikkelaars in de publieke, private en non-profitsector, die vereist dat gebruikers zich houden aan ethische principes en waarden op het gebied van ruilen voor toegang. 

· Gebruik wetten, beleid en regelgeving om ervoor te zorgen dat LMM's en toepassingen die in de gezondheidszorg en de geneeskunde worden gebruikt, ongeacht het risico of voordeel dat aan de AI-technologie is verbonden, voldoen aan ethische verplichtingen en mensenrechtennormen die bijvoorbeeld de waardigheid en autonomie van een persoon aantasten of privacy. 

· Wijs een bestaand of nieuw regelgevend agentschap toe om LMM's en toepassingen die bedoeld zijn voor gebruik in de gezondheidszorg of de geneeskunde te beoordelen en goed te keuren – voor zover de middelen dit toelaten. 

· Introduceer verplichte audits en effectbeoordelingen na de release, ook voor gegevensbescherming en mensenrechten, door onafhankelijke derde partijen wanneer een LMM op grote schaal wordt ingezet. De audits en effectbeoordelingen moeten worden gepubliceerd 

en moet uitkomsten en effecten omvatten, uitgesplitst naar type gebruiker, bijvoorbeeld naar leeftijd, ras of handicap. 

· LMM's worden niet alleen ontworpen door wetenschappers en ingenieurs. Potentiële gebruikers en alle directe en indirecte belanghebbenden, waaronder medische zorgverleners, wetenschappelijke onderzoekers, beroepsbeoefenaren in de gezondheidszorg en patiënten, moeten vanaf de vroege stadia van de ontwikkeling van AI worden betrokken bij een gestructureerd, inclusief, transparant ontwerp en de kans krijgen om ethische kwesties aan de orde te stellen, zorgen te uiten en input leveren voor de AI-toepassing in kwestie. 

LMM's zijn ontworpen om goed gedefinieerde taken uit te voeren met de nodige nauwkeurigheid en betrouwbaarheid om de capaciteit van de gezondheidszorgsystemen te verbeteren en de belangen van de patiënt te bevorderen. Ontwikkelaars moeten ook potentiële secundaire uitkomsten kunnen voorspellen en begrijpen. 

*** 

Bron: 

WHO 2024. Ethiek en bestuur van kunstmatige intelligentie voor de gezondheid: begeleiding bij grote multimodale modellen. Verkrijgbaar bij https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y 

***

SCIEU-team
SCIEU-teamhttps://www.ScientificEuropean.co.uk
Wetenschappelijk Europees® | SCIEU.com | Aanzienlijke vooruitgang in de wetenschap. Impact op de mensheid. Inspirerende geesten.

Abonneer u op onze nieuwsbrief

Om op de hoogte te blijven van het laatste nieuws, aanbiedingen en speciale aankondigingen.

Meest populaire artikelen

Heeft het Nobelcomité een fout gemaakt door Rosalind Franklin NIET de Nobelprijs voor...

De dubbele helixstructuur van DNA werd voor het eerst ontdekt en...

Cryptobiose: Opschorting van leven op geologische tijdschalen heeft betekenis voor evolutie

Sommige organismen hebben het vermogen om levensprocessen op te schorten wanneer...

Zal Monkeypox Corona-weg gaan? 

Het apenpokkenvirus (MPXV) is nauw verwant aan de pokken, de...
- Advertentie -
94,863FansLike
47,632volgersVolg
1,772volgersVolg
30abonneesInschrijven