ADVERTENTIE

Generatieve kunstmatige intelligentie (AI): WHO brengt nieuwe richtlijnen uit voor het bestuur van LMM's

WIE heeft nieuwe richtlijnen uitgegeven over de ethiek en het bestuur van grote multimodale modellen (LMM's) voor het juiste gebruik ervan om de gezondheid van bevolkingsgroepen te bevorderen en te beschermen. LMM's zijn een soort snelgroeiende generatieven kunstmatige intelligentie (AI)-technologie met vijf brede toepassingen voor de gezondheid in 

1. Diagnose en klinische zorg, zoals het reageren op schriftelijke vragen van patiënten; 

2. Patiëntgestuurd gebruik, bijvoorbeeld voor symptoomonderzoek en behandeling; 

3. Administratieve en administratieve taken, zoals het documenteren en samenvatten van patiëntbezoeken in elektronische medische dossiers; 

4. Medisch en verpleegkundig onderwijs, inclusief het aanbieden van gesimuleerde ontmoetingen met patiënten, en; 

5. Wetenschappelijk onderzoek en ontwikkeling van geneesmiddelen, inclusief de identificatie van nieuwe verbindingen. 

However, these applications in healthcare run the risks of producing false, inaccurate, biased, or incomplete statements, which could harm people using such information in making health decisions. Furthermore, LMMs may be trained on data that are of poor quality or biased, whether by race, ethnicity, ancestry, sex, gender identity, or age. There are also broader risks to health systems, such as accessibility and affordability of the best performing LMMs. LMMs can also encourage ‘automation bias’ by health care professionals and patients, whereby errors are overlooked that would otherwise have been identified or difficult choices are improperly delegated to a LMM. LMMs, like other forms of AI, are also vulnerable to cybersecurity risks that could endanger patient information or the trustworthiness of these algorithms and the provision of health care more broadly. 

Om veilige en effectieve LMM’s te creëren heeft de WHO daarom aanbevelingen gedaan voor overheden en ontwikkelaars van LMM’s. 

Regeringen hebben de primaire verantwoordelijkheid om normen vast te stellen voor de ontwikkeling en inzet van LMM's, en de integratie en het gebruik ervan voor volksgezondheids- en medische doeleinden. Overheden moeten investeren in of voorzien in non-profit of publieke infrastructuur, met inbegrip van rekenkracht en publieke datasets, toegankelijk voor ontwikkelaars in de publieke, private en non-profitsector, die vereist dat gebruikers zich houden aan ethische principes en waarden op het gebied van ruilen voor toegang. 

· Use laws, policies and regulations to ensure that LMMs and applications used in health care and medicine, irrespective of the risk or benefit associated with the AI technology, meet ethical obligations and human rights standards that affect, for example, a person’s dignity, autonomy or privacy. 

· Wijs een bestaand of nieuw regelgevend agentschap toe om LMM's en toepassingen die bedoeld zijn voor gebruik in de gezondheidszorg of de geneeskunde te beoordelen en goed te keuren – voor zover de middelen dit toelaten. 

· Introduceer verplichte audits en effectbeoordelingen na de release, ook voor gegevensbescherming en mensenrechten, door onafhankelijke derde partijen wanneer een LMM op grote schaal wordt ingezet. De audits en effectbeoordelingen moeten worden gepubliceerd 

en moet uitkomsten en effecten omvatten, uitgesplitst naar type gebruiker, bijvoorbeeld naar leeftijd, ras of handicap. 

· LMMs are designed not only by scientists and engineers. Potential users and all direct and indirect stakeholders, including medical providers, scientific researchers, health care professionals and patients, should be engaged from the early stages of AI development in structured, inclusive, transparent design and given opportunities to raise ethical issues, voice concerns and provide input for the AI application under consideration. 

LMM's zijn ontworpen om goed gedefinieerde taken uit te voeren met de nodige nauwkeurigheid en betrouwbaarheid om de capaciteit van de gezondheidszorgsystemen te verbeteren en de belangen van de patiënt te bevorderen. Ontwikkelaars moeten ook potentiële secundaire uitkomsten kunnen voorspellen en begrijpen. 

*** 

Bron: 

WHO 2024. Ethiek en bestuur van kunstmatige intelligentie voor de gezondheid: begeleiding bij grote multimodale modellen. Verkrijgbaar bij https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y 

***

SCIEU-team
SCIEU-teamhttps://www.ScientificEuropean.co.uk
Wetenschappelijk Europees® | SCIEU.com | Aanzienlijke vooruitgang in de wetenschap. Impact op de mensheid. Inspirerende geesten.

Abonneer u op onze nieuwsbrief

Om op de hoogte te blijven van het laatste nieuws, aanbiedingen en speciale aankondigingen.

Meest populaire artikelen

Tandbederf: een nieuwe antibacteriële vulling die herhaling voorkomt

Wetenschappers hebben een nanomateriaal met antibacteriële eigenschappen in...

Klimaatverandering: snel smelten van ijs over de aarde

De snelheid van ijsverlies voor de aarde is toegenomen...

PROBA-V voltooit 7 jaar in de baan ten dienste van de mensheid

De Belgische satelliet PROBA-V, ontwikkeld door European Space Agency...
- Advertentie -
94,488FansLike
47,677volgersVolg
1,772volgersVolg
30abonneesInschrijven