КО је издао нове смернице о етици и управљању великим мултимодалним моделима (ЛММ) за њихову одговарајућу употребу за промовисање и заштиту здравља становништва. ЛММ је врста брзорастућих генератива вештачка интелигенција (АИ) технологија која има пет широких примена за здравље in
1. Дијагноза и клиничка нега, као што је одговарање на писмена питања пацијената;
2. Употреба коју води пацијент, на пример за испитивање симптома и лечење;
3. Чиновнички и административни послови, као што су документовање и сумирање посета пацијената у оквиру електронских здравствених картона;
4. Медицинско и медицинско образовање, укључујући пружање приправника са симулираним сусретима са пацијентима, и;
5. Научно истраживање и развој лекова, укључујући и идентификацију нових једињења.
Међутим, ове апликације у здравству носе ризик да дају лажне, нетачне, пристрасне или непотпуне изјаве, што би могло наштетити људима који користе такве информације у доношењу здравствених одлука. Штавише, ЛММ могу бити обучени на основу података који су лошег квалитета или пристрасни, било по раси, етничкој припадности, пореклу, полу, родном идентитету или старости. Постоје и шири ризици за здравствене системе, као што су приступачност и приступачност ЛММ са најбољим учинком. ЛММ такође могу да подстакну „пристрасност аутоматизације“ од стране здравствених радника и пацијената, при чему се занемарују грешке које би иначе биле идентификоване или се тешки избори непрописно делегирају на ЛММ. ЛММ, као и други облици AI, такође су подложни ризицима сајбер безбедности који би могли да угрозе информације о пацијентима или веродостојност ових алгоритама и пружање здравствене заштите у ширем смислу.
Стога, да би створила безбедне и делотворне ЛММ, СЗО је дала препоруке за владе и програмере ЛММ.
Владе имају примарну одговорност да поставе стандарде за развој и примену ЛММ, као и њихову интеграцију и употребу у јавне здравствене и медицинске сврхе. Владе треба да инвестирају или обезбеде непрофитну или јавну инфраструктуру, укључујући рачунарску снагу и скупове јавних података, доступне програмерима у јавном, приватном и непрофитном сектору, што захтева од корисника да се придржавају етичких принципа и вредности у размена за приступ.
· Користите законе, политике и прописе како бисте осигурали да се ЛММ и апликације користе у здравству и медицини, без обзира на ризик или корист повезане са AI технологије, испуњавају етичке обавезе и стандарде људских права који утичу, на пример, на достојанство, аутономију или приватност особе.
· Доделити постојећој или новој регулаторној агенцији да процени и одобри ЛММ и апликације намењене за употребу у здравству или медицини – ако ресурси дозвољавају.
· Увести обавезну ревизију након објављивања и процену утицаја, укључујући заштиту података и људска права, од стране независних трећих страна када се ЛММ примењује у великим размерама. Ревизију и процене утицаја треба објавити
и треба да обухвати исходе и утицаје разврстане према типу корисника, укључујући, на пример, узраст, расу или инвалидитет.
· ЛММ не дизајнирају само научници и инжењери. Потенцијални корисници и све директне и индиректне заинтересоване стране, укључујући пружаоце медицинских услуга, научне истраживаче, здравствене раднике и пацијенте, треба да буду ангажовани од раних фаза AI развој структурираног, инклузивног, транспарентног дизајна и дате прилике за покретање етичких питања, изражавање забринутости и пружање доприноса за AI апликација која се разматра.
ЛММ су дизајнирани да обављају добро дефинисане задатке са потребном тачношћу и поузданошћу да побољшају капацитет здравствених система и унапреде интересе пацијената. Програмери такође треба да буду у стању да предвиде и разумеју потенцијалне секундарне исходе.
***
Извор:
СЗО 2024. Етика и управљање вештачком интелигенцијом за здравље: смернице за велике мултимодалне моделе. Доступно на https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
***
