A WHO (Egészségügyi Világszervezet) október 19-én jelentette meg azt az összefoglaló jellegű dokumentumát, amelyben a mesterséges intelligencia rendszerek egészségügyben való használatának kérdésében foglalnak állást, pontosabban az MI biztonságos működésének feltételeit részletezik. A szervezet szerint fontos, hogy szükség esetén a mesterséges intelligenciára alapozott eszközök minél gyorsabban eljussanak azokra a helyekre, ahol életmentő fontosságúak lehetnek, de fontos a megfelelő szabályozásokkal kordában tartani a technológiát, hogy az érzékeny adatokkal ne lehessen visszaélni.

"A mesterséges intelligencia nagy lehetőségeket rejt az egészségügy számára, de komoly kihívásokat is tartogat, beleértve az etikátlan adatgyűjtést, kiberbiztonsági fenyegetést és félretájékoztatást.

Az új útmutató támogatja az országokat, hogy hatékonyan szabályozzák a mesterséges intelligenciát, kihasználják a benne rejlő lehetőségeket, akár a rák kezelésében, akár a tuberkulózis detektálásában, miközben minimalizálják a kockázatokat." - mondta el Tedrosz Adhanom Gebrejeszusz, a WHO főigazgatója.

Az útmutató hat fő területtel kapcsolatban vázolja a szervezet ajánlásait:

• az átláthatóság és a kellő dokumentáció
• a kockázatkezelés
• az adatok ellenőrzése
• az adatok minőségének biztosítása
• az adatok biztonsága
• és a szabályozó bizottságok közötti együttműködés

kérdésében.

A WHO álláspontjának egyik kiemelt sarkpontja, hogy, nem meglepő módon, a páciensek egészségügyi adatainak terén az óvatosság fontos szempontot jelent, mivel ezek az adatok a legszemélyesebb jellemzőket árulják el az emberekről és ezért a kezelésük a legmagasabb szintű védelmet igényli. Ennek elérése érdekében már a fejlesztés alatt figyelembe kell venni a jogi szabályozásokat és a fejlesztőknek tisztában kell lennie az alkalmazások leendő használóinak (az adott országoknak) a helyi előírásaival is. Mivel a rendszer gyakran bonyolult és nemzetközi szinten is szabályozott, ezért nagy körültekintést igényel a részletek megismerése már az alapoktól, vagyis a különféle kifejezések (úgymint az anonimitás vagy a beleegyezés fogalmának) megértésétől kezdve. Az MI programok fejlesztésének kezdeteitől a termék teljes életciklusán át lényeges a nyomonkövethetőség is.

Az adatok azokban nem csak adatvédelmi kérdések kapcsán játszanak nagy szerepet a mesterséges intelligenciáról szóló vitákban, hanem más szemszögből is: a használatuk tekintetében is. Az MI-rendszerek, főként a nagy nyelvi modellek (LLM) betanítása során rengeteg nyilvánosan elérhető adatot táplálnak be a rendszerbe, hogy az algoritmusok megtanulják kezelni, osztályozni, felismerni a mintákat és minden szükséges feladatot elvégezni ezek alapján, azonban az egészségügyi területen (akárcsak bárhol máshol) a túlságosan "egysíkú" forrásból szerzett adatok részrehajláshoz vezethetnek. A WHO szerint emiatt az adatok minőségének növelése és adott esetben az adatbázisok bővítése is elengedhetetlen része a megbízható MI építésének.

"A Stanford Egyetem közelmúltbeli tanulmánya rávilágított, hogy a páciensek 71%-ának adatai, amelyeket az egész Amerikai Egyesült Államokban használt MI-alapú diagnosztikai eszközeinek betanítására alkalmaznak, az Egyesült Államok három államából származnak."

- írja a WHO jelentésében.

Minden országban más-más a szabályozás a betegek adatainak alkalmazása tekintetében, de az algoritmusokra alapozott applikációk képessége a betegségek tüneteinek felismerésére csak akkor lehet precíz, ha pontos adatok állnak rendelkezésre. Az MI-alkalmazások jövőbeli fejlődése és megbízhatósága ezért komplex és némileg ellentmondásos kérdést jelent, amit csak a megfelelő együttműködéssel lehet megoldani. A WHO két példát hozott fel a szabályozó hatóságok és a fejlesztők közti kollaboratív munka eredményességére: a CURATE.AI-t és az IDentif.AI-t, amelyet többek között a COVID-19 járvány idején használtak. A szervezet szerint az együttműködés sikere azon múlik, hogy mennyire tudnak hosszú távra tervezni és a közös munkát hosszú távú célként kezelni a különböző felek.

A WHO előrejelzése alapján a mesterséges intelligencia az egészségügyben elsősorban a klinikai tesztek segítését, az orvosi diagnózisok pontosságának növelését, a személyre szabott kezeléseket és az egészségügyben dolgozók tudásának és képességeinek erősítését támogatja majd, potenciálisan átalakítva az egész egészségügyi szektort. Az MI megbízhatóságával kapcsolatos kérdésekre a szervezet már korábban is felhívta a figyelmet, mikor májusban felhívást fogalmazott meg a mesterséges intelligencia etikus használatáról. A nagy nyelvi modellekkel működő platformok, például a ChatGPT szerepe tagadhatatlan, de "alapvető fontosságú, hogy a kockázatokat gondosan felmérjük, amikor az LLM-eket alkalmazzuk" - mondta akkor a WHO.

(Fotó: Vasil Dimitrov/Getty Images)