A WHO ajánlást adott ki a mesterséges intelligencia felelősségteljes használatáról

2023 / 10 / 21 / Bobák Zsófia
A WHO ajánlást adott ki a mesterséges intelligencia felelősségteljes használatáról
Az Egészségügyi Világszervezet szeretné, ha az MI rendszereket minél többen használnák, de csak bizonyos feltételek mellett.

A WHO (Egészségügyi Világszervezet) október 19-én jelentette meg azt az összefoglaló jellegű dokumentumát, amelyben a mesterséges intelligencia rendszerek egészségügyben való használatának kérdésében foglalnak állást, pontosabban az MI biztonságos működésének feltételeit részletezik. A szervezet szerint fontos, hogy szükség esetén a mesterséges intelligenciára alapozott eszközök minél gyorsabban eljussanak azokra a helyekre, ahol életmentő fontosságúak lehetnek, de fontos a megfelelő szabályozásokkal kordában tartani a technológiát, hogy az érzékeny adatokkal ne lehessen visszaélni.

"A mesterséges intelligencia nagy lehetőségeket rejt az egészségügy számára, de komoly kihívásokat is tartogat, beleértve az etikátlan adatgyűjtést, kiberbiztonsági fenyegetést és félretájékoztatást.

Az új útmutató támogatja az országokat, hogy hatékonyan szabályozzák a mesterséges intelligenciát, kihasználják a benne rejlő lehetőségeket, akár a rák kezelésében, akár a tuberkulózis detektálásában, miközben minimalizálják a kockázatokat." - mondta el Tedrosz Adhanom Gebrejeszusz, a WHO főigazgatója.

Az útmutató hat fő területtel kapcsolatban vázolja a szervezet ajánlásait:

  • az átláthatóság és a kellő dokumentáció
  • a kockázatkezelés
  • az adatok ellenőrzése
  • az adatok minőségének biztosítása
  • az adatok biztonsága
  • és a szabályozó bizottságok közötti együttműködés

kérdésében.

A WHO álláspontjának egyik kiemelt sarkpontja, hogy, nem meglepő módon, a páciensek egészségügyi adatainak terén az óvatosság fontos szempontot jelent, mivel ezek az adatok a legszemélyesebb jellemzőket árulják el az emberekről és ezért a kezelésük a legmagasabb szintű védelmet igényli. Ennek elérése érdekében már a fejlesztés alatt figyelembe kell venni a jogi szabályozásokat és a fejlesztőknek tisztában kell lennie az alkalmazások leendő használóinak (az adott országoknak) a helyi előírásaival is. Mivel a rendszer gyakran bonyolult és nemzetközi szinten is szabályozott, ezért nagy körültekintést igényel a részletek megismerése már az alapoktól, vagyis a különféle kifejezések (úgymint az anonimitás vagy a beleegyezés fogalmának) megértésétől kezdve. Az MI programok fejlesztésének kezdeteitől a termék teljes életciklusán át lényeges a nyomonkövethetőség is.

Az adatok azokban nem csak adatvédelmi kérdések kapcsán játszanak nagy szerepet a mesterséges intelligenciáról szóló vitákban, hanem más szemszögből is: a használatuk tekintetében is. Az MI-rendszerek, főként a nagy nyelvi modellek (LLM) betanítása során rengeteg nyilvánosan elérhető adatot táplálnak be a rendszerbe, hogy az algoritmusok megtanulják kezelni, osztályozni, felismerni a mintákat és minden szükséges feladatot elvégezni ezek alapján, azonban az egészségügyi területen (akárcsak bárhol máshol) a túlságosan "egysíkú" forrásból szerzett adatok részrehajláshoz vezethetnek. A WHO szerint emiatt az adatok minőségének növelése és adott esetben az adatbázisok bővítése is elengedhetetlen része a megbízható MI építésének.

"A Stanford Egyetem közelmúltbeli tanulmánya rávilágított, hogy a páciensek 71%-ának adatai, amelyeket az egész Amerikai Egyesült Államokban használt MI-alapú diagnosztikai eszközeinek betanítására alkalmaznak, az Egyesült Államok három államából származnak."

- írja a WHO jelentésében.

Minden országban más-más a szabályozás a betegek adatainak alkalmazása tekintetében, de az algoritmusokra alapozott applikációk képessége a betegségek tüneteinek felismerésére csak akkor lehet precíz, ha pontos adatok állnak rendelkezésre. Az MI-alkalmazások jövőbeli fejlődése és megbízhatósága ezért komplex és némileg ellentmondásos kérdést jelent, amit csak a megfelelő együttműködéssel lehet megoldani. A WHO két példát hozott fel a szabályozó hatóságok és a fejlesztők közti kollaboratív munka eredményességére: a CURATE.AI-t és az IDentif.AI-t, amelyet többek között a COVID-19 járvány idején használtak. A szervezet szerint az együttműködés sikere azon múlik, hogy mennyire tudnak hosszú távra tervezni és a közös munkát hosszú távú célként kezelni a különböző felek.

A WHO előrejelzése alapján a mesterséges intelligencia az egészségügyben elsősorban a klinikai tesztek segítését, az orvosi diagnózisok pontosságának növelését, a személyre szabott kezeléseket és az egészségügyben dolgozók tudásának és képességeinek erősítését támogatja majd, potenciálisan átalakítva az egész egészségügyi szektort. Az MI megbízhatóságával kapcsolatos kérdésekre a szervezet már korábban is felhívta a figyelmet, mikor májusban felhívást fogalmazott meg a mesterséges intelligencia etikus használatáról. A nagy nyelvi modellekkel működő platformok, például a ChatGPT szerepe tagadhatatlan, de "alapvető fontosságú, hogy a kockázatokat gondosan felmérjük, amikor az LLM-eket alkalmazzuk" - mondta akkor a WHO.

(Fotó: Vasil Dimitrov/Getty Images)


Így lettek a szexuális játékszerekből digitális kütyük
Így lettek a szexuális játékszerekből digitális kütyük
Lassan már senkit sem lep meg, hogy egy intim segédeszköznek legalább olyan jól kell tudnia csatlakoznia a wifihez vagy egy telefonhoz, mint a viselőjéhez, használójához.
Drámain változnak az egészségügyi trendek: új vezető betegséget azonosítottak a világban
Drámain változnak az egészségügyi trendek: új vezető betegséget azonosítottak a világban
A korábbi vezető betegség globálisan a szív- és érrendszeri megbetegedések együttese volt.
Ezek is érdekelhetnek
HELLO, EZ ITT A
RAKÉTA
Kövess minket a Facebookon!
A jövő legizgalmasabb cikkeit találod nálunk!
Hírlevél feliratkozás

Ne maradj le a jövőről! Iratkozz fel a hírlevelünkre, és minden héten elküldjük neked a legfrissebb és legérdekesebb híreket a technológia és a tudomány világából.



This site is protected by reCAPTCHA and the Google Privacy Policy and Terms of Service apply.