Csaknem három napig tartó tárgyalásokat követően az Európai Unió jogalkotói tegnap este politikai megállapodást kötöttek a mesterséges intelligencia szabályozásának kockázatalapú keretrendszeréről. Az MI-jogszabállyal kapcsolatos megbeszélések még 2021 áprilisában kezdődtek, ezután pedig hónapokig tartó, háromoldalú tárgyalásokra volt szükség ahhoz, hogy a megállapodás megszülethessen. A tegnapi bejelentés egyben azt jelenti, hogy a mesterséges intelligenciáról szóló uniós szintű jogszabály célegyenesbe ért.

Az Európai Parlament által kiadott sajtóközlemény szerint a Tanáccsal kötött megállapodás tartalmazza bizonyos MI-rendszerek alkalmazásának teljes tilalmát. A jogszabály tiltani fogja a következőket:

• olyan biometrikus rendszerek, amelyek érzékeny jellemzők alapján kategorizálják az embereket, például politikai, vallási, filozófiai meggyőződés, szexuális irányultság, faji hovatartozás;
• az internetről vagy a térfigyelő kamerák felvételeiből származó arcképek nem célzott lekérdezése arcfelismerő adatbázisok létrehozása céljából;
• érzelemfelismerés a munkahelyeken és oktatási intézményekben;
• viselkedésen vagy személyes jellemzőkön alapuló társadalmi pontozás;
• az emberi viselkedést manipuláló mesterséges intelligencia-rendszerek, amelyek megkerülik az emberi szabad akaratot;
• az emberek (koruk, fogyatékosságuk, szociális vagy gazdasági helyzetük miatti) kiszolgáltatottságának kihasználására használt MI.

A távoli biometrikus azonosítási technológia nyilvános helyeken történő használatát nem tiltották be teljesen a bűnüldöző hatóságok számára, azonban azt olyan szigorú feltételekhez kötik majd, mint például az előzetes bírói engedély, illetve csak meghatározott bűncselekményekkel kapcsolatban lehet majd használni ezeket a rendszereket. Ez azt is jelenti, hogy ezt a technológiát csak „a súlyos bűncselekmény elkövetésével elítélt vagy gyanúsított személy célzott felkutatására” használhatják majd, és akkor is csak olyan célokra, mint többek között az áldozatok felkutatása emberrablás esetén, terrorcselekmény megelőzése, vagy a hasonló bűncselekményekkel gyanúsítottak lokalizálása, vagy azonosítása.

A digitális világ mérföldköve az EU új MI-jogszabálya Az Európai Unió általános adatvédelmi rendeletéhez (GDPR) hasonlóan az uniós MI-jogszabály is globális szabvánnyá válhat, amely meghatározhatja azt is, hogy a mesterséges intelligencia milyen törvényi keretek között működhet a világ Európán kívüli országaiban.

A magas kockázatúnak minősített mesterséges intelligencia-rendszerek esetében (az egészségre, a biztonságra, az alapvető jogokra, a környezetre, a demokráciára és a jogállamiságra gyakorolt jelentős potenciális káros hatásuk miatt) is egyértelmű kötelezettségekről állapodtak meg. Magas kockázatúnak minősülnek például a választások kimenetelének és a választói magatartásnak a befolyásolására használt MI-rendszerek. A megállapodás értelmében az EU-s állampolgároknak joguk lesz panaszt tenni ezekkel a rendszerekkel kapcsolatban, hasonlóan a 2018-as, személyes adatokat védő GDPR-hoz.

Megállapodás született továbbá egy „kétszintű” védőkorlát-rendszerről is, amelyet az „általános” mesterséges intelligencia rendszerekre kell alkalmazni, mint például az úgynevezett generatív alapmodellekre, mint a ChatGPT. Ezeknek a rendszereknek és az általuk használt modelleknek szigorú átláthatósági követelményeknek kell megfelelniük. Ilyen feltétel például a részletes technikai dokumentáció elkészítése, az uniós szerzői jogi szabályozás betartása és a modell tanításához használt tartalmakról szóló részletes összefoglalók közzététele. Ami a jogszabályban foglalt követelmények be nem tartásáért kiszabott bírságokat illeti, azok a jogsértéstől és a vállalat méretétől függően 35 millió eurótól vagy a globális forgalom 7%-ától 7,5 millió euróig vagy a forgalom 1,5%-áig terjedhetnek majd.

A jogszabály elfogadott szövegét a Parlamentnek és a Tanácsnak hivatalosan is jóvá kell hagynia ahhoz, hogy uniós jogszabállyá váljon. A tegnapi megállapodás a törvény fokozatos hatálybalépést is lehetővé teszi: a tiltott felhasználási esetekre vonatkozó szabályok bevezetéséig hat hónap, az átláthatósági és irányítási követelmények esetében 12 hónap, az összes többi követelmény esetében pedig 24 hónap áll rendelkezésre. Így az EU mesterséges intelligenciáról szóló törvényének teljes ereje valószínűleg csak 2026-ban lesz érezhető.

(Borítókép: Getty Images/MarianVejcik)

Újabb előrelépés az EU mesterséges intelligenciát szabályozó jogszabályával kapcsolatban A törvény betiltja például a köztereken, mesterséges intelligenciával végzett biometrikus azonosítást, érzelemfelismerést, de szigorú átláthatósági követelményeket támaszt a ChatGPT-hez hasonló rendszerekkel szemben is.