A digitális világ mérföldköve az EU új MI-jogszabálya

2023 / 05 / 11 / Bodnár Barna
A digitális világ mérföldköve az EU új MI-jogszabálya
Csütörtökön elfogadta az Európai Parlament két ügyvivő szakbizottsága az úgynevezett AI-Act-et, vagyis MI-jogszabályt. Az uniós jogalkotók célja, hogy a világon elsőként egységes és átfogó szabálykönyv szülessen a mesterséges intelligencia (MI) használatával kapcsolatban. A jogszabálycsomag többek között megtiltja bizonyos MI rendszerek alkalmazását, illetve az MI-t használó technológiákat kockázati kategóriákba sorolja, és megerősíti az EU MI hivatalának ellenőrző szerepét is.

Az Európai Parlament már 2020-ban egyeztetésekbe kezdett a mesterséges intelligenciáról, pontosabban annak felhasználásáról. Érintettek etikai szempontokat, vizsgálták a polgári jogi felelősséget és a szellemi tulajdon kérdéskörét is. Ezután a Parlament felkérte az Európai Bizottságot, hogy hozzon létre egy átfogó és a jövőben is jól alkalmazható európai jogi keretet a mesterséges intelligenciával kapcsolatban.

Ennek eredményeképpen az Európai Bizottság 2021 áprilisában javaslatot tett a mesterséges intelligenciáról (MI) szóló új jogszabályra (AI Act, vagyis MI- jogszabály). Ez a világon az első olyan jogszabály, amelyet egy jelentős szabályozó hatóság hozott a mesterséges intelligenciáról. A szabályozás egyik legfontosabb eleme, hogy négy kockázati kategóriába sorolja a mesterséges intelligencia alkalmazását.

Az első kategória az olyan alkalmazásokat és rendszereket foglalja magában, amelyek elfogadhatatlan kockázatot jelentenek - mint például a Kínában alkalmazott, kormányzati irányítású szociális pontozás – így az ehhez hasonló technológiák tiltottá válnak. A kínai társadalmi pontozás egy olyan, állami szintű szabályozási keretrendszer, amely mesterséges intelligencia segítségével meghatározza, mennyire „megbízható” egy adott személy, vagy cég. A szociális pontszám nagyságától függ, hogy az alany milyen egészségügyi ellátásra jogosult, utazhat-e külföldre, milyen munkát vállalhat, sőt, akár az is, mennyi adót kell fizetnie. Pontszám levonás sok mindenért járhat, ilyen például, ha valaki tilosban kel át az úttesten, hangosan eszik a tömegközlekedési eszközön, vagy csal egy számítógépes játékban. A tervezet szerint tehát tiltott lesz az ilyen és hasonló, valós idejű, biometrikus azonosító rendszer használata nyilvános helyeken.

A jogszabály tiltja az olyan rendszerek diszkriminatív felhasználását is, mint például az érzékeny adatokat (pl. nem, etnikai hovatartozás, állampolgárság, vallás, politikai irányultság) használó biometrikus kategorizálási rendszerek, vagy az érzelemfelismerésre képes mesterséges intelligenciát használó rendszereket a bűnüldözésben, a határvédelemben, a munkahelyeken és az oktatási intézményekben.

A tiltott kategóriába tartozik még többek között a biometrikus adatok válogatás nélküli lekérdezése a közösségi médiából vagy zártláncú kamerarendszerek felvételeiről arcfelismerő adatbázisok létrehozása céljából, ez ugyanis sérti az alapvető emberi jogokat és a magánélethez való jogokat is.

A második kategória a magas kockázati minősítés, ide tartoznak például az álláspályázatokat rangsoroló önéletrajz-ellenőrző eszközök, vagy a bűnüldöző hatóságok által poligráfként vagy természetes személyek érzelmi állapotának észlelésére szánt mesterségesintelligencia-rendszerek, illetve a határátlépéssel kapcsolatos, illegális bevándorlás kockázatát értékelő MI alkalmazások is. A szabályozás szerint ezekre a magas kockázatú MI-rendszerekre is különleges jogi követelmények vonatkoznak, így a törvény részletes naplózást, átlátható dokumentációt, és folyamatos emberi felügyeletet követel meg.

A jogszabály lehetővé teszi a az emberek számára, hogy panaszt tegyenek a mesterségesintelligencia-rendszerekkel kapcsolatban, és pontos tájékoztatást kapjanak a magas kockázatú MI-n alapuló, a jogaikat jelentősen befolyásoló döntésekről. A szabályozás megerősíti az Európai Unió AI Hivatalának szerepét is, amelynek feladata, hogy nyomon kövesse és ellenőrizze az MI-törvény betartását.


Dél-Korea 2021-ben egy sínen mozgó robotot és mesterséges intelligencia alapú megfigyelőrendszert telepített a Koreai-félsziget "senki földjére", az országot Észak-Koreától elválasztó határvonalra. Fotó: Getty Images/Rex_Wholster

A harmadik csoportba a mérsékelt kockázatú, vagy általános célú mesterségesintelligencia-rendszerek tartoznak, amelyekre korlátozott kötelezettségek vonatkoznak majd, például a teljes átláthatóság arra vonatkozóan, ki a fejlesztő, milyen céllal hozták létre a rendszert és további részletes adatok az adott alkalmazással kapcsolatban. Az ilyen MI-rendszereket regisztrálni kell egy uniós adatbázisba, illetve az üzemeltetőknek garantálniuk kell többek között az alapvető emberi jogok védelmét az MI felhasználása során.

A ChatGPT-hez hasonló generatív MI modelleknek szigorú átláthatósági követelményeknek kell megfelelniük, a fejlesztőknek például közzé kell tenniük, hogy a tartalmat mesterséges intelligencia generálta, továbbá a modellt úgy kell megtervezni, hogy az ne tudjon illegális tartalmat létrehozni, illetve a nyilvánossá kell tenni az MI tanítására használt, szerzői jogvédelem alatt álló adatokat és műveket is.

Végül, a negyedik kategória a minimális kockázatú mesterséges intelligencia, amely minden további jogi kötelezettségek nélkül fejleszthető és használható az EU-ban.

A 2018-as, Európai Unió általános adatvédelmi rendeletéhez (GDPR) hasonlóan az uniós MI-törvény is globális szabvánnyá válhat, amely meghatározhatja, hogy a mesterséges intelligencia milyen törvényi keretek között működhet a világ Európán kívüli országaiban.

Erre jó példa, hogy az EU MI-szabályozása már nemzetközi szinten is megjelent: 2021 szeptember végén a brazil kongresszus elfogadta a mesterséges intelligencia jogi keretét megteremtő törvényjavaslatot.

A javaslat részleteinek kidolgozásán több mint egy évet dolgozott az Európai Parlament Belső Piaci és Fogyasztóvédelmi Bizottsága és az Állampolgári Jogi, Bel- és Igazságügyi Bizottsága. Ez idő alatt több mint 3000 módosítási kérést regisztráltak.

A Rakéta kérdésére Dragoş Tudorache, a javaslat egyik előadója azt mondta, a legtöbb vita és kérdés a jogszabály ötödik és hatodik cikkelye körül alakult ki, ahol a teljes mértékben tiltott és a magas kockázatú mesterségesintelligencia-rendszereket határozzák meg. Szakértők szerint ugyanis kétséges, hogy a tiltás, illetve a magas kockázati kategóriába sorolás mennyire lesz alkalmazható a gyakorlatban úgy, hogy a kockázati szint meghatározását a mesterséges intelligenciát használó rendszer üzemeltetőjének értékelésére bízzák. Ennek okán felmerült az igény egy független hatóság, vagy szervezet jelenlétére, aki felülvizsgálhatja az MI-rendszereket alkalmazók önértékelését a kockázati kategóriát illetően.

Egy másik kritikus pont a biometrikus azonosítás – például arc- vagy hangfelismerés, retina- vagy ujjlenyomat-azonosítás – mesterséges intelligenciával való végrehajtása, kiváltképp ami a valós idejű, nyilvános helyek megfigyelését illeti. A bűnüldözés által, gyanúsítottak keresésére használt arcfelismerő rendszerek, vagy a határvédelemnél használt, menekülteket azonosító és kategorizáló MI alkalmazására a visszaélések elkerülése érdekében különösen nagy figyelmet és független hatóságok által végrehajtott ellenőrzést írnak elő.

A javaslat előadói külön kitértek rá, hogy

a ChatGPT-hez hasonló, generatív mesterségesintelligencia-rendszerek fejlesztői kötelesek lesznek átfogó, átlátható módon közzétenni, milyen szerzői jogok által védett tartalmakat használnak az MI tanítása során.

Erre azért van szükség, hogy a szerzők – például egy tudományos folyóiratban megjelent cikk írója, vagy akár egy dal zeneszerzője, szövegírója – úgy látja, hogy a generatív MI, például a ChatGPT válaszában az ő szerzeményét vagy alkotását használta, és ezzel sérültek a szerzői jogai, bejelentést tudjon tenni. További követelmény még a hasonló rendszereknél, hogy a felhasználót egyértelműen tájékoztassák arról, hogy mesterséges intelligenciával áll szemben, illetve arról is, ha az adott tartalom nem valódi, hanem az MI által előállított, például úgynevezett deepfake-technológiával készült.

Csütörtökön a Belső Piaci Bizottság és az Állampolgári Jogi Bizottság 84 igen szavazattal, 7 nem ellenében és 12 tartózkodás mellett elfogadta a mesterséges intelligenciára vonatkozó jogszabály tervezetét. Brando Benifei és Dragoş Tudorache a javaslat két jelentéstevője elmondta, hogy a több mint 3000 módosítási kérvény is jelzi, milyen jelentőséggel bír a szabályozás. A digitális világ mérföldkövének nevezték a szabályozást, aminek nem a technológia fejlődésének korlátozása, hanem az emberek alapvető jogainak védelme a célja, illetve az, hogy a rohamléptekkel fejlődő, a társadalomra óriási hatással lévő mesterséges intelligenciát megfelelően tudjuk használni és kiaknázni a benne rejlő lehetőségeket.

Mielőtt az Európai Tanács véglegesítené a jogszabályt, a tervezetet az Európai Parlament egészének jóvá kell hagynia. Erre a szavazásra várhatóan júniusban kerül sor.

A Rakéta.hu az Európai Parlament meghívására és támogatásával vett részt az EP májusi plenáris ülésén.

(Borítókép: Getty Images/Peter Dazeley)


Így lettek a szexuális játékszerekből digitális kütyük
Így lettek a szexuális játékszerekből digitális kütyük
Lassan már senkit sem lep meg, hogy egy intim segédeszköznek legalább olyan jól kell tudnia csatlakoznia a wifihez vagy egy telefonhoz, mint a viselőjéhez, használójához.
Hátborzongató “cseppkövek” a fukusimai reaktorban készült első képeken
Hátborzongató “cseppkövek” a fukusimai reaktorban készült első képeken
Most először készültek képek az 1-es blokkban, a katasztrófa elsődleges helyszínén.
Ezek is érdekelhetnek
HELLO, EZ ITT A
RAKÉTA
Kövess minket a Facebookon!
A jövő legizgalmasabb cikkeit találod nálunk!
Hírlevél feliratkozás

Ne maradj le a jövőről! Iratkozz fel a hírlevelünkre, és minden héten elküldjük neked a legfrissebb és legérdekesebb híreket a technológia és a tudomány világából.



This site is protected by reCAPTCHA and the Google Privacy Policy and Terms of Service apply.