A Politico szerezte meg azt a nyolcvan oldalas dokumentumot, amely az első, januárban készült verziója annak a mesterséges intelligencia rendszerekről szóló törvényjavaslat tervezetnek, vagyis Fehér Könyvnek, amelyet hivatalosan a jövő héten mutatnak majd be az Európai Bizottság tagjai. Mivel január óta már változhatott a tervezet, ezért a végső verzió lehetséges, hogy különbözik majd ettől a dokumentumtól, de az Európai Bizottság korábbi javaslatait és tavaly megjelent Digitális Stratégiájának szellemiségét figyelembe véve a főbb elvek hasonlóak maradhatnak.

A tervezet szerint Európában sokkal szigorúbban vennék a mesterséges intelligenciára alapozott rendszerek felügyeletét és szabályozását, mint az olyan országokban, ahol az MI által biztosított gazdasági vagy politikai előny időnként elsőbbséget élvez a lakosok személyiségi jogaival szemben. Európában a 2016-ban bevezetett és 2018-tól jogerőre emelkedett GDPR (General Data Protection Regulation, általános adatvédelmi szabályozás) hangsúlyt helyez az emberek személyiségi és magánélet védelméhez fűződő jogaira, és úgy tűnik, hogy ez a jövőben a mesterséges intelligencia rendszerekkel kapcsolatban is így lesz, vagy legalábbis ez a terv.

A javaslat szerint határozott különbséget tennének a magas kockázatú és alacsony kockázatú MI alkalmazások között, és a magas kockázatú kategórián belül lesznek olyanok, melyeknek kifejezetten a betiltását tervezik, vagyis a jövőben nem lehet majd ilyen programokat fejleszteni és forgalmazni, csak büntetés terhe mellett. Ilyen alkalmazási területek lehetnek az emberek véleményét/döntését/viselkedését szándékosan befolyásoló rendszerek, melyek akár az illető kárára is válhatnak, illetve a megfigyelőrendszerek válogatás nélküli, általános jellegű használata. Ezenkívül nem engedélyezik majd a mesterséges intelligencia társadalmi kreditrendszer jellegű, a polgárok pontozáshoz való alkalmazását vagy éppen a diszkriminatív jellegű, személyekről vagy csoportokról szerzett olyan információk felhasználását sem, amely hátrányos helyzetbe hozhatná őket.

Ezeket a felhasználási módokat tehát tiltanák, de kivételt képeznének azok az esetek, amelyekben a kormányok a társadalom védelmének céljával cselekszenek. Azok, akik mégis ilyen tiltott MI programokat fejlesztenének a teljes éves bevételük 4%-nak megfelelő összegre büntetnék. De vannak olyan, szintén magas kockázati besorolású alkalmazások, melyek nem esnének teljes tiltás alá, de a használatuk szigorúbb feltételekhez lenne kötve, ilyenek például:

• a mentők, rendőrök, tűzoltók, egyéb vészhelyzeti szolgáltatók működését segítő rendszerek
• azok a programok, amelyeket tanintézményekbe, vagy munkahelyre való felvételiztetéshez használnak
• hitelbírálati rendszerek
• biztosításokat elbíráló programok
• bűncselekményeket előrejelző alkalmazások
• közösségi infrastruktúrákban, ellátórendszerekben (víz, elektromosság, gáz szolgáltatás) alkalmazott MI programok

Egyike a dokumentumokat analizáló szakértőknek Daniel Leufer, az Access Now politikai elemzője. Az Access Now emberjogi szervezet rendszeres kommentelője az Európai Bizottság tervezett javaslatainak, és korábban már több ízben is felhívták rá a figyelmet, hogy nem tartják követendő iránynak a személyiségi jogok fókuszba helyezésétől inkább egy adatközpontúbb nézőpont felé való elmozdulást a digitális jogok tekintetében. Leufer a mostani tervezettel kapcsolatban elsősorban azt bírálta, hogy a dokumentum nem tette elég világossá, hogy pontosan milyen esetekben lehetne betiltani a mesterséges intelligencia rendszereket,

mivel a definíciók, úgy mint az "emberek véleményének, döntésének, viselkedésének szándékos befolyásolása" eléggé szabadon értelmezhető meghatározások.

After going through the full 80+ pages of this leaked draft of the @EU_Commission's regulatory proposal on AI, here are some initial comments:

- First, this leak is of a draft from January, so it's likely, and hopeful, that the draft has significantly progressed since then https://t.co/c9tUWyF6Xb

— Daniel Leufer (@djleufer) April 14, 2021

Ezenkívül szintén kifogásolhatónak tartja a magas kockázatú és alacsony kockázatú rendszerek kategorikus szétválasztását, amely arra adhat lehetőséget, hogy az alacsony kategóriába sorolt alkalmazásokat nem fogják ellenőrizni, így esetleg vissza is lehet majd élni velük. A szakértő egyelőre Twitteren osztotta meg észrevételeit, de vélhetőleg a Fehér Könyv hivatalos bemutatása után lehetőség lesz a nyilvános véleményezésre is, úgy mint ahogy a Digitális Stratégia esetében is történt.

A Bizottság ezenkívül tervbe vette egy testület, az Európai Mesterséges Intelligencia Tanács létrehozását, amely javaslatokkal és véleményekkel segítené a Bizottság munkáját és amelyben mind a 27 tagállam képviselői jelen lennének. Az Euractiv értesülései szerint a Fehér Könyvet április 21-én fogja bemutatni Margrethe Vestager, az Európai Bizottság versenyjogért felelős biztosa és digitális korszakért felelős ügyvezető alelnöke.

(Forrás: BBC, Euractiv Fotó: GettyImages/ Vincente Mendez, Pixabay)

További cikkek a témában:

Mégsem fogja külön szabályozni a nagy technológiai cégek működését Magyarország A kormány inkább megvárja az európai uniós szabályozást, amit elemzők szerint legkorábban 2023-ban fogadhatnak el.
Kína társadalmi kreditrendszere nem orwelli valóság, de nem is megnyugtató utópia Az országban nem a Nagy Testvér, hanem sok Kis Testvér figyel. Pluszpont jár, ha valaki pénzt ad idős szüleinek, öt pont levonás, ha szemetel.
Megszületett a megállapodás, 2,6 billió forintot fordít az EU a digitális átalakulásra a következő hat évben Az Európai Parlament és az Unió tagországai megegyeztek a Digitális Európa Program költségvetésének részleteiről, ami példátlanul nagy összeget szán a digitalizáció felgyorsítására a következő költségvetési ciklusban.