"Nincs helye a tömeges megfigyelésnek a társadalmunkban" - bemutatták az EU Fehér Könyvét a mesterséges intelligenciáról

2021 / 04 / 22 / Bobák Zsófia
Betiltanák a társadalmi kreditrendszerekhez felhasználható megfigyelési módszereket, az MI manipulatív használatát és a közösségi területeken alkalmazott biometrikus azonosítást is.

A múlt héten már kiszivárogtak dokumentumok abból a Fehér Könyvből, amelyek az Európai Bizottság mesterséges intelligencia rendszereket szabályozó javaslatait tartalmazza, és most hivatalosan is bemutatták a tervezetet. A kiszivárgott dokumentum még egy januári változat volt, amelyet azóta némileg megváltoztattak, de a főbb pontok és az uniós politikusok hozzáállása ugyanaz maradt: egy emberközpontú mesterséges intelligencia létrehozása a cél a kontinensen.

Margrethe Vestager, az Európai Bizottság versenyjogért felelős biztosa és digitális korszakért felelős ügyvezető alelnöke beszédében elmondta, a mesterséges intelligencia használata rendkívül fontos kérdés az Unió számára, hiszen a világ több pontján is előrébb járnak a fejlesztésekben, ha Európa nem akar lemaradni a digitalizáció következő hullámában, akkor nagy hangsúlyt kell fektetni az MI rendszerek építésére. De ez nem mehet az emberek alapvető jogainak rovására. A mesterséges intelligenciával kapcsolatban, főleg annak black box típusú működése miatt, gyakran felmerülnek bizalmi problémák, de senkinek nem érdeke, hogy démonizáljuk a technológiát, a lényeg, hogy ne vonjuk ki az emberi felügyeletet teljesen a rendszerből.

"Ebben a pillanatban, ahogy beszélünk, a (mesterséges intelligencia) életeket ment a jobb diagnózisoknak köszönhetően. Hozzájárul a Green Deal megvalósításához azzal, hogy segít a farmereknek optimalizálni a forrásaikat. Még a mérnököket is támogatja a párizsi Notre Dame újjáépítésében.

Ezek a példák illusztrálják, hogy mivé szeretnénk, hogy váljon a MI Európában: a fejlődés mozgatórugójává. De ahhoz, hogy ez lehetséges legyen, bizalmat kell építenünk a rendszer iránt."

- mondta Vestager a sajtótájékoztatón. A bizalom alapvetően csak a legegyszerűbb programoknak jár ki, például az e-maileket szortírozó algoritmusoknak, ezek esetében nincs szükség humán felügyeletre. Ezek találhatóak annak a piramisnak az alján, amely a MI rendszereket használati körük alapján kockázati kategóriákba sorolja: alul vannak tehát azok az alkalmazások, amelyek nem járnak nagy kockázattal meghibásodásuk estén sem, középen a kritikusabb rendszerek, legfelül a tiltandó MI-k. Az alulról második osztályba tartoznak a chatbotok, amelyeknél, a félreértéseket elkerülendő, világosan fel kell tüntetni az őket alkalmazó cégeknek, hogy a felhasználó egy géppel beszélget. A harmadik csoportot alkotják a magas kockázatú rendszerek. Ezek közvetlenül befolyásolhatják egy ember életének fontos aspektusait, például a munkahelyre való felvételét, amely sok helyen már számítógépes rendszerek végeznek, vagy a banki hitelbesorolását, ami szintén egyre inkább automatizálva van. Öt szigorú kötelezettség vonatkozik az ilyen programokat alkalmazó üzemeltetőkre:

  • a rendszer betanítása csak magas minőségű adatokkal történhet, hogy a végeredmény ne legyen diszkriminatív
  • pontos leírást kell adni az algoritmusok működéséről és felépítéséről, melyet a hatóságok ellenőrizhetnek
  • jelentős mennyiségű információt kell megosztaniuk a felhasználókkal is, hogy azok jobban megérthessék a rendszert
  • biztosítaniuk kell a megfelelő emberi felügyeletet a program tervezése és működtetése során is
  • a lehető legmagasabb sztenderdeknek kell megfelelni a kiberbiztonság területén

A piramis tetején azok a mesterséges intelligencia rendszerek helyezkednek el, amelyeket az EB teljes mértékben betiltana. Ezek a következők:

  • azok a MI-k, amelyek ártalmas célokkal manipulálni próbálják a felhasználót, különösen a gyerekeket, azok tudta nélkül
  • a társadalmi kreditrendszer megalapozására alkalmas megfigyelőrendszerek, amelyek egy polgárt, viselkedése alapján, magasabb vagy alacsonyabb kategóriába sorolna és ezzel jogokat vonna meg tőle
  • a távoli biometrikus azonosításnak egy speciális formája: amikor a rendfenntartó erők közösségi területeken használnák a megfigyelési eszközöket. Kivételt képez, ha nagy szükség van erre, például ha elveszett gyereket kell megtalálni a rendőrségnek

A mostani javaslatok három év munkájának az eredményét jelentik, és azoknak a kommenteknek és véleményeknek a figyelembevételével készültek, amelyeket a tavaly februárban bemutatott első Fehér Könyv alapján kaptak az Európai Bizottság illetékesei (összesen 1200 ilyen megjegyzés érkezett azóta). Ahogy más uniós intézkedések esetében is, úgy a MI szabályokkal kapcsolatban is az egyes országok lesznek felelősek a saját területükön belül alkalmazott rendszerek felügyeletéért és a szabályok betartatásáért. Azok, akik megszegik az előírásokat, a globális éves bevételük 6%-ra lesznek büntethetőek. A javaslatok egyelőre még csak előzetesét jelentik a későbbi törvényeknek, amelyek bevezetéséhez még évek kellenek. A javaslatokról bővebben (angol nyelven) itt lehet olvasni.

(Fotó: GettyImages/Anadolu Agency)

További cikkek a témában:

Európában a jövőben sem lesz a kínaihoz hasonló társadalmi kreditrendszer egy kiszivárgott tervezet szerint A dokumentum szerint, mely a jövő héten bemutatandó Fehér Könyv alapját képezi, az Európai Bizottság szigorúan korlátozná a mesterséges intelligencia rendszerek használatát. A tervezetnek azonban van néhány gyenge pontja is a szakértők szerint.
"Ami illegális offline, annak illegálisnak kell lennie online is" - egységes törvényekkel nyirbálja meg az EU a nagy tech cégek hatalmát A várhatóan jövő héten bemutatásra kerülő Digitális Szolgáltatások Törvény döntő hatással lesz az Európai unió digitális működésére, elsősorban a nagy technológiai platformok kötelezettségeinek szabályozásában.
Mégsem fogja külön szabályozni a nagy technológiai cégek működését Magyarország A kormány inkább megvárja az európai uniós szabályozást, amit elemzők szerint legkorábban 2023-ban fogadhatnak el.


Ismerd meg a ROADSTER magazint!
AUTÓK - DESIGN - GASZTRO - KULT - UTAZÁS - TECH // Ha szereted a minőséget az életed minden területén, páratlan élmény lesz!
Autót vennél mostanában? Nézz bele a PLAYER AUTÓTESZT ROVATÁBA!
Minden friss és izgalmas autót kipróbálunk, amit csak tudunk, legyen az dízel vagy elektromos, olcsó vagy luxus, kétszemélyes vagy kisbusz!
Megfizethető árú csúcskategóriás telefont mutatott be a Xiaomi
Megfizethető árú csúcskategóriás telefont mutatott be a Xiaomi
A Xiaomi 13T Pro 144Hz-es képfrissítésű OLED kijelzővel, 120 wattos gyorstöltéssel és 350 ezer forint alatti árcédulával igyekszik magához édesgetni azokat, akiknek nem opció, hogy félmillió forintot fizessenek ki egy olyan telefonért, amiben minden megtalálható, amit egy mai csúcskészüléktől elvárhatnánk.
Irán a mesterséges intelligenciát használná az iszlám vallásjogi döntésekhez
Irán a mesterséges intelligenciát használná az iszlám vallásjogi döntésekhez
Eddig átlagosan 50 nap volt egy fatva megalkotása, olykor több év, de az MI segítségével akár már öt óra alatt elkészülhet egy törvény.
HELLO, EZ ITT A
RAKÉTA
Kövess minket a Facebookon!
A jövő legizgalmasabb cikkeit találod nálunk!
Hírlevél feliratkozás

Ne maradj le a jövőről! Iratkozz fel a hírlevelünkre, és minden héten elküldjük neked a legfrissebb és legérdekesebb híreket a technológia és a tudomány világából.



This site is protected by reCAPTCHA and the Google Privacy Policy and Terms of Service apply.