"Nincs helye a tömeges megfigyelésnek a társadalmunkban" - bemutatták az EU Fehér Könyvét a mesterséges intelligenciáról
2021 / 04 / 22 / Bobák Zsófia
Betiltanák a társadalmi kreditrendszerekhez felhasználható megfigyelési módszereket, az MI manipulatív használatát és a közösségi területeken alkalmazott biometrikus azonosítást is.

A múlt héten már kiszivárogtak dokumentumok abból a Fehér Könyvből, amelyek az Európai Bizottság mesterséges intelligencia rendszereket szabályozó javaslatait tartalmazza, és most hivatalosan is bemutatták a tervezetet. A kiszivárgott dokumentum még egy januári változat volt, amelyet azóta némileg megváltoztattak, de a főbb pontok és az uniós politikusok hozzáállása ugyanaz maradt: egy emberközpontú mesterséges intelligencia létrehozása a cél a kontinensen.

Margrethe Vestager, az Európai Bizottság versenyjogért felelős biztosa és digitális korszakért felelős ügyvezető alelnöke beszédében elmondta, a mesterséges intelligencia használata rendkívül fontos kérdés az Unió számára, hiszen a világ több pontján is előrébb járnak a fejlesztésekben, ha Európa nem akar lemaradni a digitalizáció következő hullámában, akkor nagy hangsúlyt kell fektetni az MI rendszerek építésére. De ez nem mehet az emberek alapvető jogainak rovására. A mesterséges intelligenciával kapcsolatban, főleg annak black box típusú működése miatt, gyakran felmerülnek bizalmi problémák, de senkinek nem érdeke, hogy démonizáljuk a technológiát, a lényeg, hogy ne vonjuk ki az emberi felügyeletet teljesen a rendszerből.

"Ebben a pillanatban, ahogy beszélünk, a (mesterséges intelligencia) életeket ment a jobb diagnózisoknak köszönhetően. Hozzájárul a Green Deal megvalósításához azzal, hogy segít a farmereknek optimalizálni a forrásaikat. Még a mérnököket is támogatja a párizsi Notre Dame újjáépítésében.

Ezek a példák illusztrálják, hogy mivé szeretnénk, hogy váljon a MI Európában: a fejlődés mozgatórugójává. De ahhoz, hogy ez lehetséges legyen, bizalmat kell építenünk a rendszer iránt."

- mondta Vestager a sajtótájékoztatón. A bizalom alapvetően csak a legegyszerűbb programoknak jár ki, például az e-maileket szortírozó algoritmusoknak, ezek esetében nincs szükség humán felügyeletre. Ezek találhatóak annak a piramisnak az alján, amely a MI rendszereket használati körük alapján kockázati kategóriákba sorolja: alul vannak tehát azok az alkalmazások, amelyek nem járnak nagy kockázattal meghibásodásuk estén sem, középen a kritikusabb rendszerek, legfelül a tiltandó MI-k. Az alulról második osztályba tartoznak a chatbotok, amelyeknél, a félreértéseket elkerülendő, világosan fel kell tüntetni az őket alkalmazó cégeknek, hogy a felhasználó egy géppel beszélget. A harmadik csoportot alkotják a magas kockázatú rendszerek. Ezek közvetlenül befolyásolhatják egy ember életének fontos aspektusait, például a munkahelyre való felvételét, amely sok helyen már számítógépes rendszerek végeznek, vagy a banki hitelbesorolását, ami szintén egyre inkább automatizálva van. Öt szigorú kötelezettség vonatkozik az ilyen programokat alkalmazó üzemeltetőkre:

  • a rendszer betanítása csak magas minőségű adatokkal történhet, hogy a végeredmény ne legyen diszkriminatív
  • pontos leírást kell adni az algoritmusok működéséről és felépítéséről, melyet a hatóságok ellenőrizhetnek
  • jelentős mennyiségű információt kell megosztaniuk a felhasználókkal is, hogy azok jobban megérthessék a rendszert
  • biztosítaniuk kell a megfelelő emberi felügyeletet a program tervezése és működtetése során is
  • a lehető legmagasabb sztenderdeknek kell megfelelni a kiberbiztonság területén

A piramis tetején azok a mesterséges intelligencia rendszerek helyezkednek el, amelyeket az EB teljes mértékben betiltana. Ezek a következők:

  • azok a MI-k, amelyek ártalmas célokkal manipulálni próbálják a felhasználót, különösen a gyerekeket, azok tudta nélkül
  • a társadalmi kreditrendszer megalapozására alkalmas megfigyelőrendszerek, amelyek egy polgárt, viselkedése alapján, magasabb vagy alacsonyabb kategóriába sorolna és ezzel jogokat vonna meg tőle
  • a távoli biometrikus azonosításnak egy speciális formája: amikor a rendfenntartó erők közösségi területeken használnák a megfigyelési eszközöket. Kivételt képez, ha nagy szükség van erre, például ha elveszett gyereket kell megtalálni a rendőrségnek

A mostani javaslatok három év munkájának az eredményét jelentik, és azoknak a kommenteknek és véleményeknek a figyelembevételével készültek, amelyeket a tavaly februárban bemutatott első Fehér Könyv alapján kaptak az Európai Bizottság illetékesei (összesen 1200 ilyen megjegyzés érkezett azóta). Ahogy más uniós intézkedések esetében is, úgy a MI szabályokkal kapcsolatban is az egyes országok lesznek felelősek a saját területükön belül alkalmazott rendszerek felügyeletéért és a szabályok betartatásáért. Azok, akik megszegik az előírásokat, a globális éves bevételük 6%-ra lesznek büntethetőek. A javaslatok egyelőre még csak előzetesét jelentik a későbbi törvényeknek, amelyek bevezetéséhez még évek kellenek. A javaslatokról bővebben (angol nyelven) itt lehet olvasni.

(Fotó: GettyImages/Anadolu Agency)

További cikkek a témában:

Európában a jövőben sem lesz a kínaihoz hasonló társadalmi kreditrendszer egy kiszivárgott tervezet szerint A dokumentum szerint, mely a jövő héten bemutatandó Fehér Könyv alapját képezi, az Európai Bizottság szigorúan korlátozná a mesterséges intelligencia rendszerek használatát. A tervezetnek azonban van néhány gyenge pontja is a szakértők szerint.
"Ami illegális offline, annak illegálisnak kell lennie online is" - egységes törvényekkel nyirbálja meg az EU a nagy tech cégek hatalmát A várhatóan jövő héten bemutatásra kerülő Digitális Szolgáltatások Törvény döntő hatással lesz az Európai unió digitális működésére, elsősorban a nagy technológiai platformok kötelezettségeinek szabályozásában.
Mégsem fogja külön szabályozni a nagy technológiai cégek működését Magyarország A kormány inkább megvárja az európai uniós szabályozást, amit elemzők szerint legkorábban 2023-ban fogadhatnak el.


Igényes és férfias történeteket keresel? A Roadstert neked írjuk!
Olvass bele az egyik legszínvonalasabb hazai magazinba, szeretni fogod! A Roadster egy fantasztikus utazás az élet legjobb területein...
Kövesd a Rakétát a Facebookon is!
Kövess, üzenj, kommentelj a Rakéta Facebook oldalán!
Ezek is érdekelhetnek
HELLO, EZ ITT A
RAKÉTA
Kövess minket a Facebookon!
A jövő legizgalmasabb cikkeit találod nálunk!

Hírlevél feliratkozás

Ne maradj le a jövőről! Iratkozz fel a hírlevelünkre, és minden héten elküldjük neked a legfrissebb és legérdekesebb híreket a technológia és a tudomány világából.