Rekordbüntetést kapott a magyar bank, ami mesterséges intelligenciával figyelte az ügyfelek érzelmi állapotát

2022 / 04 / 05 / Bobák Áron
Rekordbüntetést kapott a magyar bank, ami mesterséges intelligenciával figyelte az ügyfelek érzelmi állapotát
A Nemzeti Adatvédelmi és Információszabadság Hatóság (NAIH) első alkalommal szabott ki büntetést mesterséges intelligencia jogszerűtlen használata miatt, 250 millió forintra bírságoltak egy pénzintézetet.

A Deloitte közleménye szerint az ügyről a NAIH a 2021-es évre vonatkozó beszámolójában számol be részletesen, azt ugyanakkor nem nevesítik, hogy melyik magyarországi bankról van szó. A március végén kiadott beszámolóban a NAIH azt írja, hogy a bank az ügyfélszolgálati hívások rögzített hanganyagát elemezte ki automatikusan mesterséges intelligencián alapuló beszédjel-feldolgozás segítségével, ami kulcsszavak valamint a beszélő érzelmi/hangulati állapota alapján állított fel egy sorrendet. A bank vezető állású munkavállalói ez alapján döntöttek arról, hogy melyik ügyfeleket érdemes visszahívni, emellett a módszer az ügyfélszolgálati munkatársak munkájának a minősítésében is szerepet kapott.

Mesterséges intelligencia-alapú hangutánzással loptak el milliárdokat egy bankból Az eset az Egyesült Arab Emirátusokban történt, majd amerikai bírósági dokumentumok alapján derült rá fény.

Az adatvédelmi hatóság szerint a pénzintézet a hívások minőségellenőrzésén túlmenően a panasz és ügyfélelvándorlás megelőzésére használta fel a mesterséges intelligenciát, azonban a vizsgálat több problémát is feltárt ezzel a gyakorlattal kapcsolatban. "Először is az ügyben érintett bank nem szerepeltette az adatvédelmi tájékoztatójában, hogy az adatkezelésnek többek közt ügyfélmegtartó szerepe is van, az ügyfelek tájékoztatás hiányában így tiltakozni sem tudtak ellene. Ezenfelül, az érdekmérlegelési tesztben nem vizsgálják az érintettek oldalát, nem részletezik a hangulati állapot elemzését és az adatvédelmi hatásvizsgálatban sem javasolnak érdemi megoldást ennek a nem elhanyagolható kockázatnak a csökkenésére" - magyarázza dr. Barta Gergő, a Deloitte Kockázatkezelési tanácsadás üzletágának szakértője.

A bank "évek óta nem biztosította a megfelelő tájékoztatást, valamint a tiltakozási jogot, mivel úgy döntött, hogy azok biztosítása nem megoldható számára" - írja a NAIH, amely megállapította, hogy a banknak nem volt jogalapja a hangfelvételek ilyen módon történő automatikus elemzésére. "Egy új típusú és fokozott kockázatú technológia alkalmazása esetén a tényleges garanciák megléte, valamint rendszeres és érdemi felülvizsgálat minimumelvárásnak tekinthetőek" - teszi hozzá az adatvédelmi hatóság beszámolója.

A hatóság a fentieket figyelembe véve megállapította, hogy a pénzintézet hangfelvétel-elemzéssel kapcsolatos adatkezelési gyakorlata több ponton ütközik az általános adatvédelmi rendelettel (GDPR), így utasította a bankot az adatkezelési gyakorlatának megváltoztatására. Ennek keretében a pénzintézet a hangelemzés során a jövőben nem elemezheti az érzelmeket, az adatkezeléssel kapcsolatos jogokat pedig megfelelően kell biztosítaniuk, különös tekintettel a megfelelő tájékoztatás és tiltakozás jogára. "A bank munkavállalóival kapcsolatban az adatkezelésnek a szükségesre kell korlátozódnia, és ennek megfelelő tájékoztatást kell nyújtani részükre a kapcsolódó pontos következmények megjelölésével" - teszi hozzá a hatóság.

A NAIH az ügyben 250 millió forintos adatvédelmi bírságot szabott ki a bankra, ami a Deloitte szerint rekordösszegű büntetésnek számít. A tanácsadócég felhívja rá a figyelmet, hogy az EU mesterséges intelligenciáról szóló rendelettervezetének 52. cikke alapján az érzelemfelismerő rendszerek esetében a tervezet szigorú tájékoztatási kötelezettségeket állapít meg, amelyek megszegése esetén magas, akár 30 millió eurós bírsággal kell számolni.

"Nincs helye a tömeges megfigyelésnek a társadalmunkban" - bemutatták az EU Fehér Könyvét a mesterséges intelligenciáról Betiltanák a társadalmi kreditrendszerekhez felhasználható megfigyelési módszereket, az MI manipulatív használatát és a közösségi területeken alkalmazott biometrikus azonosítást is.


Hello Szülő! Ha a gyereked nem tud valamit, akkor téged fog kérdezni. De ha te szülőként nem tudsz valamit, akkor kihez fordulsz?
A digitális kor szülői kihívásairól is találhattok szakértői tippeket, tanácsokat, interjúkat, podcastokat a Telekom családokat segítő platformján, a https://helloszulo.hu/ oldalon.
Hogyan válasszunk külföldi egyetemet? És mennyibe fog ez kerülni a családnak?
Hogyan válasszunk külföldi egyetemet? És mennyibe fog ez kerülni a családnak?
Repül már a vén diák. Hová? Hová?
Hogyan vélekednek a magyarok a net veszélyeiről – és kik a leginkább fenyegetettek?
Hogyan vélekednek a magyarok a net veszélyeiről – és kik a leginkább fenyegetettek?
Hogy áll a magyar lakosság generációkra bontva a kiberbiztonsághoz? – Erről szól az ESET rendkívül átfogó felmérése, amelyből olyan meglepő eredmények is kiderülnek, hogy kik a romantikus csalások legfőbb célpontjai, miközben az adott csoport nem is nagyon ismeri ezt a fenyegetést.
Ezek is érdekelhetnek
HELLO, EZ ITT A
RAKÉTA
Kövess minket a Facebookon!
A jövő legizgalmasabb cikkeit találod nálunk!
Hírlevél feliratkozás

Ne maradj le a jövőről! Iratkozz fel a hírlevelünkre, és minden héten elküldjük neked a legfrissebb és legérdekesebb híreket a technológia és a tudomány világából.



This site is protected by reCAPTCHA and the Google Privacy Policy and Terms of Service apply.