A Facebook mindennek elérése érdekében három módszert is bevet:

• Integrált öngyilkosság megelőzési eszközök, melyek valós időben segítik az embereket a Facebook Live-on keresztül.
• Elő chat támogatás krízishelyzeteket kezelő szervezetektől a Messengeren keresztül.
• Illetve az öngyilkosság jelentése a megfelelő szerveknek mesterséges intelligencia használatával.

Ez utóbbi adott esetben radikális eszközök bevetését is jelentheti, tehát akár a rendőrség értesítését is. Amennyiben ugyanis egy poszt alapján komolyan feltételezhető, hogy írója öngyilkosságot készül elkövetni, a Facebook értesíti a megfelelő hatóságokat.

Mark Zuckerberg nyilatkozata szerint 2018-ban 3500 emberhez riasztották a megfelelő szerveket világszinten.

Nagy tesó és a mentális egészség

A mesterséges intelligenciát a következőképp készítik fel a feladatra: a tudósok rengeteg posztot táplálnak be, melyekből kirajzolódik egy minta, hogy a gép felismerhesse a valódi öngyilkossági szándékot. Ezután minden a gép által megjelölt poszt egy moderátorhoz kerül kiértékelésre. A következő lépést pedig a poszt súlyossága alapján a moderátor dönti el.

Amennyiben a poszt valóban aggodalomra ad okot, de nem tükröződik belőle az önártalom akut szándéka, úgy a Facebook megfelelő támogatást nyújt a posztoló részére, például egy kríziskezelő központhoz irányítja őt, akivel Messengeren akár rögtön fel is vehetik a kapcsolatot.

Súlyos helyzetben, közvetlen életveszély esetén a Facebook a helyi rendőrséggel veszi fel a kapcsolatot. A rendőrség ezután ellenőrzi az adott személyt, hogy minden rendben van-e vele, akinek a tartózkodási helyét, ha szükséges, a telefonja segítségével állapítják meg.

A Facebook nyilatkozata szerint egy-egy poszt elemzésekor vizsgálják a kommenteket is, melyek további segítséget jelenthetnek annak megállapításában, hogy mennyire közvetlen az életveszély.

Emberek a gép mögött

Mindez persze két fontosabb kérdést is felvet: kik az említett moderátorok, akik a megjelölt posztokat vizsgálják, illetve miként védi a Facebook a megszerzett, a posztoló mentális állapotára utaló adatokat?

Az első kérdéssel kapcsolatban annyit tudhatunk tehát biztosan, hogy a megjelölt posztok, melyek potenciális öngyilkossági szándékról árulkodnak, egy csapat moderátorhoz kerülnek további felülbírálatra. A Facebook azonban túl sok részletbe nem ment bele azzal kapcsolatban, hogy ezek a személyek miféle képzésben részesültek, de a vállalat állítása szerint a moderátorok megfelelően fel lettek készítve arra, hogy a posztok alapján kiszűrjék az öngyilkossági szándékot.

Ugyanakkor a Wall Street journal 2017-ben a Facebook több ezer moderátorát leellenőrizte, és ez alapján arra jutottak, hogy ezek az emberek jellemzően nem állandó alkalmazottak, hanem szerződéses dolgozók, akik gyakran cserélődnek, és alig kapnak valami képzést azzal kapcsolatban, hogy miként kezeljék a nyugtalanító tartalmakat. A közösségi média platform állítása szerint viszont a moderátorai képzést kapnak az olyan tartalmakkal kapcsolatban, melyek potenciálisan utalhatnak öngyilkosságra, öncsonkításra vagy evészavarra, emellett pedig szakértők készítik fel őket az öngyilkossági szándék felismerésére.

A Facebook hozzáteszi, hogy a kiértékelési szakasz kezdetén a moderátorok nem ismerik a posztolók nevét, ám adatbiztonsági szakértők szerint a közösségi média posztok beazonosítását elég nehéz megakadályozni.

Adott esetben tehát nem túl bonyolult feladat a posztoló beazonosítása, miközben a moderátorokat nem kötik az egészségügyi dolgozókra vonatkozó titoktartási szabályok.

Mégis kinek az adata ez?

A Facebooknak a múltban több adatkezelési botránya is akadt, ami miatt több szakértőben is megfogalmazódott, hogy a hasonlóan érzékeny, személyes adatok biztos jó kezekben vannak-e a vállalatnál. Elvégre a mentális állapotunkat leíró, legszemélyesebb adatainkról van szó. Végső soron tehát a Facebook hatalmas, a felhasználóira vonatkozó egészségügyi információs bázist épít fel, miközben itt is igaz, ami a moderátorok esetén: Mark Zuckerberg vállalatára nem ugyanazok a titoktartási elvek vonatkoznak, mint az egészségügyi szolgáltatókra.

Az algoritmus nagyjából minden posztot osztályoz, és egyest vagy nullát oszt ki rá, ahol az egyes a közvetlen veszélyt jelenti.

A Facebook ugyanakkor nem igazán teszi átláthatóvá az így nyert adatokkal kapcsolatos biztonsági intézkedéseket.

A vállalat a Business Insider-nek elmondta, hogy azok a posztok melyek végül nem kerülnek kiértékelésre, mert az adott posztolóra végül alacsony pontszám jön ki, azok automatikusan törlődnek harminc nap után. Arról viszont nem volt szó, hogy a kiértékelésre került posztokkal, illetve az ezt követő intézkedések belső jegyzőkönyveivel mi történik a későbbiekben.

Egy adatvédelmi szakértő szerint a Facebook-nak ez az adatbázisa nem esik a rendkívül szigorú titoktartási sztenderdeket megkövetelő HIPAA (Health Insurance Portability and Accountability Act) alá, mert ez csak egészségügyi szolgáltatókra és biztosítótársaságokra vonatkozik. Amúgy az Amazon több egészségügyi alkalmazását is HIPAA kompatibilissé tette, de Jeff Bezos cége be is akar törni az egészségügyi szektorba, sőt az alkalmazottai számára már most is nyújt egészségügyi biztosítást.

Mivel a Facebook az öngyilkossági szándékra utaló következtetéseit nem egészségügyi adatokból vonja le, hanem a posztjainak a kiértékeléséből, így rá a szigorúbb szabályok nem vonatkoznak. Zuckerberg cége pedig ezzel tisztában is van, és a kinyert adatbázisukat nem is nyilvánítják érzékeny egészségügyi információnak.

Eközben Magyarországon

Az algoritmus angol, spanyol, portugál és arab nyelveken szűr, magyar nyelven tehát nem. Hazánkban ráadásul, ahol egyébként az öngyilkosság kiemelt probléma, a szabályozás a hasonló szoftverek működését az Unió többi országához hasonlóan nem teszi lehetővé.

A GDPR (General Data Protection Regulation) kimondja ugyanis, hogy a felhasználónak minden esetben beleegyezését kell adnia a számára érzékeny adatok felhasználására, és a Facebook által begyűjtött információ épp ilyen érzékeny adatnak számít.

Ennek ellenére megkerestük az Országos Rendőr-főkapitányságot, hogy érkezett-e hozzájuk valaha értesítés a Facebook-tól, illetve terveznek-e együttműködést a közösségi média platformot üzemeltető vállalattal. Az ORFK válasza szerint: „a közösségi portáltól a rendőrséghez öngyilkosság vagy más bűncselekmény tárgyában bejelentés nem érkezett, a portállal együttműködési megállapodást a rendőrség nem kötött.” Az ORFK levelében azt is hangsúlyozta, hogy bajbajutottak a 112-es hívószámon tudják értesíteni a rendőrséget.

Bár aktív szűrés nem történik, a Facebook-on külön oldal foglalkozik az öngyilkos gondolatok, krízishelyzetek kezelésével. Az itt ajánlott egyik szervezetet, a Kék Vonalat is megkerestük kérdéseinkkel.

Reményiné Csekeő Borbála, pszichológus, szakmai vezető elmondta nekünk, hogy konkrét felhasználó miatt hozzájuk közvetlen a Facebooktól nem érkezik megkeresés, de az több hívásból kiderült, hogy a hívó a szervezet elérhetőségét a Facebook javaslatára találta meg. (Ez persze nem jelenti, hogy az algoritmus mégis működne nálunk, ezeket az információkat egyszerű kereséssel mi magunk is megtalálhatjuk a platformon.)

Kiderült viszont az is, hogy a Kék Vonal és a Facebook magyarországi képviselete között működik szakmai kapcsolat, és gondolkoztak már közösen a szuicid prevenciós lehetőségeken.

A Kék Vonalnak pedig hamarosan a FB támogatásával valósul meg egy online szexuális zaklatást célzó kampánya.

(Kép: Pixabay, forrás: businessinsider, webmd, facebook_1, facebook_2)