Monika Bickert, aki a Facebook globális politikájáért felelős, tegnap jelentette be a vállalat következő lépéssorozatát az álhírekkel szemben. Ezek alapja a vállalat saját vizsgálata lesz mindenféle manipulált anyag, félrevezető viselkedés (mint például álfiókok létrehozása) esetén, amely kiegészül az egyetemekkel, kormányzati szervekkel és egyéb cégekkel való együttműködéssel. A végső cél a hatékony fellépés a deepfake hamisítványokkal szemben.

Mi az a deepfake?

A deepfake a mély tanulás (deep learning) és hamis (fake) szavakból létrehozott kifejezés. A deepfake olyan képanyag, amely egy létező videón vagy képen cserél ki egy személyt egy másikra mesterséges intelligencia segítségével. A deepfake technikákra a közvélemény sztárok pornóvideóinál, álhíreknél, szándékos átveréseknél és különböző zsarolásos eseteknél figyelt fel. Mostanában több nagyvállalat is megpróbálja felvenni ezekkel a harcot.

Mit tesz most a Facebook?

A fent említett blogposztban írtak a Facebook új, deepfake videókkal kapcsolatos politikájáról. Ezek szerint mostantól a vállalat a hasonló képanyagot a következő esetekben távolítja el a felületéről: úgy szerkesztették vagy készítették az adott anyagot, hogy az túlmutat a képminőség javításán, és egyben alkalmas arra, hogy egy átlagemberrel elhitesse, hogy a videón látható személy valóban azt mondta, amit, holott ez valójában nem igaz. Illetve, ha a videó mesterséges intelligencia vagy gépi tanulás használatával olvaszt össze, helyettesít vagy helyez bármiféle tartalmat a videóra, és ezt eredeti, hiteles változatként tünteti fel.

Természetesen ezen politika nem vonatkozik a humoros anyagokra, paródiákra, szatírákra, és – ami első olvasatra érdekes – arra az esetre sem, ha a videót csak átszerkesztették: tehát megváltoztatták az elhangzó szavak sorrendjét, esetleg szavakat vágtak ki.

Utóbbi kitétel annyiban is fontos, hogy a Facebookot többen kritizálták, amiért nem volt hajlandó eltüntetni egy átszerkesztett videót a felületéről, amelyen Nancy Pelosi, az Amerikai Egyesült Államok Kongresszusának képviselőházi elnöke beszédhibásnak tűnhetett. Ezt tehát, vagy más hasonló módon elkészített videót az új szabályozás sem érinti, mivel a tilalom csak a mesterséges intelligenciával létrehozott anyagokra vonatkozik.

Az egyéb esetek

A deepfake videókkal kapcsolatos egyik nehézség viszont éppen az, hogy nehéz őket felismerni, és ez a jövőben, a technológia finomodásával csak még több kihívást fog jelenteni. A Facebook megoldása erre az esetre egy partnerhálózat, független szakértők (úgy nevezett „fact-checkerek”), akik világszinten ötven partneri együttműködés keretében segítenek a vállalatnak több mint negyven nyelven.

Egy fact-checker által hamisnak nyilvánított videó nem kerül eltávolításra, de szignifikánsan kevesebbszer kerül elő a feedekben, illetve a reklámként való futtatása el lesz utasítva. Illetve mindazon a személyek, akik megnézik, megosztják vagy korábban megosztották ezt, figyelmeztetést kapnak arról, hogy ez egy manipulált videó.

A fenti megoldás a blogbejegyzés szerint éppen a szakértőkkel való együttműködés gyümölcse, és az mögötte az elgondolás, hogy amennyiben minden manipuláltként megjelölt anyagot szimplán csak eltávolítanának, úgy az felbukkanna máshol a neten, más közösségi oldalon. Így azonban, megjelölten, ez a videó kontextusba kerül, illetve többen megtudhatják, hogy az anyag nem a valóságot mutatja meg.

Eddigi eredmények és további lépések

A Facebook büszke arra, hogy a múlthónapban eltávolított egy kiterjedt hálózatot, amelyben álfiókokat próbáltak mesterséges intelligencia használatával létrehozott fotókkal igazinak feltüntetni. (Erről egyébként mi is írtunk.)

A vállalat a fentieken kívül próbálja tudatosságra is nevelni mind a hírfogyasztókat, mind a sajtó dolgozóit. Az előbbire szolgált a tavaly szeptemberben megrendezett Deep Fake Detection Challenge verseny. Egy Reutersszal való együttműködés pedig ingyenes online kurzussal szeretné az újságíróknak megtanítani, miként lehet a deepfake videókat kiszúrni.

(Kép: Pixabay)