„Bármelyik hacker ellophatja a jelszavadat és ellophatja az identitásodat. Csak idő kérdése, hogy célponttá váljunk.” – nyilatkozta Scarlett Johnansson 2018-ban a Washington Postnak – „Az interneten nincsenek szabályok, mert ez egy feneketlen mélység, ami lényegében törvényen kívül áll.” A színésznő a fényképe felhasználásával készült rengeteg deepfake felnőtt tartalmú videóra célzott, mely a híres embereket különösen nagy számban érinti. Konklúziójával, miszerint a jogi ellenlépések elvesztegetett időnek számítanak, mivel az internet meglehetősen szabályozatlan territórium, nincs egyedül. Paul Bischoff, a Comparitech kiberbiztonsági cég jogi képviselője szerint:

„Ez a technológia nem fog eltűnni, ezért fel kell készülnünk egy olyan világra, melyben a deepfake mindennapos dologgá válik[…] Amit tennünk kell, az a tudatos odafigyelés, a jó ítélőképesség és egy adag egészséges szkepticizmus alkalmazása.”

Hozzátette, hogy a deepfake szoftverek illegálissá nyilvánítása véleménye szerint nem fogja elérni a célját, ahogy az 1920-as évek alkoholtilalma is felvirágoztatta a csempészetet és a maffiát, ugyanúgy ma is a tiltás csak még inkább a törvénytelenség és a darkweb bugyrai felé söpörné a hamisító piacot. Pedig csak az egészséges szkepticizmusra hagyatkozni az internetes tartalmak áradatában elég komplikált feladat, vagy úgy is mondhatjuk totálisan lehetetlen vállalkozás, elvégre a hamisított videók ’90-es évekbeli megjelenése óta rengeteget fejlődött a technika. Ami régen még csak a szájmozgás imitálására szolgáló minimalista kis szórakoztató program volt (a ’97-es Video Rewrite-ra gondolunk), azt mostanra már felváltották a teljesen élethű felvételeket generáló technológiák, amivel meg lehet hamisítani politikusok beszédeit vagy közszereplők nyilatkozatait, esetleg milliókat kicsalni cégvezetőktől. A Deeptrace vállalat éves jelentése szerint 2019 első félévében nyolcezerről tizenötezerre emelkedett a talált deepfake videók száma és ennek legjelentősebb része felnőtteknek szóló tartalom. Noha azt gondolhatnánk ez viszonylag kevés gondot okozhat a mindennapi életünkben, a felvételek (képzelt) szereplőinek igencsak kínos és megalázó lehet a szituáció. De mit lehet tenni, hogy gátat szabjunk az elharapodzó tendenciának?

A Facebook még szeptemberben jelentette be, hogy hamarosan elindítja a Deepfake Detection Challange versenyét, melynek célja, hogy a jelentkezők segítségével olyan innovációkat hozzanak létre, melyek segítik a hamis videók kiszűrését. A programhoz csatlakozott sok nagy amerikai egyetem, köztük az MIT, a Berkley vagy a Cornell Tech, és a támogatók között van a Microsoft, a Partnership on AI és az AWS (Amazon Web Services) is, a felügyelő szervezet pedig a Partnership on AI’s Steering Comitee on AI and Media Integrity, amely többek között a BBC-t, a The New York Timest vagy a CBC-t is tagjai között tudhatja.

„Ez egy folyamatosan fejlődő probléma, olyan, mint a spam, és más ellenséges programok”- nyilatkozta Mike Schroepfer, a Facebook technológiai vezetője – „Reményeink szerint azzal, hogy segítjük az MI közösség egybegyűlését, gyorsabb haladásra leszünk képesek.”

A cég összesen tíz millió dollárral szállt be a projektbe, melynek első lépéseként megkezdték a több mint százezer hamisított videó létrehozását. Egy kissé ellentmondásosnak tűnik egy deepfake elleni akcióban még sokezer videóval hozzájárulni a csalásokhoz, csakhogy ez volt az etikusabb választási lehetőség a már meglévő hamisításokon szereplő alanyokra tekintettel. A kreált videókon fizetett színészek játszanak el különböző egyszerű jeleneteket (54%-uk nő, 46%-uk férfi), majd gépi tanulási módszereket bevetve manipulált felvételeket hoznak létre az eredetiből. Az arcok kicserélődnek, a hangok megváltoznak, a jelenetek éppen olyan mértékben módosulnak, amennyire az online csalásoknál tapasztalták. A létrehozott adatbázist októberben a Nemzetközi Gépi Látás Konferencián tesztelték. „Annak biztosítása, hogy csúcstechnológiás kutatást tudjunk alkalmazni a deepfake detektálására, a széles körű, valósághű, szabadon hozzáférhető anyagon múlik. Mivel ez a forrás nem létezett, nekünk kellett megalkotni.”- mondta Christian Ferrer, a Facebook mesterséges intelligencia kutatási menedzsere.

A nagy nap, a verseny indítása december 11.-én jött el a vancouveri Neural Information Processing System konferencián (NeurIPS). A részvételről még senki nem késett le, hiszen egészen 2020. március 3.-áig tart a jelentkezés, a végső határidő, mire a legjobb programokat ki kell választani, március 31.-e.

A projekt a következőképpen zajlik: minden résztvevőnek regisztrálnia kell a Kaggle oldalán, itt: https://www.kaggle.com/c/deepfake-detection-challenge,  majd, miután beleegyezésünket adtuk a jogi feltételekhez és az adatbázis használati engedélyéhez, letölthetjük a gyűjteményt és akár offline módon, a saját deepfake detektáló MI programunk betanításához használhatjuk. A modellezés befejezése után fel kell tölteni a kódot az ún. fekete doboz teszteléshez, mely elvégzi a validálást, vagyis a programunk eredményességének osztályozását. A program jogait nem kell átengedni a Facebooknak, az a tulajdonosé marad, elég ha nyílt forráskódú modellt használunk. Négyféle adatbázis érhető el, egy gyakorló készlet (vigyázzunk, 470 GB-os, bár ötven kisebb fájlra bontva is letölthető), egy nyilvános érvényesítői bázis, valamint egy nyilvános és egy privát tesztelési bázis. A beadási határidő végéig, tehát március 31.-éig kell kiválasztani a két finalistát, vagyis a legjobb programjainkat, melyet a privát tesztelésnek vetnek majd alá. A csapatok maximum nyolc főből állhatnak, és naponta max. két kód nevezésére van lehetőség. A további technikai és jogi részleteknek a Kaggle oldalon lehet utánanézni, nevezni pedig bármelyik országból lehet, kivéve Szudánt, Észak-Koreát, Kubát, Szíriát és Iránt, vagyis a US szankciókkal sújtott területeket. A fődíj félmillió dollár, ez a mai árfolyamon 148 millió forintot jelent, a második helyezett háromszázezer dollárt kap (88,7 millió Ft), a harmadik százezer dollárt (29 és fél millió), a negyedik hatvanezer dollárt (17,7 millió), és végül az ötödik negyvenezer dollárt (11,8 millió).

„A deepfake technológiák jelentős hatást gyakorolhatnak az emberek döntéseire az online információk jogosultságát illetően. Ezek a tartalomgeneráló és modifikáló technológiák befolyásolhatják a nyilvános diskurzus minőségét és az emberi jogok védelmét, különösen, hogy a deepfake-et ártó szándékkal is használhatják, manipulációra, zaklatásra, vagy meggyőzésre.

A manipulált médiák azonosítása technikailag megterhelő és gyorsan fejlődő kihívás, mely megköveteli az egész tech ipar együttműködését.” - olvashatjuk a verseny bemutatásában. Hogy mennyire lesz sikeres a projekt, és valóban lesz e hatása a deepfake terjedésére, azt jövőre meglátjuk, de ha szeretnénk, akár már ma csatlakozhatunk a kihíváshoz.

(Forrás: Venturebeat, Fotó: Pixabay, Facebook/Zemana)