Tombol a deepfake láz

Nincs két hete, hogy egy amerikai nő deepfake fotókkal és videókkal próbálta elérni, hogy lánya csapattársait kirúgják a cheerleader-csapatból, miközben levélben öngyilkosságra buzdította őket. Mindeközben a MyHeritage családfakutató platform a feltöltött családi archív fotókat életre keltő animációkat kínált egy applikáción keresztül.

A netes mémgyárakban kicserélik a Marvel hőseit a Csillagok háborúja szereplőire, és a politikusok is retteghetnek tőle, hogy mit adnak a szájukba ellendrukkereik az MI támogatta algoritmusok segítségével.  

A hétvégén érkezett a legfrissebb történet, melynek főszereplője egy japán Twitter-influenszer, aki az  @azusagakuyuki azonosítót használta. A fiatal lány nyilvánosságra hozta, hogy ő valójában egy 50 éves férfi, aki eddig csupán a deepfake technológia segítségével “játszotta el” a külvilág számára mutatott női szerepet. 

みなさーん٩( ˆoˆ )۶
おバイクしてますかぁ✨?
もうすぐ春ですよ???
年齢:昭和の○○○
身長:166
住み:イバラキ?
大好き:バイクいじり?
一言: Life is once, play this world#バイク乗りと繋がりたい #バイク乗りとして軽く自己紹介 pic.twitter.com/t28mZmJ4vg

— 宗谷の蒼氷 (@azusagakuyuki) February 10, 2021

A férfi neve Zonggu, és a motorkerékpárok nagy rajongója, aki komoly energiát fektetett abba, hogy a közösségi médiában felépítsen egy népszerű saját csatornát. Zonggu nem volt túl sikeres abban amibe belevágta a fejlszéjét. Hiába érezte úgy, hogy megfelelőek, sőt jók az előállított média-tartalmai, az emberek csak nem akarták kielégítő mértékben nézni és lájkolni őket. Videóira pusztán néhány lájk érkezett, és sehogy sem tudta elérni a megcélzott növekedést. 

"Senki nem fogja elolvasni, amit egy normális, középkorú férfi posztol, aki megfelelően gondozza és fotózza az utakon a motorkerékpárját" - kesergett Zonggu a japán “Getsujou kara jofukashi” (hétfő késő esti show) című televíziós showban. 

Zonggu alapos ember, és talán nem teszhetett neki a rengeteg feleslegesen befektetett munka, így kísérletezni kezdett a FaceApp-hoz és a Reface-hez hasonló alkalmazásokkal. Ezek képesek többféleképpen megváltoztatni egy ember arcát, évekkel fiatalabbá téve, vagy akár sokkal vonzóbb vonásokkal felruházva a felhasználót, a fejlett mesterséges intelligencia algoritmusainak segítségével.

みなさん お疲れ様です?‍♀️
今日はお仕事が高萩だったので高速乗る前に川尻の海へ
海も空もわたしも...///////♥️
今晩の「月曜から夜ふかし」
よかったら見てね(öᴗ<๑) pic.twitter.com/yAXVYyTsqF

— 宗谷の蒼氷 (@azusagakuyuki) March 15, 2021

A létrehozott, módosított kép akár annyira különbözhet az eredetitől, hogy aki nem tudja mire figyeljen, talán nem is képes felismerni, hogy számítógép alkotta grafikát néz.

Zonggu létrehozott egy vonzó fiatal nőt, és innen nem is volt megállás a lejtőn. "Először csak kísérleteztem, de aztán meglehetősen csinos lett. Mostanában akár 1000 lájkot is kapok, és ez korábban általában 10 alatt volt. Fokozatosan elragadott a folyamat, miközben megpróbáltam őt cukibbá tenni" - mondta a büszke amatőr grafikus.

Zonggu úgy került a népszerű japán hír- és beszélgetős műsorba, hogy a nem létező deepfake motoros lány néhány követője gyanakodni kezdett, hogy talán nem is hús-vér embert követnek. A műsor adásba kerülése előtt Zonggu Twitterén utalt a közelgő comingoutra, és biztatta követőit, hogy nézzék a showt. 

#月曜から夜ふかし#宗谷さん
やっぱりそうでしたか(((*≧艸≦)ﾌﾟﾌﾟｯ? pic.twitter.com/XNZcBeSXr7

— Infinite-force (@jog_rider) March 15, 2021

Zonggunak a leleplezéskor körülbelül 25 ezer követője lehetett, és deepfake ide, vagy oda, végül jól jött ki a sztoriból, hiszen ma már több követője van, mint annak előtte, és még a nem létező fiatal nő avatarját is megtartotta. 

(Forrás: BBC, InterestinEngineering Kép: Zonggu Twitter)

Ez is érdekelhet:

A mesterséges intelligencia a sosem élt emberek arcai után már sosem létezett DNS-t is generál Az elmúlt években a mesterséges intelligencia egyre több korábban elképzelhetetlen formájú vagy komplexitású tartalom tömeges véletlenszerű generálásával hívta felt magára a figyelmet. Most már komplett, életképes emberhez tartozó DNS-t is képes hamisítani.  

Viccesnek tűnik, de valójában súlyos üzenetet rejt a jövőről a deepfake Erzsébet királynő karácsonyi beszéde Ha valaki olyasmiket szeretne hallani a királynő mozgó képmásától, amiket normál körülmények között biztosan nem mondana, akkor itt a soha vissza nem térő alkalom. Ellenben ha a dolgok mögé nézünk, az egész már nem is olyan szórakoztató.

Kiskorú lányokat 'vetkőztetett' egy deepfake algoritmus A DeepNude app továbbfejlesztett változata 2020 júliusáig mintegy 100 ezer nőről készített meztelen fotót az érintettek tudomása nélkül. Az áldozatok többsége ráadásul kiskorú.