Az elmúlt két hétben beszámoltunk a Rakétán a TikTokon megosztott, döbbenetesen élethű Tom Cruise videókról, és az elhunyt rokonok fotóit életre keltő DeepNostalgia alkalmazásról is; hiába hallani egy-két éve egyre több helyről, hogy a mesterséges intelligenciával feljavított kamutartalmak mennyire veszélyesek, úgy tűnhetett, hogy a deepfake technológia még mindig inkább az ártalmatlan kísérletezés fázisában van. Most viszont egy olyan hír jelent meg a Gizmodón, amit mintha a jelenség leghangosabb kritikusai találtak volna ki.

A Philadelphia Inquirer tudomására jutott ugyanis, hogy egy ötvenéves édesanya a közösségi médiában megtalált profilképek segítségével legalább három pompomlányról készített olyan hamis képeket és videókat, amelyekben a fiatal nők meztelenül, valamint alkohol és kábítószer fogyasztása közben láthatóak. Ezeket aztán névtelenül elküldte nekik és a csapatuk edzőinek, amiért most zaklatással, illetve kiskorú sérelmére elkövetett cyberzaklatással vádolják.

Az elkészült felvételeket természetesen nem osztotta meg a lap, de az elképesztő Tom Cruise videók alkotója, Chris Ume gondolataiból kiindulva szerencsére nem sikerülhettek igazán megtévesztőre, bár ettől még ugyanannyira felháborítóak és jogsértőek. A speciális effektusokat készítő szakember a The Verge-nek saját videóival kapcsolatban kiemelte, hogy a deepfake technológia használatát nem szabad egy gomb megnyomásaként elképzelni. Az ő Cruise-videói is hetekig készültek, a deepfake-eszközök mellett hagyományos vágó- és szerkesztőprogramokkal. Ráadásul a technológiai és médiavállalatok is dolgoznak azon, hogy az ilyen tartalmakat automatikusan felismerjék és megjelöljék a rendszereik. A Microsoftnál és a Facebooknál is kiemelten kezelik a területet.

Vagyis ott még nem tartunk, hogy a philadelphiai családanya egy gombnyomással valóban hihető "felvételeket" tudjon készíteni a lánya csapattársairól, és remélhetőleg mire eljutunk odáig, a rendszerek rögtön felismerik az ilyen tartalmakat - hátha ez elveszi majd az elkövetők kedvét.

További cikkek a témában:

Íme egy videó, amin Richard Nixon bejelenti, hogy az Apollo-11 űrhajósai meghaltak a Holdon Ötven évvel a holdra szállás után végre ezt is láthatjuk. De nem azért, mert most hozták nyilvánosságra.

Viccesnek tűnik, de valójában súlyos üzenetet rejt a jövőről a deepfake Erzsébet királynő karácsonyi beszéde Ha valaki olyasmiket szeretne hallani a királynő mozgó képmásától, amiket normál körülmények között biztosan nem mondana, akkor itt a soha vissza nem térő alkalom. Ellenben ha a dolgok mögé nézünk, az egész már nem is olyan szórakoztató.

A DeepNostalgia alkalmazással életre kelthetjük őseinket egy deepfake videó erejéig A MyHeritage családfakutató platform olyan applikációt dobott piacra, mely a feltöltött fotókból mozgó animációt készít egy pillanat alatt. Az eredmény olyan érzést kelt, mintha egy rövid időre újra élőnek láthatnánk elhunyt szeretteinket.