Ahogy arról a Creative Bloq beszámolt, a GFPGAN gépi tanulási modellen alapuló programot a Hacksider nevű felhasználó tette közzé a Githubon egy rövid videót is mellékelve, amelyen Elon Muskot személyesítették meg a Deep-Live-Cammel.
where we are with ai today:
it now takes 5 minutes and just a single target photo for you to call into a zoom meeting deep faked as anybody you want, whether elon musk or donald trump, in real time:pic.twitter.com/YKpVzqJQms— Siqi Chen (@blader) August 10, 2024
Az elsötétített szobában készült videó alapján valószínűleg kevesen kételkednének benne, hogy azon valóban a Tesla és SpaceX vezetője látható, ami figyelembe véve, hogy hogyan készült a felvétel, több, mint figyelemre méltó. Bár a valódihoz megszólalásig hasonlító deepfake videókat eddig sem volt lehetetlen összehozni, ehhez legalább néhány jó minőségű forrásvideóra vagy különböző szögből készült fotóra volt szükség, a Deep-Live-Cammel azonban mindössze egyetlen egy fotó alapján húzhatjuk magunkra bárkinek az arcát, hogy azt aztán élő videókban használjuk.
here’s a guy pretending to be jd vancepic.twitter.com/QW6kPtYQ5W
— Siqi Chen (@blader) August 10, 2024
Ez azonnal komoly etikai aggályokat is felvet, hiszen bár a készítők a program leírásában kikötik, hogy azt csak deepfake megjelöléssel lehet használni, a videókhoz pedig a megszemélyesített ember beleegyezése is szükséges, az már nyilvánvalóan csak a felhasználókon múlik, hogy eleget tesznek-e a felszólításnak. Bár az X-en közzétett videók alapján látható, hogy világosabb szobában a végeredmény azért kevésbé hiteles, nem nehéz belátni, hogy egy ilyen eszköz könnyen veszélyes fegyverré válhat a csalók kezében, akik a deepfake segítségével már eddig is hitelesen személyesítettek meg családtagokat, ügyfeleket, de még cégvezetőket is annak érdekében, hogy pénzt csaljanak ki a gyanútlan áldozatoktól.
