Gyönyörű szörnyeteg: mi a deepfake jövője?

A technológia sokszor alkot csodálatos újdonságokat, amiket aztán sikerül rosszra is használni, és ez a bélyeg a legtöbbször lemoshatatlan. Vajon így van ez a deepfake technológiával is? A kérdést a téma egyik hazai szakértője, Mezriczky Marcell segítségével jártuk körbe.

Bármi, amit az ember valaha is kitalált, az használható jóra és rosszra. Az atommal energiát állítunk elő, viszont bombaként is robbanhat, de még egy kapa is ugyanúgy állhat bele földbe és fejbe. A tech-világ megoldásai is ilyenek, a szoftverekből egyik oldalon a mindennapi életünket megkönnyítő segédek és játékok lettek, a másikon vírusok – és így van ez az egyik legfrissebb “találmány”, a deepfake esetében is. A technológiáról már jó sokszor szó esett nálunk is, de egy gyorstalpalóval kezdünk az újonnan érkezők számára, aztán pedig szakértő segítségével nézzük át, milyen jó és kevésbé jó jövőképekkel számolhatunk.

Ál/arc újratöltve

Annak idején nagy siker volt a mozikban az az akciófilm, amelyben John Travolta és Nicolas Cage sebészi úton cserélt arcot. A nyomasztó jövőképet mára felülírta a technika: a mesterséges intelligenciával segített képfeldolgozás néhány éve olyan szintre ért, hogy kisebb-nagyobb munkával bárki fejére odaretusálhatjuk valaki más arcát, hogy aztán a műszaki háttér és a ráfordított idő függvényében hihetően vagy kissé gagyin egy már elhunyt színész jelenjen meg egy mai filmben, esetleg egy politikus szájába adjanak általa sosem mondott idézeteket egy lejárató kampány részeként.

A nemrég felbukkant híresebb alkalmazási formák közül a legtöbben arra figyelhettek fel, amikor a Mandalorian és a Boba Fett sorozatokban ezzel a technológiával hozták vissza a fiatal Luke Skywalkert, akit természetesen nem a ma már veterán Mark Hamill alakított, hanem egy testdublőrre retusálták az ifjú Luke (tehát a fiatal Hamill) arcát a mimikával, szájszinkronnal és minden egyébbel együtt. Ezt ráadásul már egy „amatőr” csapatnak is sikerült rekonstruálnia, sőt egyesek szerint még jobban is sikerült az általuk készített végeredmény, mint amibe a Disney zsáknyi pénzt ölt – nem is csoda, hogy az alábbi videót készítőket a filmstúdió azóta munkatársként alkalmazza.

Eközben pedig a “belépő” kategóriában is találkozhatunk már deepfake megoldásokkal, hiszen a FaceApp és hasonló, ingyenesen használható mobilalkalmazásokkal akár saját arcunkra is cserélhetjük énekesek, filmsztárok eredeti arcát. Itt tartunk jelenleg, a jövőt pedig Mezriczky Marcell társaságában elemeztük – ő még egyetemistaként írt díjnyertes tanulmányt a deepfake jelenségről, ezért biztosak voltunk benne, hogy a következő lépcsőfokokkal kapcsolatban is lesz véleménye. Volt is – és remélhetőleg valóban vele beszéltünk Zoomon, nem pedig valaki mással, aki deepfake segítségével vette kölcsön Marcell arcát. Hogy ez például mennyire valószerű, szintén érintjük a folytatásban.

Üzleti verseny és etikus csalás

A fent említett két pólus, tehát a hatalmas költségvetéssel készülő, deepfake-et is felhasználó produkciók és az olcsó, bárki által elérhető megoldások világa lassan elkezdett összefolyni Mezriczky Marcell szerint: manapság már világcégek dolgoznak azon, hogy a deepfake segítségével a versenytársaknál jobbat, elérhetőbbet és nagyobbat durranót kínáljanak. Ezt pedig nem más indukálja, mint a kereslet: reklámcégektől filmstúdiókon át közösségi oldalakig sokan látták meg a deepfake-ben rejlő lehetőségeket, és mostanában dől el, mely tech-cégek tudják ehhez a legjobb műszaki megoldásokat előállítani.

Mit értünk kereslet alatt? Például azt, amikor Bruce Willis, az egykor szebb napokat is látott akciószínész manapság már nem saját magát adja el reklámforgatásokra, “csak” az arcmását, és már készült is olyan tévéreklám, amelyben Willis digitális arcmását illesztették egy dublőr fejére. A technológia már tudja azt a szintet, amikor a néző gyakorlatilag nem látja a különbséget és elhiszi, hogy a kisfilmben valóban Willis szerepel, beszél, pislog. A közönség tehát elégedett, a színész pedig egyetlen izzadtságcsepp nélkül keresi a “vendégszereplésért” járó summákat.

De nem is kell megállni ott, hogy valós személyek arcával “játszunk”. A szakértő szerint a deepfake olyan embereket is teremthet, akik sosem léteztek. “Egyre több az olyan vállalat, akik úgynevezett virtuális influencereket gyártanak – embereket, akiket bárki felhasználhat például egy terméke kampányában, vagy egy szórakoztató műsor házigazdájaként” – magyarázza Marcell. “Ezek a cégek aztán a virtuális karakterek használati jogait adják el olyan óriáscégeknek, mint amilyen a Samsung vagy az Adidas.”

Az úgynevezett etikus deepfake nagyjából ezt a piacot szolgálja ki, és már ígéretes magyar startup is van a színtéren. Kovács Dominik, Kovács Zoltán és Szabó Kristóf eredetileg a védekező oldalról indult, és deepfake videók felismerésére fejlesztett technológiát Defudger néven, de rájöttek, hogy erre egyelőre nincs akkora kereslet. Ekkor határozták el, hogy Colossyan néven szándékosan manipulált videókat készítenek etikus célokra, például reklámok, céges belső kommunikáció, vagy épp elektronikus oktatási felhasználásra. A csapat jövője több mint biztató, több befektető is jelentős összegekkel támogatta fejlődésüket, idén már élesben is elindítják a deepfake-re épülő terméküket. Ebben a megrendelő részletesen kiválaszthatja, ki legyen az “arc”, megadhatja az általa elmondott szöveget, de még akcentust és beszédtempót is kiválaszthat.

Mezriczky Marcell szerint a deepfake előtt álló hatalmas lehetőségek egyike az, hogy sokkal könnyebb lehet többféle célcsoport felé eljuttatni ugyanazokat az üzeneteket és tartalmakat. Képzeljük csak el, ha – Bruce Willis példájánál maradva – egy reklámban nem szinkronizálva “beszélne magyarul” a jól ismert karakter, hanem tökéletes szájmozgással tényleg úgy állna előttünk, mintha a lehető legjobban beszélné ékes anyanyelvünket. Eközben ugyanezt a reklámot Brazíliában szintén kiváló portugál nyelven adná elő és így tovább. Sőt, gondoljuk még tovább a személyre szabhatóságot: mi van akkor, ha nekünk nem Willis a kedvenc színészünk, hanem mondjuk Morgan Freeman? Ha ő is engedélyt ad persze az arcmásának felhasználására, akkor az adott tartalomnál azt is kiválaszthatjuk, hogy ő beszéljen hozzánk, magyarul, angolul, szuahéliül, vagy ahogy csak szeretnénk.

Az oktatásban hihetetlenül jó lehetőségeket ad a technológia. Képzeljük csak el, mennyivel jobban beég a tanulók memóriájába az, ha egy történelmi eseményt maga az adott hadvezér vagy király mondja el, és az is biztosan hatásosabb, ha saját tételét Einstein magyarázza személyesen. A Telekom digitalizációról szóló kampánya is hasonló megközelítéssel operált nemrég, amikor a modern vívmányok előnyeivel kapcsolatban híres magyar elődeink mondták el saját gondolataikat.

A filmművészetben már láthatjuk a felhasználás különféle módjait, Luke Skywalker fenti példáján kívül készült már első világháborús film a néhai James Dean “szereplésével”, de ugyanígy fiatalítottak vagy cseréltek már ki más sztárokat is, hogy megmaradjon egy sorozat idővonala vagy épp megdöbbentő hatást érjenek el. Az pedig megint csak egy egyszerre érdekes és ijesztő jövőt fest elénk, milyen lenne, ha mondjuk a Die Hard sorozatot mi más színész arcával nézhetnénk végig John McClane szerepében.

Ingoványos középutak

Ezzel viszont már eljutunk ahhoz a határmezsgyéhez, amely a deepfake jó és rossz felhasználása között húzódik. Mezriczky Marcell szerint még csak rossz szándék sem kell ahhoz, hogy a közönség egy része ne fogadja jó szájízzel a deepfake alkalmazását. Egyrészt, ha egy kicsi pontatlanság is becsúszik a technológia alkalmazása közben, máris elkaphatja a nézőt az “Uncanny Valley”-nek nevezett jelenség, amikor ugyan elhisszük, amit látunk, de valami azért az agyunk legbelsejében őrülten kapirgál és kettős érzetet okoz, motoszkál bennünk az az érzés, hogy jó, ez tényleg Bruce Willis vagy épp Mark Hamill húsz éves korában, de valami mégsem stimmel.

És persze ott vannak a morális kérdések is. Azt nehezen lehet irányítani, ki örül például annak, hogy Leia hercegnő megjelenik a legutóbbi Star Wars mozifilm végén, pedig jól tudjuk, hogy Carrie Fisher akkorra már elhunyt, és ki az, aki szerint ez minden jogi beleegyezés ellenére is tiszteletlenség a színésznővel szemben. És ahogy minden egyes új technológia megjelenése kisebbfajta pánikot vált ki – tessék csak “a robotok elveszik a munkánkat” jelenségre gondolni -, most színészek, reklámszereplők, influencerek és még sok más szakma képviselői aggódhatnak azon, kell-e a közeljövőben a valós szereplésük, vagy helyettük megteszi a dublőrre húzott arcmás is.

Jó kérdés, hogy lesz-e olyan webes szolgáltató, amely kitalálja, hogy a felhasználók szkenneljék be saját arcukat (természetesen csuda mókás virtuális avatárok készítéséhez), majd egyszer csak szembetalálják magukat saját arcmásukkal, aki valamilyen nekik célzott reklámot akar eladni. Itt is előkerülhetnek hasznos megoldások persze – milyen menő ugyebár felpróbálni egy olyan virtuális ruhaüzlet kínálatát, ahol a modell nem más, mint mi magunk. De az adatszivárgások és furcsán vett adatkezelési szabályok világában egyre többek gondolkoznak el azon, hogy a jóhiszeműen átadott arcmásunkkal a világ túlfelén vajon mit csinálhatnak…

Vigyázat, csalunk!

Itt pedig végül elérünk azokig a területekig, ahol a deepfake konkrétan ártó, csaló, megtévesztő szándékkal jelenik meg. Ahogy a vírusok és egyéb rosszindulatú kódok készítői is már egyre nagyobb kapacitással, egyre komolyabb háttérrel dolgoznak, esélyesen azok lehetőségei is szélesednek, akik a “virtuális arcátültetést” szándékosan rosszra használják.

Ott van például a pornóbiznisz árnyoldala, ahol hamarosan akár komoly zsaroló vagy lejárató kampányokban lehet majd használni olyan intim felvételeket, amelyeken valamelyik szereplő arcát felderíthetetlen szinten cserélik az áldozatéra. Azt is jól látjuk, hogy politikusokat és közszereplőket minden eddigi technológiai eszközzel igyekeztek kijátszani álhírektől manipulált fotókig, egy választási kampány során, vagy akár háborúk kirobbantásában is megpróbálkozhatnak az érdekelt felek azzal, hogy egyeseknek provokáló mondatokat adjanak a szájába.

Azzal is számolni kell persze, hogy a deepfake még mindig fejlődésben lévő technológia. Nemrég már megtörtént olyan is, hogy demonstrációs céllal egy élő videóhívásban másították meg a beszélő arcát, tehát hamarosan már csak az sem kell egy átlagos deepfake elkészítéséhez, hogy egy kész videós anyagot utólag vegyenek kezelésbe.

A deepfake etikátlan felhasználására pedig lehet ugyan jogszabályokat hozni, de ugyanígy a már említett vírusok készítőit sem akadályozza meg a rájuk vonatkozó törvények sokasága abban, hogy újra és újra próbálkozzanak. Nemsokára tehát valóban komoly dilemma lesz az, hogyan lehet felderíteni a manipulált tartalmakat, vagy épp bizonyítani, hogy egy adott videón nem az szerepel, akit látunk rajta. Nem véletlen a vírusok hasonlata: Marcell szerint valahogy úgy alakul majd ez a versengés is, hogy a deepfake-eket készítők mindig egy lépéssel a védekezők előtt járnak majd.

Hova tovább?

Az biztos, hogy a deepfake-ről, mint technológiáról, mint jelenségről, mint lehetőségről és mint veszélyről is sokat fogunk hallani a közeljövőben. Márciusban egy kerekasztal-beszélgetés során is előkerülnek a vélemények és jóslatok, ezen Mezriczky Marcell is részt vesz majd, ahogy a már említett magyar startup, a Colossyan is képviselteti magát. És igazából csak az lehet biztos benne, hogy tényleg Marcellt és a Colossyan szakemberét látja majd, aki személyesen követi az eseményt, hiszen aki videón tekinti meg, az már nem lehet benne teljesen biztos, hogy igazán ők azok…