Egy cikkben már bemutattuk a deepfake technológiát, és néhány vidámságra okot adó alkalmazását. Most nézzük az árnyoldalait.

Az emberek hajlamosak hinni a szemüknek és a fülüknek, kezdésnek mondjuk képzeljük el az alábbi történetet:

Ülünk az irodában, és felhív a főnökünk, hogy azonnal utaljunk el a megadott számlaszámra egy nagyobb összeget, mert tartozunk egy cégnek, és gyorsan ki kell fizetni. Természetesen teljesítjük a kérést. Pár órával később azonban újra felhív a főnökünk, az igazi, és megkérdezi, hogy miért utaltuk el az összeget. Kiderül, hogy vele még nem is beszéltünk aznap, a pénznek pedig közben nyoma veszett. Ez nem fikció, az eset már megtörtént.

A fenti csak egy példa a deepfake technológiában rejlő veszélyekre. Deepfake alatt azt értjük, amikor egy eredeti fényképen vagy videóban valakinek az arcát vagy más testrészét módosítják, vagy egy másik emberével helyettesítik. De a fenti példában szereplő hamisításra is használják a kifejezést, amikor az emberi beszédhangot utánozzák le tökéletesen.

A mesterséges intelligencia (MI) és a gépi tanulás technológiájával jöhet ez létre. Az új eljárással sokkal olcsóbban és gyorsabban képes az ilyen manipulációt végrehajtani, mint a korábbi korok módszereivel. A deepfake-hez csak az kell, hogy rengeteg fényképpel és hanganyaggal tanítsuk a mesterséges intelligenciát. Ha a képeken a célszemély különböző szögekből, különböző arckifejezésekkel látható, akkor ezek alapján az MI az arcot tökéletesen ráilleszti egy képre vagy akár egy videóra is. Az eredeti hangokból pedig tetszés szerint lehet összeállítani a kívánt szöveget.

Kicsit előreszaladva ez alapján már látható az is, hogy például úgy tudunk valamennyire védekezni az ellen, hogy rólunk is hamis felvételek készüljenek, ha a lehető legkevesebb képet és videót osztjuk meg magunkról a közösségi oldalakon.

Az előző példához hasonlóan az unokázós csalók is szintet léphetnek a deepfake segítségével. Az utóbbi időben sokszor csaltak ki idősebb emberektől pénzt azzal a szöveggel, hogy fiatal rokonaik bajba kerültek, ezért most azonnal pénzt kell fizetniük nekik. Gondoljunk bele, hogy vajon hány embert lehetne becsapni úgy, ha nem is egy ismeretlen, hanem a valódi unoka hangja szólalna meg kétségbeesetten a telefon másik végén, és kérné a pénzt? Valószínűleg nagyon sokakat, és nem csak idős embereket.

A mesterséges intelligencia segítségével egyre könnyebb, és egyre tökéletesebb a felvételek manipulációja (Fotó: Wikipédia)

A deepfake technológia videós változata először a pornóiparban terjedt el széles körben, és máig a legtöbb ilyen videó a felnőttfilmek között van. Egyre több olyan felvétel látható az interneten, amikor egy ismert ember arcával helyettesítik a pornófilmekben a szereplők arcát.

Nem csak a hírességeket vannak azonban veszélyben. A bosszúpornó az, amikor egy párkapcsolat vége után az egyik fél meztelen képeket tesz közzé volt partneréről. Itt is új lehetőségeket nyit ki a deepfake, hiszen segítségével már nem is kell feltétlenül igazi felvételeknek készülniük. Elég, ha a szakítás után valaki ráhamisítja egy meztelen testre volt társának arcát.

Már a politikában is megjelent a deepfake. Tavaly például az Egyesült Királyságban nagy felháborodást keltett, amikor II. Erzsébet királynő szájába adtak általa soha el nem mondott szavakat. Egy másik esetben az indiai Manoj Tiwari arra használta az eljárást, hogy a választási üzenetét a soknyelvű Indiában minél több szavazójához anyanyelvén juttassa el. Ugyanazt a beszédét a deepfake segítségévél általa nem is beszélt nyelveken közvetítették, így az eltérő csoportokhoz tartozó választópolgárok úgy érezhették, hogy a politikus igazán egy közülük, és hozzájuk beszél.

Bár már ezt az alkalmazást is átverésnek érezhetjük, ennél sokkal veszélyesebb lehet az, amikor egy politikus szájába az ellenfelei a manipulációval olyan szöveget adnak, ami lejáratja őt.

A gépi tanulással teljesen élethű beszédet lehet létrehozni, ennek rosszindulatú felhasználásának pedig csak a képzelet szabhat határt.

A megtámadott politikus beszélgethet például valakivel éppen korrupcióról, vagy elismerheti, hogy hazudott a szavazóinak. Korábban, ha egy ilyen felvétel nyilvánosságra került, akkor kevésbé kellett elgondolkodnunk azon, hogy vajon eredeti-e, mert a hozzáértő szakértők elég jól meg tudták állapítani, ha egy felvétel manipulált. Ma azonban ez az azonosítás még az eddigieknél is nehezebbé vált.

Igazából ez is az egyik fő kérdés a deepfake kapcsán. Vajon a módosító technológia fejlődik majd gyorsabban vagy a felderítésére alkalmazott eljárások? Ha az utóbbi történik, már akkor is nagyon nagy zavarokat lehet vele majd előidézni. Ha viszont az utóbbi lesz az igaz, és nem lehet biztosan felderíteni a hamisításokat, akkor felkészülhetünk arra, hogy teljesen elbizonytalanodhatunk abban, hogy a különböző felvételeken látott világból mi az igaz, és mi a hamis. Ebbe pedig akár az egész társadalmi rendszerünk belebukhat. Bár megpróbálják törölni az internetről a hamisított felvételeket, de ez egy véget nem érő feladat.

Az álhírek már ma is komoly problémákat okoznak, de vajon milyen lehet egy olyan jövőbeli választás, ahol a szavazók közül már senki sem lehet biztos abban, hogy amit éppen hall vagy lát az nem puszta átverés?

(A címlapfotó illusztráció / forrás: hasznaltandroid.hu)