Čo všetko dnes dokáže umelá inteligencia (AI) vytvoriť z niekoľkých nahrávok ľudského hlasu alebo z videí? Prakticky nový prejav človeka, ktorý môže byť na nerozoznanie od skutočnosti.
Pre hercov a dabingových hercov sú pritom ich hlas a tvár pracovným nástrojom, ktorý si budujú roky.
Ak ich niekto zneužije, následky môžu zasiahnuť ich meno, prácu a aj to, ako ich vníma verejnosť. Slovenskí herci už majú so zneužitím hlasu a identity trpkú skúsenosť.
„Vždy mi to niekto pošle, takto sa k tomu dostanem. Náhodne mi to vyskočí, je to nehoráznosť, ako je teraz AI dokonale urobená,“ povedal herec Maroš Kramár.
Reklamy, o ktorých nevedia
Herci sú podľa advokáta Jakuba Mandelíka najzraniteľnejšou skupinou pri deepfake obsahoch. „Práve hlas herca je najväčším lákadlom, ktorým tvorcovia obsahu lákajú čo najširšie publikum prostredníctvom sociálnych sietí. Hlasu priraďujú tvrdenia, ktoré herec v skutočnosti nikdy nepovedal,“ doplnil.
„Mám podozrenie, že sa mi to stalo. Bola to nemenovaná firma, išiel som na to filištínsky. Pýtal som sa ľudí v brandži, koho je to hlas. Jeden zvukár mi povedal, že hlas má isté znaky a farby, ako keby bol zoskenovaný môj, zmiešaný s nejakou syntetikou. A to nedokážete,“ povedal príležitostný dabingový herec, producent a odborník na reputáciu Martin Horváth.
„Mám reklamu, že som vraj taký bohatý, lebo som investoval do bitcoinov. Neinvestoval som ani do jedného bitcoinu. Je to nezmysel a tiež aj tá reklama,“ povedal Maroš Kramár.
Dodal, že keď sa niekto prihlási, dá svoje peniaze niekomu, kto mu ich zoberie, ten človek sa bude hnevať na neho. „A pritom ja som žiadnu reklamu nenatočil. Dnes je technika dokonalá natoľko, že sa dostávame do sveta, kde naozaj nevieme, čo je pravda, čo je lož, čo je konšpirácia,“ skonštatoval herec.
„Ako to musia vnímať herci, že ich obživa, ktorá trvá dvadsať, tridsať rokov, môže byť zo dňa na deň vymazaná. Akonáhle nad tým stratíte kontrolu a nikto nepenalizuje vykrádačov vašej identity, tak to môže byť psychicky nie úplne jednoduché pre človeka, ktorý sa tým denne živí,“ povedal Martin Horváth.
Herci môžu prísť o prácu
„Máme celú škálu práv, ktoré môžu byť dotknuté. Deepfake, nepravdivé video môže poškodiť vo vzťahoch s kamarátmi, vo vzťahoch v rodine, vo vzťahoch v zamestnaní. Môže byť ublížené majetkovo,“ vysvetlil štátny tajomník ministerstva vnútra Milan Hodás.
„Herec môže byť rovnako traumatizovaný ako Zuzka zo 4. B, keď jej ukradnú tvár a hlas. Je úplne jedno, že som verejne známa osoba a som dobrovoľne slávna. Keď sa mi toto stane, nemám nad tým kontrolu?“ priblížila psychologička Veronika Pastrnaková.
„Špiní nám meno. Môžeme prísť aj o robotu. Najhoršie na tom je, že technológia predbehla dobu, na to neexistuje legislatíva. Nevieme sa brániť,“ skonštatoval Kramár.
„A nech sa tomu budeme brániť akokoľvek, vždy tí, ktorí to generujú, budú o krok napred. Aj pred morálkou, aj pred právom, aj pred profesiami,“ povedal herec Milan Bahúl.
„Je to prakticky neodhaliteľné, ak do toho niekto investuje čas, energiu a peniaze, aby to robil profesionálne a potom distribuoval. Ťažšie je distribuovať manipulovaný obsah, ako ho vyrobiť. Dnes ho viete vyrobiť z petržalského bytu, ak máte správne nástroje a viete, ako na to,“ vysvetlil odborník na AI Branislav Šmidt.
Legislatíva AI len dobieha
Hoci legislatíva umelú inteligenciu len dobieha, Európska únia v rámci AI aktu postupne nastavuje prísnejšie pravidlá. Napríklad od druhého augusta platí povinné označovanie vygenerovaného obsahu umelou inteligenciou.
„Takéto niečo skôr určuje hranicu pre tých poctivých. Ten, kto sa snaží využiť AI na podvod, tak nálepka, aby to označil, ho nezastaví v tom, aby to urobil. Skôr sa to dotkne profesionálov a firiem, ktoré budú produkovať obsah vytvorený alebo modifikovaný umelou inteligenciou,“ priblížil odborník na AI Tomáš Jevčík.
„Máme technológiu na to, aby sme vedeli vyriešiť možno dvadsať prípadov v nejakom čase. Prípadov v čase v zásade pribúda. Ešte nedávno stačilo zadať špeciálnym spôsobom prompt a dokázali ste vygenerovať akýkoľvek obsah z toho konkrétneho nástroja. Ale už aj platformy pociťujú tlak, ktorý na ne hlavne v Európe vyvíja eurokomisia,“ uviedol splnomocnenec vlády SR pre umelú inteligenciu Radoslav Štefánek.
Podľa neho však existujú riešenia. „Jedno také sme testovali. Išlo o dánske riešenie, že pri uploade obsahu na internet sa do neho ukladá vodoznak,“ dodal.
Kto chce, cestu si nájde
„Na druhej strane je veľa modelov, ktoré sú open source v AI terminológii. Stiahnete si ich na server a potom už je to nedohľadateľné. Model si potom dotrénovávate mimo akýchkoľvek regulácií. Ak chcete, tak cesta existuje, len potrebujete na to zdroje, čas a nejaké kapacity,“ povedal odborník na AI Šmidt.
„Ochrana osobnosti chráni človeka – herca, skrz ochrany jeho podobizne a hlasového prejavu. Ale v tomto prípade sa už bavíme o zmanipulovanom obsahu, o generatívnom AI vytvorenom obsahu,“ povedal advokát Mandelík.
„Právny poriadok má páky na riešenie týchto konaní. V novom Občianskom zákonníku existuje ustanovenie, ktoré hovorí o tom, že človek na takúto napodobneninu potrebuje súhlas s nejakými výnimkami v publicistike, umeleckom a vedeckom informovaní, ale inak je takéto konanie zakázané,“ vysvetlil štátny tajomník Hodás.
Trestnoprávnu rovinu bude riešiť novela Trestného zákona, v ktorej bolo doplnené ustanovenie s názvom Porušovanie práv digitálnym falšovaním. Otázna je podľa advokáta Mandelíka vymožiteľnosť práva pri súčasnej platnej právnej úprave.
„Musíte si uvedomiť, že herec musí preukázať veľmi veľa skutočností na to, aby bol úspešný. Obávam sa, že bude veľmi ťažké preukazovať, že príspevok naplnil trestnoprávny rozmer na to, aby mohol byť stíhaný ako trestný čin,“ povedal.
Herečka Šencová: Oklamali ma
Umelá inteligencia dokáže pretvoriť ľudský hlas takmer dokonale. Niekedy jej na to stačí len niekoľko sekúnd nahrávky. Pre hercov a ľudí, pre ktorých je hlas pracovným nástrojom, to môže znamenať aj stratu práce.
Osobnú skúsenosť má aj herečka Daniela Šencová. „Bola som oklamaná, pretože pri podpise zmluvy v štúdiu, pre ktoré som pracovala vyše pätnásť rokov, mi bolo povedané, že zmluva je tá istá, ako mi poslali pred časom v elektronickej podobe, ktorú som dala skontrolovať právnikovi a bola v poriadku,“ priblížila herečka.
Lenže v tlačenej forme zmluvy už bola aj klauzula o možnosti poskytnutia hlasu tretím stranám. Po roku od podpisu zmluvy sa herečkin hlas začal šíriť, hoci legálne, no aj v obsahu, ktorý ju znevažuje.
„Zrazu som prestala mať kontrolu nad tým, kde sa môj hlas objavuje. Objavoval sa, dokonca aj sa stále objavuje v MHD v Bratislave a v menších obciach. Aj v jednej z najväčších slovenských bánk som ich virtuálna pracovníčka,“ povedala herečka.
Psychické problémy
Podľa herca Milana Bahúla v tomto probléme nepomôže ani zákon. „Lavína sa spustila. Ide len o to, kto má akú lavínovú výstroj, či je niekto schopný z toho ešte utiecť,“ povedal.
„Cítim sa úplne bezmocná. Môj hlas sa objavil v reklamách na porno stránkach. Začalo sa to šíriť neskutočnou rýchlosťou, keďže hlas sa oficiálne dal kúpiť. Rôzni ľudia ho začali zneužívať na kreslené vtipy, ktoré boli nemiestne, sexuálne, také, kde by som v živote hlas nedala,“ povedala Šencová.
Podľa psychologičky Pastrnakovej to môže rozbehnúť celú sériu psychických problémov. „Začnem zle spávať, začne ma bolieť hlava. Môže to prerásť do sociálnej fóbie, prestanem vychádzať medzi ľudí. Hanbím sa za to, nemám vôbec kontrolu nad verejným obrazom,“ vysvetlila.
Pýtali sme sa autora satirickej stránky
Umelá inteligencia dnes dáva priestor aj tvorcom, ktorí pomocou nej vytvárajú parodické deepfake videá. Na Slovensku ich pôsobí niekoľko. My sme oslovili autora stránky Dabovačky.
Ten pomocou AI upravuje známe filmové scény a predabúva ich do slovenčiny, pričom hlasy sa veľmi podobajú hlasom slovenských hercov. Zaujímalo nás, prečo takýto obsah vytvára a či je jeho tvorba legálna.
„Vo výsledných videách nepoužívam pôvodné repliky ani zvukové stopy hercov. Hovorený obsah je generovaný nanovo pomocou AI a výsledkom je syntetická hlasová podoba,“ uviedol autor stránky.
„Používam krátke časti scén, ktoré výrazne pretváram. Mení sa dialóg, význam aj celý kontext. Slovenský autorský zákon pozná použitie diela na účely paródie či karikatúry a Dabovačky majú práve satirický a parodický charakter,“ skonštatoval.
„Dabovačky a podobné kanály, to je hnutie, ktorému to príde absolútne vtipné, ale siaha minimálne na dva druhy práv. Jednak čo sa týka filmu, jednak čo sa týka hlasu,“ uviedol Martin Horváth.
„Každý je majiteľom svojho hlasu. Nikto nechce, aby bez akejkoľvek licencie, bez akejkoľvek odmeny zrazu jeho hlas bol použiteľný tam, kde za prvé on nedal súhlas a za druhé, že o tom ani nevie,“ povedal zvukár STVR a hudobník Miloš Fedor.
„Dabovačky sledujú aj známe tváre, herci, speváci či influenceri a mám aj pozitívnu spätnú väzbu priamo z hereckej komunity. Niektorí príspevky lajkujú alebo zdieľajú,“ uviedol autor stránky.
„Keď je to satira, tak dobre, ale tiež by to malo mať hranice. Ak moja sloboda prejavu zasahuje do slobody druhého človeka, tak podľa mňa je to morálne nesprávne a neetické,“ povedala psychologička.
Podľa herca Milana Bahúla na Slovensku chýba stavovská organizácia. „Českí herci majú Českú hereckú asociáciu, ktorá má veľký rešpekt. Bolo tu pár pokusov, ale odišli do stratena,“ uzavrel herec.
