Do priebehu volieb a demokratických procesov čoraz častejšie zasahuje aj umelá inteligencia. Jej vplyv na predvolebnú kampaň teraz “testuje” aj česká spoločnosť, ktorú už onedlho čakajú voľby do Poslaneckej snemovne.
O tom, kam až zachádzajú pri využívaní AI české politické strany a či ich stratégia funguje sa spravodajkyňa Slovenského rozhlasu Kristína Chrenková rozprávala s odborníkom na analýzu dát zo sociálnych sietí a sémenatikom Josefom Šlerkou.
Ako využívajú politické strany dnes v Českej republike AI pred voľbami?
To, čo zatiaľ pozorujeme, sa výrazne prejavuje najmä v audiovizuálnej oblasti. Domnievam sa, že prvým významným priekopníkom v tomto smere bola SPD, ktorá v podstate prevzala komunikačnú stratégiu nemeckej AfD. Už dávno pred začiatkom volebnej kampane predstavila obrázky generované umelou inteligenciou, napríklad migranta držiaceho zakrvavený nôž.
Tento komunikačný štýl ťaží z ilúzie, že za obrázkom nestojí konkrétny autor. Využíva umelosť ako nástroj, ktorým sa generovaný obraz stáva prostriedkom na maskovanie problematických princípov, v tomto prípade konkrétne rasizmu.
Politické strany túto technológiu implementujú rôznymi spôsobmi. SPD napríklad pokračuje v jej využívaní a obľúbila si aj generovanie hudby pomocou AI. Zaregistroval som oficiálne video Andreja Babiša s typickým predvolebným vizuálom a zábermi ľudí, no so zvukovou stopou zjavne vytvorenou umelou inteligenciou. V tomto prípade technológia neslúži primárne na manipuláciu, ale skôr na využitie jej možností.
Toto približne vystihuje, ako oficiálne politické subjekty dnes integrujú AI technológie do svojej komunikácie.
To znamená, že strany využívajú AI často, lebo je to lacnejšie. Aké sú ďalšie dôvody?
V širšom kontexte, nielen v rámci českých volieb, existuje viacero dôvodov, ktoré stoja za týmto trendom. Tým najzásadnejším je jednoznačne cenová dostupnosť. Možno sa pýtate, prečo by politické strany túžili po lacných videách, keď disponujú pomerne štedro naplnenými kampaňovými rozpočtami.
Odpoveď spočíva v stratégii sociálnych sietí. Ak dokážete vyprodukovať stovky takýchto videí a vaše podporné účty ich systematicky šíria, dramaticky zvyšujete šancu osloviť oveľa širšie publikum. Nejde teda len o nízke náklady, ale predovšetkým o kvantitu obsahu.
Moderný marketing dnes funguje v režime „360 stupňov“, ako sa v odbore hovorí, a musí byť flexibilný, aby sa prispôsobil nielen sociálnym platformám, ale aj tradičným médiám. Pre televízne vystúpenie potrebujete originálny obsah, no ak chcete efektívne využiť algoritmy sociálnych sietí, najmä TikToku, omnoho výhodnejšie je staviť na množstvo kontentu.
Najvýraznejšie sa tento fenomén prejavil pravdepodobne v Nemecku, no určité náznaky tohto prístupu už pozorujeme aj u nás.
Dokážu ľudia v roku 2025 rozoznávať, čo v kampani vytvorila AI?
Stojíme pred dvoma kľúčovými otázkami, či ľudia dokážu rozpoznať syntetický obsah v politických kampaniach a či ho vôbec dokážu identifikovať. Táto schopnosť sa, žiaľ, neustále oslabuje z dvoch hlavných dôvodov.
Po prvé, obsah dnes prevažne konzumujeme na mobilných telefónoch, čo vedie k povrchnejšiemu vnímaniu. Nevenujeme dostatočnú pozornosť detailom, ktoré by mohli odhaliť manipuláciu. Obsah nás jednoducho zasiahne a my mechanicky posúvame prstom ďalej.
Po druhé, kvalita syntetického obsahu dramaticky rastie. Dosahuje takú úroveň dokonalosti, že sa postupne stáva novým štandardom. Strácame prirodzenú citlivosť na rozlišovanie, čo znamená, že v blízkej budúcnosti väčšina ľudí už len na pohľad nerozpozná, či ide o umelo vygenerovaný alebo autentický obraz.
To však neznamená, že nemáme iné spôsoby odhalenia. Napríklad prostredníctvom osobnej znalosti daného politika a schopnosti posúdiť, že by sa v skutočnosti správal alebo vyjadril inak.
Čo si teda treba všímať, ak chceme zistiť, či nie je obsah na internete generovaný AI?
Najhoršie na tom je, že to, čo teraz poviem, o mesiac už nemusí platiť. Stále totiž ide o fyziku tohto sveta, najmä pri videách s intenzívnejším pohybom, kde sa skôr hrá na scénu. Aj naďalej pozorujeme, že fyzikálny svet nie je úplne dokonalý a práve to je asi jeho najväčšia slabina.
Často tiež vidíme špecifickú estetiku, charakteristickú paletu farieb či spôsob vyostrenia, ktoré naznačujú, že nejde o skutočný život zachytený kamerou, ale skôr o akýsi destilát reality. To je druhý aspekt, jednoducho to pôsobí umelo.
Tretím problémom je zvuk. Tvorcovia, a tým myslím nielen politické strany, ale aj rôznych aktivistov vstupujúcich do kampaní z vlastnej iniciatívy či podporovateľov generujúcich videá. Často používajú základné nástroje, ako napríklad Google Voice. Tie však ponúkajú obmedzenú škálu hlasov, takže keď začujete hlas, ktorý ste už desaťkrát počuli v iných videách, môžete si byť takmer istí, že nejde o originál.
Má Česká republika skúsenosti aj s deepfakemi? Stretli ste sa s tým aj v predvolebnej kampani?
Česko zatiaľ nemá žiadne výrazné skúsenosti s deepfake technológiou v predvolebnej kampani. Počas prezidentských volieb síce vzniklo upravené video jedného z kandidátov, no nešlo o deepfake, ale o klasickú manipuláciu pomocou „nožníc a lepidla“. Problémom je však, že český informačný priestor je dnes zaplavený finančnými podvodmi využívajúcimi deepfake technológiu.
Na sociálnych sieťach sa objavuje množstvo videí, v ktorých sú zobrazené známe verejné osobnosti, ako Petr Pavel či Andrej Babiš. Tieto videá sú manipulované alebo priamo vytvorené s cieľom propagovať napríklad investície do pochybných kryptomien či podobných schém. Tento fenomén je v súčasnosti v Česku veľmi rozšírený a predstavuje vážne riziko, keďže už evidujeme prípady, kedy ľudia prišli o desiatky či stovky tisíc korún.
Ako je možné, že na toto ľudia aj dnes skočia? Hovorí sa o tom v médiách, pred šmejdami sa v Česku varuje už dlhé roky.
Súvisí to s tým, že ľudia stále vo veľkej miere veria obrazu. Keby im prišiel list od prezidenta, pravdepodobne by im to pripadalo podozrivé, pretože k písanému slovu pristupujeme prirodzene s nedôverou. Obraz však vnímame takmer ako synonymum zachytenej reality. Táto dôvera je hlboko zakorenená v našom vedomí.
Zatiaľ nemáme dostatok skúseností so synteticky vytvorenými vizuálnymi obsahmi. O pár rokov sa situácia nepochybne upokojí a ľudia prestanú slepo dôverovať tomu, čo vidia alebo sa aspoň naučia kritickejšie posudzovať vizuálne informácie. Momentálne však technológia preniká do oblasti ľudskej dôvery, ktorá bola doposiaľ nedotknutá.
Je etické, aby politické strany používali najmä AI v takom citlivom období, ako je predvolebná kampaň, napriek tomu, že vedia, aké riziká to so sebou nesie? Máme etický kódex, ktorý tie „slušné“ strany dodržiavajú?
Videli sme napríklad v Nemecku, že politické strany, s výnimkou extrémistických, sa dohodli, že v predvolebnej kampani nebudú využívať AI nástroje. V Česku sme nič podobné nezaznamenali a pravdepodobne ani nezaznamenáme.
Umelá inteligencia sa stane neoddeliteľnou súčasťou politických kampaní a ide o fenomén, ktorému sa jednoducho nedá vyhnúť.
Etické hranice však nie sú priamo späté s využívaním AI. To, či je kampaň etická alebo neetická, nezávisí od toho, či ju vytvoril AI alebo človek. V tomto ohľade sa v podstate nič nezmenilo. Neetický obsah možno vzniká jednoduchšie, no zostáva neetickým bez ohľadu na technológiu, ktorá za ním stojí.
Z pohľadu etiky sa teda veľa nemení. Morálne princípy v politických kampaniach zostávajú rovnaké a mali by také zostať aj naďalej, bez ohľadu na príchod akejkoľvek novej technológie.
Mohlo by do nejakej miery pomôcť, ak by napríklad AI obrázky boli lepšie označované, tak ako je označovaná napríklad reklama?
Áno aj nie. Áno znamená, je v poriadku, keď je obsah označený ako generovaný umelou inteligenciou. Mnoho takýchto videí má dole upozornenie, že ide o vygenerovaný obsah, no ľudia si ho často nevšimnú. Súvisí to najmä s tým, ako obsah konzumujeme.
Na druhej strane, ak niekto chce urobiť niečo zlé, jednoducho to urobí, aj keď je obsah označený. Takí ľudia hľadajú spôsoby, ako svoje ciele dosiahnuť bez ohľadu na varovania. Označenia teda môžu pomôcť ako varovanie a upozornenie na možnú manipuláciu, ale tí, ktorí chcú obsah zneužiť, budú v tom pokračovať bez ohľadu na to.
Sú nejaké bezpečnostné riziká čo sa týka AI v súvislosti s politikou? Napríklad, že chatboty spadajú pod rôzne štáty?
Myslím si, že sme fascinovaní generatívnou umelou inteligenciou a jej schopnosťou vytvárať obrázky, texty či zvuky. Avšak AI už roky zasahuje do politiky, najmä v oblasti analýzy dát a cielenia reklám.
Umelá inteligencia dokáže presnejšie zacieliť reklamu a vybrať vhodný spôsob, ako správu podať, aby bola pre prijímateľa čo najprijateľnejšia. Práve toto považujem za oveľa závažnejší problém než samotné generovanie deepfake videí. Deepfake totiž býva ľahko odhalený – vidno, že ide o falzifikát. Manipulácia cez cielenú reklamu a algoritmy sociálnych sietí je však podstatne ťažšie rozpoznať a ešte ťažšie vysvetliť bežnému človeku.
Vždy si hovorím, keby som mal niekomu vysvetliť tieto mechanizmy v krčme, zabralo by to veľa času a trpezlivosti. Myslím, že by som to zvládol, ale nie je to jednoduché. A práve to považujem za oveľa nebezpečnejšie.
Nie je to len o generovaní deepfakeov, ale najmä o masívnych možnostiach cieleného ovplyvňovania a schopnosti vyhľadávať slabiny v ľudskom kognitívnom aparáte. Podľa mňa je to oveľa závažnejší problém než samotné deepfake videá.
Má AI potenciál zmeniť volebný výsledok?
Záleží to na jednotlivých krajinách. My máme napríklad proporcionálny volebný systém, v ktorom si viem predstaviť, že dobré využitie umelej inteligencie by mohlo pomôcť strane zvýšiť jej volebné výsledky o dva až tri percentuálne body. To si viem predstaviť. Na druhej strane však stále platí, že víťazstvo a dobrý výsledok vo voľbách znamenajú získať veľa bodov.
Áno, osobné kontakty zostávajú omnoho dôležitejšie, aj keď to mnohí technooptimisti nechcú priznať. Tradičné médiá, predovšetkým televízia, stále zohrávajú významnú úlohu. To znamená, že nie sme v takej situácii, aby umelá inteligencia sama o sebe rozhodla výsledky volieb.
V tomto smere budem vždy vnímať AI ako jeden z nástrojov, ktorý môže pomôcť lepšie zacieliť kampaň, znížiť výrobné náklady či dokonca viesť špinavú kampaň. No sama o sebe je to len kus plastu, z ktorého je potrebné niečo vytvoriť.
Existuje v Českej republike v tomto smere nejaká regulácia?
V súčasnosti prechádzame obdobím zavádzania takzvanej umelej inteligencie. Znepokojuje ma však tendencia, že pri každom novom fenoméne okamžite voláme po špecifickej regulácii, pritom často zabúdame na už existujúce právne rámce.
V mediálnej oblasti totiž stále platí zásada, že zodpovednosť nesie vydavateľ a obsah musí spĺňať novinárske štandardy bez ohľadu na to, či ho vytvoril človek alebo algoritmus.
Rovnako v politických kampaniach naďalej platia jasné etické hranice – neklamať voličov a nepoškodzovať protikandidátov šírením dezinformácií. Tieto pravidlá zostávajú v platnosti aj v ére umelej inteligencie.
Samozrejme, regulácia nových technológií je nevyhnutná, avšak iba v oblastiach, ktoré doterajšia legislatíva nepokrýva. Ide predovšetkým o manipuláciu algoritmami či cielené ovplyvňovanie ľudského myslenia prostredníctvom zneužívania psychologických slabín.
Základným právom by malo byť vedieť, kedy komunikujeme so syntetickým obsahom. Nejde o zákaz chatbotov, ale o požiadavku transparentnosti, aby sme dokázali rozlíšiť, či hovoríme so živým človekom alebo s robotickým telemarketingom. Práve v týchto oblastiach je regulácia nevyhnutná a príslušná legislatíva sa momentálne iba formuje.
