Výživové doplnky zažívajú v posledných rokoch veľký boom. Okrem overených výrobcov sa internetom šíria rôzne reklamy na výživové doplnky, ktoré sľubujú zázračné uzdravenie a rýchle riešenie aj bez lekára.
Digitálni duchovia, teda anonymní obchodníci, zneužívajú na ich propagáciu skutočných lekárov, a to tak, že im ukradnú tvár, hlas a vkladajú do úst slová, ktoré nikdy nepovedali.
Takéto skratky a uverenie sľubom v rýchle uzdravenie už stáli život aj jedného slovenského pacienta, ktorý mal rakovinu. K lekárovi prišiel v momente, keď mu už nebolo pomoci. Môžu sa lekári proti zneužitiu identity brániť? Je ohrozené zdravie ľudí, ktorí užívajú neoverené výživové doplnky?
Zázračné riešenie problému s erekciou sľubuje v reklame urológ Roman Sokol. Tento lekár skutočne existuje, no reklamu na produkt nikdy nenakrútil. Niekto ukradol a zneužil jeho identitu.
„Používajú veci, ktoré boli verejne dostupné. Dokážu nám naozaj zmeniť všetko a je to veľmi ťažko rozoznateľné, pretože pokroky v umelej inteligencii idú tak neuveriteľne dopredu, že niekedy ani ja neviem, či som to nepovedal,“ povedal urológ Roman Sokol.
„Tieto videá začali tak zhruba pred šiestimi rokmi, možno ešte skôr, keď som začal odporúčať liek, ktorý sa volal Tonerin. Tá reklama bola o tom, že keď ho začnete užívať, behom dvoch mesiacov sa z vašich ciev stratí 500 gramov vápnika. To, kde sa pol kila v tých cievach vzalo, bol prvý nezmysel,“ opísal kardiochirurg z Inštitútu experimentálnej medicíny v Prahe Jan Pirk.
Videá môže vytvoriť ktokoľvek
Aj patofyziológ Boris Bajer bol už obeťou falošných AI videí. „Už viackrát. Myslím si, že štyri alebo päťkrát nejakých doplnkov výživy alebo liekov a rôznych kombinácií. Použili moje meno, môj hlas a moju tvár na to, aby to propagovali,“ uviedol Bajer.
Lekári, ale aj verejne známe osobnosti, ťahajú v súboji s podvodníkmi a umelou inteligenciou za kratší koniec. Technológia je tak pokročilá, že videá môže vytvoriť prakticky ktokoľvek.
„Dnes to už nie je vôbec náročné. Stačia vám na to iba peniaze a dokonca vám na to stačí relatívne málo peňazí, aby ste niečo takéto mohli spraviť. Tým málo peňazí myslím pár desiatok eur. Ste schopní naklonovať známu tvár a vyrobiť video akékoľvek chcete. Dnes sme už tak ďaleko a ja hovorím, že to je stále iba začiatok,“ vysvetlil etický hacker Ľubomír Kopáček.
Urológ Roman Sokol podal niekoľko trestných oznámení a pokúsil sa odhaliť pofidérnych predajcov aj sám.
„Objednal som si desať balení tohto zázračného všelieku, ktorý lieči erekciu, ejakuláciu, rakovinu prostaty, zápaly prostaty, zväčšenie prostaty. A tak im hovorím, že ‚pošlite mi to na dobierku, že adresa je MUDr. Roman Sokol, PhD., privátna urologická ambulancia‘ a absolútne im nič nebolo divné, brali normálne. Ja som sa spýtal, že ‚prosím vás, a nie je vám to blbé? Vypočujte si to meno Roman Sokol, však vy používate moje meno a idete ten preparát predávať mne‘,“ opísal Sokol.
Falošné tragédie
„Ja som ráno odišiel do práce a kamarátka volala mojej manželke s tým, že ‚Honzu postrelili v aute‘. A Blanka jej povedala, že som pred hodinou odišiel do práce. Tak mi volala, že som vraj sedel s postrelenou hlavou za volantom,“ povedal kardiochirurg Pirk.
„Titulok bol ‚Tragédie českej medicíny‘, tak to každého upúta. Najskôr tam popisujú, ako ma zabili, a potom to pokračuje: ‚Našťastie 24 hodín pred smrťou nám dal rozhovor.‘ A potom začnú: ‚Neverte farmaceutickým firmám. Vyťahujú z vás podvodne milióny korún. Ja mám liek za pár korún a urobí desaťkrát väčšie veci.‘ A potom to už ľudia čítajú,“ doplnil Pirk.
„Ich jediný cieľ je obohatiť sa a zvýšiť marketing, zvýšiť predaj vecí,“ vyhlásil urológ Sokol.
Výroba deepfake-ových videí bola ešte pred pár rokmi mimoriadne náročná a výsledok aj tak nebol dokonalý. Dnešná kvalita AI videí je na nerozoznanie od reality.
Nepotrebujú nikoho iného
„Ak moja cieľová skupina na propagáciu niečoho je na Slovensku, vyberiem si známu tvár na Slovensku. Dajme tomu známeho lekára a vytvorím si video bez toho, aby som k tomu potreboval niekoho ďalšieho. Vôbec nie je potrebné na to zamestnať nejaké farmy na generovanie videí a takéto veci,“ objasnil Kopáček.
„Zúčastnil som sa jednej konferencie, kde bol jeden celý blok, ktorý sa venoval práve tejto kybernetickej bezpečnosti zneužitím identity. Boli tam dvaja príslušníci policajného zboru, ktorí povedali, že kľudne to centrum, ktoré to celé organizuje, môže byť v susednej miestnosti a nedokážeme sa dopátrať,“ uviedol Sokol.
„Dostával som stovky mailov, či by si ľudia mali kúpiť ten produkt, či ho odporúčam. Tým opatrným som písal, že nie. A tí neopatrní mi písali, ako ho majú užívať, že si ho už kúpili. A tých ľudí mi bolo ľúto, pretože stál asi 1 200 alebo 1 400 korún. Mne sa podarilo získať jedno balenie,“ opísal Jan Pirk.
„Mal som strach, čo v tom je, tak som na ústave Sér a očkovacích látok poprosil, aby mi urobili rozbor celého produktu. Ukázalo sa, že tam našťastie nie je vôbec nič škodlivé, ale tiež tam nebolo vôbec nič, čo by malo preukázateľný účinok. Takže je to čisté vyhadzovanie peňazí. Ale mňa prepadol strach. Predstavte si, keby tam nejaký psychopat dal nejaký jed a začal to takto predávať,“ povedal kardiochirurg.
„Určite môžu byť nebezpečné, buď sú už nefunkčné a reálne nemajú nejaký vedecký základ. Je to iba nejaký biznis model alebo reálne môžu poškodiť ľuďom, lebo ak ide o doplnky výživy, tak nemusí tam byť regulácia. Môžu byť kontaminované. Môžu obsahovať látky, ktoré tam nie sú napísané,“ ozrejmil patofyziológ Boris Bajer.
Obavy o zdravie pacientov
„Toto bol jeden z dôvodov, pre ktorý sme podali trestné oznámenie, aby som bol ja právne krytý, lebo dnes neviete, kto dá na vás žalobu a prečo dá na vás žalobu. A naozaj sme sa obávali toho, že niektorí pacienti nebudú užívať lieky, ktoré majú, a môže to výrazne ohroziť a zmeniť ich zdravotný stav,“ vysvetlil Sokol.
„Myslím, že je správne, že tu je polícia a že sa na ňu máme obrátiť, už len z toho dôvodu, aby keby sa skutočne niečo stalo, keby niekto na tej zlej liečbe prišiel o zdravie alebo život, vedeli, že sme urobili všetko pre to, aby ľudia tento produkt nebrali,“ povedal Pirk.
„Išlo to na kraj, tam tiež potom napísali, že to zamietli, že sa nepodarilo nájsť páchateľa. Dosť som sa pobavil, keď mi povedal policajt, ktorý to vyšetroval, že vo finále buďte rád, že aspoň viete, že ste populárny a že ste známy,“ opísal Roman Sokol.
„Na druhej strane je to až také tragikomické, že nie sme schopní v rokoch 2024 a 2025 vypátrať niekoho, kto zneužíva moje meno. Ja to nejakým spôsobom rozdýcham, ale to môže ublížiť pacientom,“ doplnil urológ.
Nevypátrateľný páchateľ
„Máme tu reputačný problém, krádež identity, čo sa samozrejme lekárom nepáči, a zároveň tam ja vidím aj manipulatívnu techniku sociálneho inžinierstva, že pacienti sú tlačení do toho, že áno, kúpte si tento výrobok,“ vysvetlila odborníčka na právo ochrany osobných údajov Katarína Kročková.
Podľa etického hackera nie je možné dopátrať sa k páchateľovi. „Z povahy veci to nie je možné, lebo výsledným produktom je video súbor. Hotovo, koniec príbehu. Zmysel to má preto, ako pri mnohých iných kybernetických útokoch, ktoré boli zrealizované. Ten dôvod je len taký, aby bol niekde procesne zachytené, že sa niečo stalo. Ak sa niekto rozhodne ma žalovať, aby som ja mal tu v rukách ten papier, že haló, tu som bol na polícii,“ objasnil Kopáček.
„Najčastejšie sa stáva, že pri anonymizovaných páchateľoch je veľmi ťažké zistiť vlastne nejakú IP adresu, zistiť ďalšie informácie k profilu, ktorý to zavesil na sociálnu sieť. Osobitnou kategóriou sú podvodné webové stránky, kde je možné zistiť, kto je za registrovaním domény,“ uviedla príslušníčka Odboru počítačovej kriminality z Prezídia Policajného zboru.
„Podľa aktuálneho práva deepfake nemáme ako samostatný trestný čin. Ale za určitých okolností by sme sa mohli baviť o podvode, o neoprávnenom nakladaní s osobnými údajmi a napríklad poškodzovanie cudzích práv. Ale v konečnom dôsledku môžeme hovoriť o zásahu do osobností podľa občianskeho zákonníka,“ vysvetlila Kročková.
Poškodzovanie cudzích práv
„Tým, že nie je konkrétne trestný čin deepfake videa zavedený v našej legislatíve, je štatisticky ťažké nájsť všetky konania, kde podnetom na začatie konania vo veci bolo práve deepfake video. Najčastejšie ide o zneužitie hlasu a tváre osoby, napríklad aj verejne známej alebo nejakej osoby, ktorá vystupuje napríklad ako lekár. Najčastejšie je to kvalifikované ako poškodzovanie cudzích práv,“ povedala príslušníčka Odboru počítačovej kriminality.
Polícia sa môže pri vyšetrovaní zamerať aj na prevádzkovateľov webov, na ktorých sa deepfake videá nachádzajú.
„Určite sa rieši aj právnická osoba, ktorá môže byť za takouto firmou, webovou stránkou, doménou a ona by mala preberať zodpovednosť za to, čo na túto stránku dáva. Keď tam zneužije identitu osoby a poškodí osobu, ten poškodený, v tomto prípade lekár, môže prísť o svojich pacientov a samozrejme takáto právnická osoba hazarduje so zdravím občanov, ktorí takýto produkt si kúpia,“ doplnila príslušníčka Odboru počítačovej kriminality.
„Už mám svojho dôstojníka na kriminálnej polícii, s ktorým s tým márne bojujeme už šesť rokov. A adresy – to nás posielalo po celej Európe, do rôznych krajín, až nakoniec to skončilo na Panenských ostrovoch. Hovoril, že je to stratené, pretože z Panenských ostrovov nikdy neodpovedali na tieto otázky polície,“ prezradil Pirk.
Zmena legislatívy
„Štáty Európskej únie už začali pracovať na zmene legislatívy. Najskôr začalo Dánske kráľovstvo. Tam sa to týkalo novely autorského zákona, že každý má právo na svoje telo, na vlastnú identitu, na svoje črty tváre a na svoj hlas. Už sa pripája aj Nemecko. V Taliansku pred pár mesiacmi schválili zákon, kde už je nejaká trestnoprávna zodpovednosť pri používaní deepfake,“ priblížila Katarína Kročková.
„Našimi novými právnymi predpismi, ktoré sú momentálne v štádiu vyhodnocovania pripomienok, respektíve už pred ďalším posunutím v rámci legislatívneho procesu, budeme nadväzovať na európske pravidlá, ktoré sú dané a ktoré sú záväzné pre všetky členské štáty,“ skonštatovala predsedníčka Úradu na ochranu osobných údajov Zuzana Valková.
„Týmto právnym predpisom budeme zavádzať aj nový trestný čin v súvislosti s deepfake videami, pretože je potrebné, aby sa nastavovali hranice a pravidlá, kedy a za akých okolností deepfake videá budú považované za trestný čin,“ dodala Valková.
„Rozumiem, že všetko, čo rozprávam, znie veľmi bezvýchodiskovo, lebo ono to tak v skutočnosti je. Nevieme vôbec, ako to uchopiť, my odborníci, nevedia to štáty, nevie to nikto. No musíme to akceptovať ako novú realitu. Takto to jednoducho je,“ poznamenal etický hacker. Kopáček zároveň dodal, že jediná cesta je osveta.
Test pre pacientov
„Snažili sme sa zistiť, ako tým ľuďom pomôcť. Tak sme s mojím tímom vytvorili test, ktorý sa volá “liekošmejdi”. Je to séria otázok, pri ktorých odpovedáte, či poznáte, či ide o správnu reklamu. Je tam asi 14–15 otázok. A podľa vašich odpovedí vám to povie: “Pozor, ste náchylní veriť týmto nezmyslom.” A k tomu sa pripájajú všetky nemocnice,“ povedal kardiochirurg Pirk.
„Možno nasadenie nejakých reputačných nástrojov, ochrany fotografie, videí a monitoring ich webových stránok,“ uviedla odborníčka na právo ochrany osobných údajov.
„Objavenie atómovej energie bolo úžasné, mysleli sme si, že budeme mať zdroje energie, ale vznikla atómová bomba. A tá umelá inteligencia, myslím si, že bude niečo podobné,“ uzavrel Jan Pirk.
