Expert na umelú inteligenciu Spano: Nestačí vidieť a uveriť, treba začať znovu rozmýšľať

Martin Spano.
Zdroj: TVNOVINY.sk/ Martin Lachkovič

Deepfake videá sú príkladom, že zapnúť kritické myslenie je nevyhnutné.

Zlatica Švajdová Puškárová si na začiatku pandémie nasadila v televíznom štúdiu rúško ako jedna z prvých osôb na Slovensku. Veľké gesto obletelo nielen našu krajinu, ale zaujalo aj zahraničné médiá. V nedávnom videu priznala, že sa mýlila a rúška či očkovanie sú v boji s pandémiou zbytočné. No v skutočnosti niečo podobné nikdy nevyslovila. Išlo o falošné, takzvané deepfake video, ktoré je súčasťou osvetovej kampane. Na jeho tvorbe sa podieľal aj známy počítačový vedec Martin Spano. V rozhovore hovorí, že je mimoriadne dôležité kriticky myslieť a neuveriť všetkému, čo uvidíme.

V rozhovore sa dozviete aj:
Čo znamená deepfake
Ako vzniklo video so Z. Švajdovou Puškárovou
Prečo sa M. Spano pustil do osvetovej kampane
Či sa dá deepfake využiť na prospešné účely
Kedy spoločnosť prestala kriticky uvažovať

Ste informatik, softvérový vývojár a popularizátor umelej inteligencie. Viete asi najlepšie vysvetliť, čo si pod týmto pojmom máme predstaviť. Je umelá inteligencia všetka technológia okolo nás?

Umelá inteligencia znamená využitie počítačov na činnosti, ktoré predtým vyžadovali ľudskú inteligenciu. Naozaj sa nachádza už takmer v každom zariadení okolo nás. Predstavme si náš bežný deň. Keď ráno vstaneme a pozrieme sa na nové emaily v mobile, spam je odfiltrovaný pomocou umelej inteligencie. Generovaná je aj časová os na sociálnej sieti. Umelá inteligencia stojí aj za hudbou či filmami, ktoré nám ponúkajú streamovacie služby. Je v pozadí okolo nás bez toho, aby sme si to uvedomovali.

Deepfake videám sa venujete práve z pohľadu umelej inteligencie. Aj keď sa aktívne tvorbe týchto videí nevenujete, ovládate pre laika náročnú teóriu. Prečo ste sa rozhodli využiť ju v kampani?

Chcel som slovenskú verejnosť upozorniť na šírenie hoaxov, dezinformácií a lží, ktoré zosilneli špeciálne v čase pandémie. Napadlo mi, že by sme mohli rozšíriť naozaj „dokonalú lož“. Práve vďaka deepfake videám sa niečo také reálne dá spraviť. Ja som ovládal teóriu v rámci umelej inteligencie a proces, ako to funguje. Oslovil som partnera, operátora O2 a z myšlienky vznikla krásna osvetová kampaň.

Hlavným spotom kampane je deepfake video s moderátorkou Zlaticou Švajdovou Puškárovou. Jej slová v skutočnosti vyslovuje herečka Kristína Tormová. Ako toto video vzniklo?

Kristína bola nastylovaná podobne, ako býva na videách Zlatica. Keďže moderuje správy, materiálu, teda záberov s ňou, bolo neúrekom a vzali sme si, čo sa nám hodilo. Následne sme pomocou deepfake technológie vymenili tváre oboch dám. Urobili sme projekciu tváre Zlatice na Kristínu a od tohto momentu vyzeral každý pohyb Kristíny, akoby bol Zlaticin. Museli sme vyriešiť aj problém hlasu. Opäť sme vzali verejné zvukové záznamy Zlatice, vybrali sme slová, ktoré sa nám hodili, zlepili sme ich jedno za druhé a náš zvukár to nakoniec intonačne upravil tak, aby vety vyzneli prirodzene.

Aj vďaka známym tváram, ktoré pozná široká verejnosť, je cieľom poukázať, aké dôležité je zamyslieť sa nad tým, čo sledujeme. Podarí sa to?

To je ťažká otázka. Ja dúfam a predpokladám, že áno. Cielili sme na všetky vekové kategórie a veľmi ma potešila jedna vec. Nesúvisí to s tým, že by moja babka bola konšpirátorka, no po spustení kampane mi zavolala. Povedala mi, že netušila, čo je hoax, no po tom, ako ma videla v televízii, si tento výraz hneď našla na internete. Keď už len takýto malý krok spraví istá skupina ľudí, ktorá o klamstvách na internete netuší, bude to úspech.

Ako ľudia sme totiž naprogramovaní tak, že od prírody tomu, čo vidíme a počujeme, a priori veríme. Toto budeme musieť zmeniť a zapojiť kritické myslenie. Nestačí vidieť a uveriť. Je potrebné vidieť, zamyslieť sa nad tým, čo vidím a až následne uveriť.

Poučka hovorí, že deepfake je druh syntetických médií, ktoré boli zmanipulované alebo úplne vytvorené umelou inteligenciou. Čo to v praxi znamená?

Niečo obdobné sa používa aj pri cvičení športovcov, volá sa to nepriateľský tréning. Znamená to, že sú proti sebe dve umelé inteligencie. Jedna produkuje a druhá sa jej snaží vytknúť, že to má v niečom zle, až do tej chvíle, keď je to také dokonalé, že jej niet čo vytknúť. Pri deepfake to vyzerá nasledovne: umelá inteligencia, ktorá ju generuje, sa snaží vytvoriť čo najdokonalejšie fotorealistické video. Detektor sa zas snaží odhaliť, že je falošné. Pritom v každom opakovaní generátoru hovorí, kde robí chyby. Keď už nevie povedať, kde sa chyba nachádza a vyzerá to realisticky, hre je koniec a máme hotové video.

Kedy a prečo tento fenomén vznikol?

Deepfake pôvodne nevznikol s cieľom šíriť podvodné videá. Počítačový vedec Ian Goodfellow chcel v roku 2014 vymyslieť spôsob, akým by počítače dostali kreativitu, napríklad kreslili obrazy, produkovali hudbu a podobne. Vymyslel to naozaj geniálnym spôsobom.

Deepfake teda nie je žiadna novinka. Ako sa za tie roky vyvinul boj proti tejto manipulácii?

Sú rôzne možnosti. Jedna je technologická. Pri nej ide o to, aby sme vedeli overiť, či video prichádza od dôveryhodného zdroja, ako je napríklad televízia Markíza. Dá sa to spraviť pomocou technológie blockchain, na ktorej sú založené napríklad aj digitálne meny. V praxi by bol už pri vzniku videa pomocou kamery umiestnený neviditeľný vodoznak pomocou blockchain a následne, keby s videom niekto manipuloval, videli by sme to.

Po druhé existujú rôzne koncepty, pri ktorých umelá inteligencia odhaľuje inú umelú inteligenciu. To by som prirovnal k zbrojeniu medzi dvoma krajinami, aké kedysi mali ZSSR a USA, teda kto z koho. Takisto, ako sa zlepšujú detektory, sa budú zlepšovať aj generátory. Z dlhodobého hľadiska to riešenie nie je. Je to prekvapivé, no ultimátne riešenie je úplne jednoduché – musíme začať myslieť.

Aké sú príklady negatívnych deepfake videí, ktoré už narobili škodu?

Príkladov je veľa. Napríklad vo Francúzsku oklamali veľmi jednoduchými a lacnými deepfake videami istého finančníka. Poskytol im niekoľko miliónov eur. Myslel si, že ho človek z vlády žiada o tajné operácie.

Krátko nato, ako vymysleli deepfake, sa na americkej sociálnej sieti Reddit objavilo vlákno, ktoré bolo od človeka s menom „deepfake“. Začali v ňom pribúdať videá nevhodné pre maloletých s celebritami, ktoré tie veci v skutočnosti nikdy nerobili. A to je veľmi nebezpečné zneužitie. Hovorí sa, že lož prebehne polku sveta, dokiaľ ju pravda dobehne. Medzičasom sa môže zistiť, že osoba toto hanebné video nenatočila, no dovtedy tomu môže polovica sveta uveriť.

 


Čítajte viac: Radikálne vyhlásenie Zlatice Švajdovej Puškárovej o rúškach. Dá sa tomu vôbec uveriť?

Vy sa vo svojej práci snažíte využívať umelú inteligenciu na pozitívne účely. Ako sa dá takto využiť deepfake?

Nejaký šikovný marketér by to vedel využiť naozaj ukážkovo. Vezmime si napríklad nejakú firmu, ktorá vznikla, povedzme, okolo roku 1990, kedy natočili video s jej zakladateľom. Predstavme si, že dnes by z nej bola jedna z najväčších firiem na Slovensku. V deepfake videu, ktoré využije to spred vyše 20 rokov, bude zakladateľ firmy hovoriť o predpovediach do budúcna a teda súčasnosti. Vyzeralo by to veľmi dôveryhodne a bola by to skvelá reklama.

Alebo by bolo možné „oživiť“ známe osobnosti. U nás by bola pútavá napríklad prehliadka v múzeu Milana Rastislava Štefánika, pričom by návštevníkov sprevádzal samotný generál.

Pomocou deepfake by bolo možné vytvoriť dokonalý dabing, kde by pôvodní herci otvárali ústa presne podľa slov v nadabovanom jazyku.

Deepfake sa však dá využiť vo filmovom priemysle aj inak. V snímke Ír tvorcovia použili omladzovanie postáv inou, tradičnou technológiou CGI (angl. Computer generated imagery). Stálo to veľké peniaze a podľa mňa sa im to príliš nepodarilo. Naopak, tri mesiace nato anonymný youtuber použil technológiu deepfake a počas siedmich dní vytvoril vynikajúci výsledok. Vyzeralo to lepšie ako pôvodný film a v porovnaní s filmármi ho to dokopy nič nestálo.

Aj na Slovensku máme profesionála, ktorý sa aktívne venuje tvorbe deepfake videí. Poznáte sa osobne?

Nepoznáme sa, ale rád by som sa s ním zoznámil. Pravdepodobne nemá záujem vystupovať na verejnosti pod vlastným menom, známy je pod prezývkou Ctrl Shift Face. Pre mňa je to deepfaker svetového formátu, patrí do top desiatky ak nie ešte vyššie. Na svojom YouTube robí videá, klasické výmeny tvárí, veľmi realisticky a kvalitne. Z rozhovorov, ktoré som čítal, viem, že sa volá Tomáš, je z Trnavy a spolupracuje aj s filmovými štúdiami.

Hovoríte, že vaším cieľom je, aby ľudia na Slovensku znovu zapojili pri prijímaní informácií kritické myslenie. Aby sa znovu začali zamýšľať nad tým, čo vidia, počujú a čítajú. Keď hovoríte „znovu“ – kedy s tým prestali?

S príchodom audiovizuálnej techniky v 19. a 20. storočí. My ako ľudstvo sme boli po stáročia zvyknutí na to, že sme sa zamysleli nad tým, kto a čo povedal, či to mohol povedať a či má vôbec autoritu vyjadrovať sa v danej oblasti. Potom prišla táto technika a my sme začali slepo veriť tomu, čo vidíme a počujeme bez toho, aby sme sa zamysleli nad tým, či je to pravda. Prichádza čas vrátiť sa k tým starým dobrým časom a rozmýšľať.

Nepridali tomu asi ani sociálne siete, ktoré prišli o niečo neskôr.

V tejto problematike naozaj veľmi nepomáhajú. V prvom rade „zdieľanie“ príspevkov je tu veľmi jednoduché a napríklad pri článkoch si veľa ľudí prečíta iba nadpis. Ten je robený princípom „clickbait“, teda len s cieľom, aby naň kliklo za každú cenu čo najviac ľudí. Druhý problém je algoritmus, na akom fungujú. Majú záujem, aby tak používatelia trávili čo najviac času. Zisťujú, čo vás zaujíma a ponúkajú vám informácie, ktoré zodpovedajú vašim záujmom. Zaškatuľkujú vás tak do umelo vytvoreného priestoru a realita často uniká.

 


BRATISLAVA/Rebeka Kosečeková
Voyo

Sledujte Televízne noviny vo full HD a bez reklám na Voyo

Práve sa číta

TOP ČLÁNKY

Sledujte kanál spravodajstva Markízy

K téme Exkluzívne

Dôležité udalosti