Generatívna AI priniesla aj technológie s problematickým, podvodným využitím. Najvýraznejším príkladom sú deepfakes, umelé médiá vytvárané v generatívnych súperiacich sieťach (GAN).
Ako vznikajú
Systém GAN tvoria dve súperiace siete: generátor, ktorý vytvára falošné obrazy či videá, a diskriminátor, ktorý sa snaží odhaliť, či je obsah pravý alebo falošný. V nepretržitom cykle sa navzájom zlepšujú, generátor v presvedčivosti, diskriminátor v detekcii. Výsledkom sú hyperrealistické syntetické médiá.
Spoločenské riziká
Technológia umožňuje šírenie dezinformácií, tvorbu falošného materiálu, sofistikované podvody (napríklad imitáciu hlasu) a vážne ohrozuje súkromie, bezpečnosť a dôveru. Historická zásada „vidieť znamená veriť“ prestáva platiť, deepfakes zneužívajú práve tie vzory (tváre, hlasy, pohyb), ktorým náš mozog evolučne dôveruje.
Daň luhára
Závažnejším následkom než jednotlivý falzifikát je daň luhára (liar’s dividend): samotná existencia deepfakes umožňuje spochybniť aj pravý dôkaz ako možný falzifikát. Pre spravodajské médiá je to existenčné riziko dôveryhodnosti; pre marketing asociácia s manipuláciou, ktorá môže vyvolať nedôveru voči akejkoľvek videoreklame.
Obrana
Detekcia deepfakes zaostáva za ich generovaním, len čo vznikne nová detekčná metóda, generatívne modely sa zlepšia, aby boli opäť neodhaliteľné. Preto je druhou líniou obrany mediálna gramotnosť a kritické myslenie verejnosti. Transparentné označovanie pôvodu obsahu je v tomto kontexte skôr nevyhnutnosťou než formalitou.