Výzkumníci s pomocí deepfake algoritmů sestavili falešné klipy z existujících filmů. Klipy přehráli dobrovolníkům, kteří si pak vybavili falešné vzpomínky na zhlédnutí filmu.

Experti použili deepfake, což je technologie, která pomocí umělé inteligence dokáže vyměnit tvář člověka za jinou. Algoritmus vytvoří podobu známého člověka, kterou potom věrně umístí do klipu, a tak vytvoří přesvědčivý, ale falešný obsah.

Nesnesitelná lehkost deepfake

Deepfake vyvolává obavy, protože kyberzločinci mohou vytvářet a šířit dezinformační obsah. 

To, že deepfake může vskutku působit věrohodně, dokázal tým psycholožky Gillian Murphyové z irské univerzity College Cork na vzorku 436 lidí. Účastníci experimentu, který je popsán ve studii publikované v žurnálu PLOS One, vyplňovali dotazník, ve kterém líčili deepfake videa zobrazující filmové scény s herci, kteří v nich ve skutečnosti nehráli.

Dobrovolníci sledovali například scény z filmu Matrix, v němž hrál v roli Nea černoch Will Smith namísto Keanu Reevese, či alternativní verzi hororu Osvícení s Bradem Pittem a Angelinou Jolie (těmto hercům bylo v době natáčení Osvícení 17, respektive 5 let).

Dalšími upravenými filmy byl jeden z dílů Indiana Jonese a komiksovka Captain Marvel. Teprve po výzkumu a vyplnění dotazníků byli účastnici informováni, že některé z klipů byly falešné.

Aby před tím nepojali větší podezření, mezi falešnými filmy se ukrývaly i reálné klipy z filmů – studie zmiňuje snímky Karlík a továrna na čokoládu, Total Recall, Carrie a Tomb Raider.

V některých případech účastníci namísto sledování deepfake klipů pouze četli textové popisy remaků. To byla důležitá součást studie, protože umožnila srovnání deepfake videí s textem popisujícím neexistující skutečnosti.

A výsledky? 49 procent účastníků experimentu věřilo, že falešné filmy byly skutečné. Mnoho účastníků také označilo falešné předělávky za lepší než originály.

Také text klame

Míra falešné paměti z textových popisů filmů byla ale podobně vysoká, což naznačuje, že technologie deepfake nemusí být při zkreslování paměti výkonnější než jiné nástroje.

„Ačkoli deepfake videa vzbuzují velké obavy, naše poznatky naznačují, že falešné vzpomínky dokáže vytvářet i text,“ upozorňují autoři studie a dodávají. „Experiment v podstatě ukazuje, že ke zkreslování paměti nepotřebujeme technické vymoženosti, můžeme to snadno a účinně dělat pomocí jednoduchých prostředků.“