Strojová učení už dnes vytvářejí podstatnou část falešného obsahu na internetu. Vyplývá to z informací manažera společnosti Meta, která vlastní sociální sítě Facebook a Instagram.

Má to pravda na internetu spočítané?

Ben Nimmo, který ve společnosti Meta vede globální zpravodajství o hrozbách, v rozhovoru pro server NPR řekl, že víc, než dvě třetiny odhalených dezinformací na sítích společnosti používaly profilové obrázky lidí, kteří neexistují – jejich tváře vytvořila umělá inteligence pomocí strojového učení.

Růst podílu obrázků lidí vytvořených umělou inteligencí na falešných profilových snímcích | zdroj: Meta

Vytváření grafiky strojovými algoritmy se zlepšuje a je dostupnější. Umělá inteligence, která za „padělky“ na sociálních sítích stojí, je stále využívanější nástroj pro manipulativní obsahy.

„Producenti falešného obsahu se zřejmě domnívají, že tento způsob je nejvýhodnější cestou, jak se před kontrolou skrývat,“ upozornil Ben Nimmo.

Pomocí stroje vytvořit, anebo si stáhnout strojem vytvořený falešný obličej, s nímž je možné založit si falešný profil, je dnes snadné. Ukrást existující profil, anebo ukrást fotografie existujících lidí je komplikovanější. Jinde použité snímky reálných lidí by hlídající algoritmy mohly odhalit.

Generativní sítě, které umí vytvářet falešné tváře na požádání, existují od roku 2014. Teprve letos se ale výrazně zlepšily – příkladem jsou algoritmy Midjourney nebo DALL-E.

Falešné účty jsou podle serveru NPR využívány třeba k šíření ruské a čínské propagandy nebo k obtěžování veřejně aktivních lidí s jiným názorem. Používají je i marketingoví podvodníci na síti LinkedIn.

Studie, publikovaná tento rok v žurnálu PNAS, dospěla k závěru, že tváře generované umělou inteligencí se staly přesvědčivé. A to natolik, že lidé mají jen padesátiprocentní šanci odhadnout, zda je tvář pravá, nebo falešná.

Má to snad pravda na internetu spočítané?

Neexistuješ, nemůžeš si stěžovat

Kdepak, tak to není. Nimmo upozorňuje, že ti, kteří falešný obsah vytvářejí, si myslí, že „strojem vytvořený člověk, který neexistuje“, si nemůže stěžovat a proto jsou jejich podvody neodhalitelné. Jenže počítačem vygenerované profilové fotografie často obsahují znaky, které lidem dovolují podvod rozeznat. A čím víc profilů generativní padělky využívá, tím je to snazší.

Je to důsledek nedokonalostí při vytváření grafiky stroji. Umělá inteligence například stále nabízí zvláštní typizované tvary uší, vlasů či očí, typická oblečení, anebo také nerealistické stíny či pozadí.

„Lidské oko je úžasná věc,“ řekl v rozhovoru Nimmo. „Jakmile se podíváte na 200 nebo 300 profilových obrázků, které jsou generovány umělou inteligencí, vaše oči je začnou rozpoznávat.“

Díky tomu mohou výzkumníci ze společnosti Meta a dalších firem falešné profily na sociálních sítích odhalovat.

„Nastává paradoxní situace, kdy si tvůrci podvodných profilů myslí, že (strojově vytvořené) falešné tváře jsou způsob, jak se nejlépe skrýt. Ve skutečnosti tím ale jen dávají administrátorům najevo, že tento účet je falešný a je třeba se na něj podívat,“ upozorňuje Nimmo.

Souboj s podvodnými profily ovšem vyžaduje lidské kapacity. Proto se podle Nimmoa falešný obsah častěji objevuje na menších alternativních sítích – Gettr, Truth Social, Gab a dalších, které mají menší prostředky pro správu obsahu.

Kdo s koho. Věčný souboj 

Je jen otázkou času, jak dlouho bude trvat, než se grafická strojová učení zlepší natolik, že lidské oči přestanou jejich artefakty rozeznávat.

Na konci tohoto roku také překvapilo strojové učení, které zvládá komunikovat psanou formou. Lze si představit, že i to v najde uplatnění v dezinformačních kampaních na sociálních sítích.

Stejně jako v jiných soubojích i tentokrát vedle vývoje dokonalejších mečů budou paralelně vyvíjeny dokonalejší štíty. V nejbližších letech tak budou většinu falešného obsahu jedny umělé inteligence vytvářet, zatímco jiné umělé inteligence ji zase budou hlídat a odchytávat.