Umělé inteligence se ve své schopnosti komunikovat s lidmi neuvěřitelně zlepšují. Nejnověji to předvedla trojice výzkumníků ze Singapuru. Prokázala, že podvodné e-maily napsané umělou inteligencí jsou přesvědčivější než ty, které píší lidé.

Čím dál inteligentnější

Na bezpečnostních konferencích Black Hat a Defcon v Las Vegas se zkoumaly spear phishingovové e-maily (podle spear fishing, tedy rybaření harpunou). Cílem těchto podvodných dopisů je vylákat z lidí citlivé údaje, například přístup k účtu v bance přes jméno, bydliště, pracoviště a další obecnější údaje.

Spear phishingovové e-maily zpravidla vypadají jako zprávy od úřadů, zaměstnavatelů, anebo bank. Informace, které žádají, vypadají na první pohled neškodné, podvodníkům však mohou pomoci k tomu, aby se dostali k dalším citlivým údajům.

Pokud byste předpokládali, že při činnosti, ve které je rozhodující lidský důvtip, umělá inteligence neobstojí, zle byste se přepočítali. Strojové učení – umělá inteligence, zabývající se algoritmy, které umožňují počítači „učit se“ – umí přizpůsobit každý e-mail „na tělo“ adresáta. A dokáže to dělat v masovém měřítku.

Singapurští experti pomocí strojového učení vytvořili spear phishingové e-maily a rozeslali několik stovek e-mailů s neškodnými odkazy kolegům a blízkým. Přitom se ukázalo, že umělá inteligence napsala výrazně lepší a uživatelům přizpůsobenější e-maily než lidé. A to vedlo k tomu, že lidé na jejich odkazy v e-mailech více klikali.

Komu pomůže umělá inteligence víc?

„Trénink strojového učení vyjde na miliony dolarů. Když ho ale nasadíte do akce, stojí jeho provoz jen pár centů, použití je snadné a systém může být nasazen v masovém měřítku,“ upozornil na webu Wired Eugene Lim, specialista na kybernetickou bezpečnost singapurské vládní agentury.

Co víc, ve světě kyberpodvodů je běžné "pronajímat" software pro různé podvodné skupiny. I vysoká investice by se tak mohla poměrně brzy vrátit.

Studie upozornila na nebezpečnou stránku strojového učení – mohlo by pomáhat kybernetickým zločincům. Cílem výzkumníků je však především „poznat nepřítele“ a přizpůsobit mu kybernetickou ochranu. Strojová učení budou moci jak útočit na lidi, tak je také chránit.

Otázkou je, na které straně bude umělá inteligence „inteligentnější“.

Ochrana každopádně začíná u jednotlivců. Národní úřad pro kybernetickou a informační bezpečnost vám proto doporučuje, abyste dodržovali tyto zásady ochrany před spear phishingem:

● Slepě neotevírat přílohy a odkazy v e-mailech,
● nepovolovat makra v programech,
● kontrolovat e-mailovou adresu v případě neobvyklých požadavků,
● při nejistotě nebo podezření kontaktovat IT oddělení
● a omezit sdílení informací o zaměstnání na sociálních sítích.