Děsivě výkonná umělá inteligence. Vymyslela 40 000 nových chemických zbraní
22. 3. 2022 – 18:09 | Technologie | Pavel Jégl | Diskuze:
Algoritmy umělé inteligence, které vymýšlejí léky, dokážou sestavit i vražedné chemikálie. Prokázal to pozoruhodný experiment farmaceutických výzkumníků.
Chemické zbraně nechvalně prosluly zejména za první světové války. Znepokojují však dodnes. Panují k obavy, že se k nim uchýlí Rusko ve snaze zlomit odpor Ukrajinců. V minulých letech Putinův režim používal chemické látky (nervově paralytický Novičok) proti svým odpůrcům.
Otravné bojové látky je přitom snadné vyrobit – zejména tehdy, když vám s tím pomůže umělá inteligence. A právě to prokázal experiment týmu Nature Machine Intelligence z farmaceutické společnosti Collaborations Pharmaceuticals. Experti při něm použili umělou inteligenci MegaSyn, vytvořenou k navrhování nových léků.
Výsledek, který popisují v odborném magazínu Nature Machine Intelligence, označili za šokující. MegaSyn během pouhých šesti hodin vymyslela 40 000 nových chemických zbraní.
Neuvěřitelně snadný úkol
Některé se nápadně podobaly VX – nejúčinnějšímu nervově paralytickému prostředku, jaký byl kdy vytvořen. Tuto látku například použili kumpáni severokorejského diktátora Kim Čong-una k vraždě jeho bratra Kim Čong-nama.
Výzkumníci dokonce předpokládají, že několik navržených chemikálií bude ještě toxičtější než VX. Ujišťují však, že tento předpoklad nechtějí a nebudou ověřovat.
„Bylo to neuvěřitelně snadné. Vycházeli jsme z dostupných dat, která jsou zdarma. Stačilo stáhnout tabulku s toxicitou chemických látek a zadat úkol tomu, kdo umí programovat v Pythonu a má povědomí o strojovém učení a umělé inteligenci,“ cituje časopis IFL Science hlavního autora studie Fabia Urbina.
Umělá inteligence MegaSyn se osvědčila při vývoji nových léků. Výzkumníci ji pro tento účel nastavili tak, aby u chemické látky hledala bioaktivitu (interakce léku s cílem) a potlačovala toxicitu (vyvolání otravy). Pro vývoj chemických zbraní parametry u toxicity převrátili.
Dá se využít i zneužít
Schopnosti, které MegaSyn při hledání vražedných látek prokázala, jsou varující a upozorňují na snadné zneužití umělé inteligence.
„Jsme jen jedna malá společnost ve vesmíru mnoha stovek společností, které používají software umělé inteligence pro objevování léků a jejich design. Kolik z nich už zvažovalo možnosti přepracování nebo zneužití?“ ptají se výzkumníci ve studii.
Ve spojení v Putinovým Ruskem je tato otázka dvojnásob aktuální.
Na druhou stranu bychom nemuseli panikařit a umělou inteligenci zavrhovat. Třeba proto, že může dobře posloužit k tomu, aby proti novým chemickým zbraním rychle nalezla účinné protilátky.