Čtyři roky od vypuknutí pandemie nás nemoc covid-19 stála asi 7 milionů životů a více než 12 bilionů dolarů. Připravit na další pandemie nás má pomoci umělá inteligence (AI), která může zajistit, že příště zabijí mnohem méně lidí – anebo mnohem více.

Umělá inteligence má potenciál spustit revoluci v boji proti patogenům, ať už hovoříme o detekci, léčbě, prevenci nebo reakci na hrozby potenciálně nebezpečné pandemie.

Co když ale může spustit ještě horší pandemii? Tato rizika zkoumali experti v několika posledních letech. Petice odborníků nedávno publikovala v časopisu Nature článek, v němž varovala před hrozbami zneužití AI bioteroristy.

Aby vědci pochopili, jak bojovat proti určitému viru, musí nejprve pochopit jeho vlastnosti. A umělá inteligence je klíčem k pochopení virů. Umožnila například vědcům popsat změny v dědičné informaci, které potřebuje virus SARS-CoV2, aby zdolal lidskou imunitu. Tato informace posloužila při výrobě vakcín proti jeho různým variantám.

Ve špatných rukou by však mohla AI pomoci takový vir upravit a učinit z něho smrtící zbraň ve jménu bioterorismu. Odborníci zmiňují celou řadu hrozeb nejen pro lidi, ale i pro zvířata nebo rostliny. Umělá inteligence podle nich může designovat nové viry schopné obejít lidský imunitní systém nebo mikroby se schopností přeskakovat mezi různými druhy živočichů a způsobovat pandemie po celém světě.

Jak se chránit 

Takový bioterorista by mohl nakrmit nové AI obrovským souborem dat a „vyškolit“ je k tvorbě nebezpečných virů schopných rychlého a bezproblémového šíření populací. Choroboplodné zárodky by navíc mohl upravovat tak, aby napadaly třeba jen určitou část populace.

Před nebezpečím „chytré pandemie“ varoval již minulý rok spoluzakladatel Google DeepMind Mustafa Suleyman. „Nejčernějším scénářem je, že lidé budou experimentovat s umělými syntetickými patogeny, které by mohly být přenosnějšími nebo smrtelnějšími,“ citoval jeho slova list The Independent.

Mustafa upozornil, že je nutné omezit přístup k vysoce pokročilým modelům AI a softwarům schopným modifikovat patogeny. „To je oblast, kde potřebujeme kontrolu. Musíme omezit přístup k nástrojům a know-how potřených k provádění tohoto typu experimentování,“ domnívá se.

„Výzkum využívající umělou inteligenci může způsobit nesmírné škody, pokud bude využit k tvorbě choroboplodných mikrobů se znepokojivými novými vlastnostmi,“ píšou odborníci na úvod článku v Nature. „Abychom tomu zabránili, potřebujeme lepší spolupráci mezi vládami, vývojáři AI a odborníky na biologickou bezpečnost.“

Server Foreign Policy ještě zmiňuje důležitost transparentnosti států, mnohastranných institucí a soukromého sektoru v ochraně proti pandemiím způsobeným člověkem, včetně těch zaviněným AI, implementace standardů biologické bezpečnosti založených na vědeckých výzkumech a rovněž investic do biologické bezpečnosti.