Studie prestižního německého Institutu Maxe Plancka, zveřejněná v odborném časopisu Journal of Artificial Intelligence Research, se zabývá tím, zda udržíme pod kontrolou umělou inteligenci.

Její závěr je skeptický, temný.

Jak ji zastavit?

Vědci ve studii analyzují superinteligentní umělou inteligencí (superinteligencí), což je systém schopný řešit libovolné problémy a dosahovat libovolných cílů mnohonásobně převyšujících lidskou úroveň.

Badatelé upozorňují, že jednou se umělá inteligence vyrovná člověku. Až se to stane, brzy nás bude schopna předehnat.

"Superinteligentní stroj ovládající svět zní jako sci-fi. Ale již existují stroje, které velmi specifický úkol umějí provádět, aniž by programátoři věděli, jak to dělají," říká jeden z autorů studie Manuel Cebrian.

V minulosti experti navrhovali jako řešení rizik plynoucích z autonomie superinteligence její simulaci. Dokud ale neznáme principy, na kterých bude superinteligence fungovat (snažíme se je pochopit simulací), nebudeme s to vytvořit ani simulaci. Ve finále se problém podobá snaze vytáhnout se za vlastní límec.

Tento problém tušili vědci už v minulosti. Navrhli proto jiné řešení – vytvořit pro superinteligenci jakési zákony, které by superinteligence nemohla překonat. Byly by vlastně obdobou Asimových univerzálních zákonů robotiky, které zní takto:

1. Robot nesmí napadnout lidskou bytost.
2. Robot musí poslouchat příkazy lidí, pokud to neodporuje pravidlu číslo 1.
3. Robot musí chránit sám sebe, svoji existenci, pokud to neodporuje pravidlům číslo 1 a 2.

Jenže s kreativitou a chytrostí se dají zákony obcházet. A právě superinteligentní počítač by měl mít kreativity na rozdávání. Asimovovy zákony či cosi na jejich způsob by tak nemusely být účinné.

Jedním z důvodů, proč autoři studie považují superinteligence za neovladatelné, stojí i na jednom z pilířů teorie počítačů z éry Alana Turinga - zakladatele informatiky, který žil v první polovině dvacátého století: Pokud by superinteligence měla vzniknout, ze své podstaty by mohla pochopit funkci jakýchkoli programů – což ale platí i pro programy, které by mohly superinteligenci zastavit.

"Jakýkoliv algoritmus určený ke zvládnutí superinteligance proto bude nespolehlivý," upozorňují analytici ve studii.

Dalším způsobem, jak omezit moc superinteligence, je přistřihnout jí křídla hardwarem. Třeba jí poskytnout slabší počítač, anebo jí omezit přístup k internetu.

Autoři ale i tuto možnost zavrhují jako nejistou - pokud se budeme snažit vytvořit umělou inteligenci chytřejší než člověk, proč se namáhat, když jí nakonec podrazíme nohy? Jestli se někdo bude snažit vytvořit superinteligenci, nebude mít přece zájem o její pomalejší já.

Bude nás superinteligence respektovat?

Lze vlastně říct, že libovolné strojové učení dneška, které se samo naučí provádět úkony, to dělá bez našeho pochopení. Pokud bychom věděli, jak lepší software naprogramovat, dávno bychom to udělali sami. My to však nevíme, a proto jsme vytvořili algoritmy, které se to učí samy.

Mohli bychom se snažit apelovat na etické normy umělé inteligence, ale ani tím si nová studie není jistá. Nevíme, jestli stroje budou s to chápat náš úhel pohledu a zda nás budou respektovat. Zjistíme to až v okamžiku, kdy superinteligentní entita vznikne.