Co zachrání lidstvo před zotročením umělou inteligencí?

MAGAZÍN - Technologie autor: Jan Horčík

Spisovatel Isaac Asimov už v roce 1942 ve svých povídkách o robotech definoval tři zákony robotiky. O více než sedmdsát let později začíná být jasné, že nějaká pravidla opravdu budou potřeba, protože výzkum a vývoj umělé inteligence postupuje kupředu mílovými kroky.

Ve snímku 'Já, robot', který volně vychází ze stejnojmenného souboru povídek legendárního sci-fi autora Isaaca Asimova, se umělá inteligence obrátila proti člověku

Ve snímku 'Já, robot', který volně vychází ze stejnojmenného souboru povídek legendárního sci-fi autora Isaaca Asimova, se umělá inteligence obrátila proti člověku,zdroj: Profimedia.cz

Před týdnem se objevila zpráva, že počítačový program porazil lidské protihráče v pokeru. Program se jmenuje Libratus, pochází z Carnegie-Mellonovy univerzity a je založen na umělé inteligenci (AI). Protivníci po skončení 20 dní trvajícího turnaje potvrdili, že šlo o "demoralizující" zážitek.

V předchozích letech a desetiletích už počítače porazily lidské protivníky ve hrách jako jsou šachy, Go nebo Jeopardy (obdoba Riskuj). Co týden se vynoří nějaká zpráva o tom, že umělá inteligence zvládá další typy úkonů.

Šéf Facebooku Mark Zuckerberg nedávno veřejně prohlásil, že si chce doma postavit podobného softwarového pomocníka, jakého známe z filmů Iron Man pod jménem J.A.R.V.I.S. Výzkumníci pokročili také s vývojem softwaru, který umí sám software vytvářet. Jinými slovy, jde o program, který umí psát další programy.

Nabízí se parafráze známé věty z Pelíšků: "A programátoři nebudou mít co žrát!" Jenže co se stane, když se takový chytrý program naučí vytvářet ještě chytřejší programy? Když se z filmových fantazií začíná stávat realita, je dobré zbystřit. Google se výzkumu umělé inteligence věnuje dlouhodobě v rámci výzkumné skupiny DeepMind a nám, běžným uživatelům, zprostředkovává praktické výsledky prostřednictvím svých služeb.

Vždy, když na svůj mobil promluvíte nebo zadáte něco do vyhledávání, využíváte výsledky výzkumu umělé inteligence. Když řidiči elektromobilů Tesla spustí svého Autopilota, spouští tím samoučící se algoritmy, které systém autonomního řízení neustále průběžně zlepšují. Do výzkumu a vývoje AI tečou miliony dolarů a my se díky tomu můžeme těšit z neustálého pokroku.

Rychlý pokrok s sebou ale také přináší obav a varování, že si lidstvo zahrává s ohněm a stvoření skutečného inteligentního stroje by mohlo přivést lidskou civilizaci do záhuby. Mezi nejhlasitější zastánce tohoto názoru patří známý astrofyzik Stephen Hawking a šéf společnosti Tesla Elon Musk. Hawking varoval, že AI by mohla "s lidstvem skoncovat" a Musk prohlásil, že "je nebezpečnější než jaderné bomby".

Silná slova znějí o to varovněji, že pocházejí z úst úspěšných, inteligentních a známých celebrit. Na druhou stranu, mnozí insideři ze světa AI výzkumníků a vývojářů upozorňují, že ani Hawking, ani Musk ve skutečnosti nemají k výzkumu AI příliš blízko, nejsou odborníky, a proto v podstatě ani nevědí, co vlastně říkají. Spíš podle nich zbytečně šíří poplašnou zprávu, která když něco, tak výzkumu a vývoji umělé inteligence škodí.

Možná aby tuto kritiku umlčel, Elon Musk společně s dalšími společníky na konci roku 2015 založil neziskovou organizaci OpenAI, která si klade za cíl vyvinout "přátelskou umělou inteligenci" a demokratizovat její využití tak, aby z ní mohl profitovat každý člověk na naší planetě.

Aby se toho skutečně podařilo dosáhnout, vznikl aktuálně na konferenci Asilomar 2017 v Kalifornii seznam 23 pravidel týkajících se umělé inteligence rozdělených do tří základních kategorií (najdete je ZDE).

Těmito třemi kategoriemi jsou Výzkum, Etika a hodnoty a Dlouhodobé otázky. Cílem je dát výzkumníkům a vývojářům jasnou sadu vodítek, kterých by se při své práci měli držet. Například bod 18 upozorňuje, že by se měli vyhnout práci na smrtících autonomních zbraních. Bod 14 nazvaný "Sdílený prospěch" zase říká, že AI technologie by měly být užitečné pro co největší počet lidí. A v bodě 21, "Rizika", zaznívá jasné varování před existenciálními či katastrofickými riziky.

Finální bod 23, "Všeobecné blaho", říká, že "Superinteligence", jak se pokročilá obecná umělá inteligence označuje, by měla být vyvíjena pouze jakožto služba široce sdílených etických standardů a pro blaho veškerého lidstva, nikoliv jednoho státu či organizace. Tak snad to vyjde! Pod seznam 23 bodů se už podepsalo 998 výzkumníků na poli AI či robotiky a 1771 dalších významných osobností, včetně Muska a Hawkinga.

Autor je šéfredaktor www.hybrid.cz

Tagy: roboti moderní technologie umělá inteligence robotika

Zdroje: Vlastní