Podle Kaplana se bude muset lidstvo do roku 2027 až 2030 rozhodnout, zda podstoupí konečné riziko a nechá jazykové modely se samovolně trénovat, což by prudce zrychlilo jejich vývoj a potenciálně vedlo ke zrodu obecné umělé inteligence (AGI).

Obecná umělá inteligence by se intelektem vyrovnala nebo by předčila i největší lidské kapacity. Lidstvo by nad svým vynálezem mohlo ztratit kontrolu.

Všeobecně se očekává, že AGI se dokáže trénovat a upgradovat sama bez potřeby lidského zásahu.

„Zní to jako docela děsivý proces,“ řekl Kaplan. „Nevíte, kde skončíte.“ Narážel na to, že svěřit takovou moc AI je hazard, který se nám může vymstít.

Začátek ztráty kontroly

Kaplan věří, že se nám podaří udržet umělou inteligenci v souladu s našimi zájmy na pracovním trhu, avšak varoval před strategií trénování jazykových modelů jinými modely, což činí člověka postradatelným. A už se to děje.

„To je věc, kterou vnímáme jako možná největší rozhodnutí nebo nejstrašlivější věc, kterou můžeme udělat,“ upozornil Kaplan. „Jakmile se do procesu nikdo nezapojí, tak nic vlastně nevíte. Ztratíte kontrolu? Víte vůbec, co zrovna umělá inteligence dělá?“

Jsou obavy na místě?

V poslední době před ztrátou kontroly v souvislosti s AI varovalo několik osobností z tohoto odvětví, včetně Sama Altmana z OpenAI. Někteří odborníci ale nevěří, že jsme blízko dosažení obecné umělé inteligence, a že tak daleko vůbec někdy dojdeme.

Nedávné studie ukázaly, že zázračný vliv AI na produktivitu je přinejmenším sporný a investice společností v oblasti AI dalece převyšují výdaje.

Jak upozornil server Futurism, varování osobností z oblasti AI jsou součástí celkového humbuku, který má odvést pozornost od skutečných problémů, jako jsou dopady umělé inteligence na životní prostředí, porušování autorských práv a dopady na lidskou psychiku a kognitivní zdraví.