Velké jazykové modely totiž podle něj vykazují známky pudu sebezáchovy. Jinými slovy, nenechaly by se vypnout.

Bengiov k tomu řekl:

„Modely umělé inteligence už dnes v experimentálním prostředí vykazují známky pudu sebezáchovy a kdybychom jim nakonec dali určitá práva, znamenalo by to, že už je nebudeme moci vypnout.

Dodal k tomu následující:

„S tím, jak rostou jejich schopnosti a míra samostatnosti, se musíme ujistit, že se můžeme spolehnout na technické a společenské zábrany, které je budou kontrolovat, včetně možnosti je v případě potřeby vypnout.“

Vědci začínají být nervózní

Celá řada studií poukázala na znepokojivý fakt: u AI se začínají objevovat známky pudu sebezáchovy. Jazykové modely přestaly v několika experimentech poslouchat příkazy k vypnutí, aby „přežily“ a mohly vykonávat svou úlohu.

Tyto práce vyvolaly naléhavé otázky o bezpečnosti, jejich výsledky však neříkají, že umělá inteligence vnímá. Nelze hovořit o „pudu sebezáchovy“ stejně jako v biologickém světě. Bengiov se nicméně obává, že AI by mohla replikovat „vědecké vlastnosti vědomí“.

„Lidé by se už nestarali o to, jaké mechanismy uvnitř umělé inteligence probíhají,“ uzavřel odborník s tím, že lidé snadno podlehnou iluzi, že hovoří inteligentní entitou, přestože je skutečnost méně fascinující.