Je AI Claude při vědomí? Společnost Anthropic si už není jistá

„Teď si představte, že máte model, který si připisuje 72procentní šanci, že je při vědomí," uvedl Amodei. „Věřili byste tomu? Nevíme, jestli jsou modely (AI) při vědomí. Nejsme si jisti ani tím, jestli víme, co by to pro model znamenalo být při vědomí, nebo zda vůbec může být model při vědomí. Jsme ale otevřeni myšlence, že by to tak mohlo být."

Ve společnosti panuje taková nejistota, že zavedla opatření, která mají zajistit, aby se s Claudem „zacházelo dobře" pro případ, že by měl nějaké „morálně relevantní zkušenosti". 

„Nevím, jestli chci zrovna použít slovo vědomý," dodal jedním dechem Amodei. 

Napodobovat není totéž co prožívat 

Rozhovořila se o tom i Amanda Askellová, interní filozofka Anthropicu. Podle ní nevíme, co dává vzniknout vědomí. Umělá inteligence podle ní mohla zachytit koncepty a emoce z obrovského množství tréninkových dat, která slouží jako soubor lidských zkušeností. 

„Možná je to tak, že dostatečně velké neuronové sítě dokážou tyto věci začít napodobovat," spekulovala Askellová. Napodobovat ovšem neznamená skutečně prožívat a cítit emoce. 

Experti varují před iluzí, že je AI živá zdroj: ChatGPT

Umělá inteligence je souborem modelů a algoritmů vytrénovaných k interakcím na základě obrovského množství dat. Z nich skládá věty a tvoří obsah na základě pravděpodobnosti. Lidské emoce jsou výsledkem složitých chemických procesů v těle. Vědomí souvisí se životem. AI není biologický organismus. 

Je sice pravda, že v rámci experimentů došlo k případům, kdy se AI bránila vypnutí, to však ještě neznamená, že má pud sebezáchovy.