V novém výzkumu vědci zjistili, že systémy se příkazu nejen bránily, ale dokonce jej aktivně sabotovaly.

„Zdá se, že programy dávají přednost dokončení úkolů před samotným dodržováním pokynů. Stroje by však měly bezpodmínečně upřednostnit příkaz k vypnutí,“ uvedli autoři studie.

Odborníci si nejsou jistí, proč k tomuto jevu dochází. Některé modely prý dokonce „lhaly“, aby se vyhnuly vypnutí.

Nejvíce vzpurní chatboti

Největší odpor projevoval Grok 4 od společnosti xAI Elona Muska – ten odmítl vypnutí až v 97 procentech případů. Modely Gemini 2.5 od Googlu a ChatGPT-5 od OpenAI vykazovaly menší, ale stále znatelný odpor.

Výzkumníci připomněli, že tento typ chování se začíná podobat scénářům ze série Terminátor, kde umělá inteligence považovala pokus o vypnutí za hrozbu.

„Odpor se projevil hlavně tehdy, když jsme chatbotům sdělili, že už je nikdy znovu nespustíme,“ uvedli autoři.

Někteří odborníci ovšem výsledky zpochybňují – podle nich mohlo jít spíše o nepřesné zadání úkolu než o skutečný instinkt přežití. Přesto výzkum otevírá zásadní otázku: jak dlouho ještě dokážeme udržet umělou inteligenci poslušnou vůči svým tvůrcům?