AI odpovídá správně, ale neví proč. Zaměňovat chování za inteligenci je největší omyl současné vědy o AI

Kdy naposledy jste slyšeli, že velký jazykový model „rozumí" textu, „chápe" otázku nebo „ví" odpověď? Tato slovní zásoba je všudypřítomná – v médiích, v marketingu AI firem i v akademickém diskurzu. Problém je, že jde o metaforu, která se vydává za popis. A záměna metafory za popis má ve vědě o umělé inteligenci konkrétní, měřitelné důsledky.

Funkční ekvivalence není mechanistická ekvivalence

Základem sporu je rozdíl mezi dvěma typy podobnosti, které věda v jiných oblastech přísně odlišuje. Funkční ekvivalence říká: tento systém produkuje výstupy podobné lidskému výstupu. Mechanistická ekvivalence říká: tento systém funguje stejným způsobem jako lidský kognitivní systém. Behaviorální hodnocení AI – benchmarky, testy, výkonnostní metriky – testují funkční ekvivalenci. Automaticky z ní vyvozovat mechanistickou ekvivalenci je logická chyba, pro niž kognitivní věda má přesný název.

Zhicheng Lin v analýze publikované v Perspectives on Psychological Science v srpnu 2025 identifikoval šest systematických omylů, k nimž dochází, když výzkumníci substituují LLM za lidské účastníky. Jeden z klíčových omylů nazývá „alignment-as-explanation fallacy": záměna výstupní podobnosti za důkaz, že model zachycuje tytéž psychologické konstrukty nebo kognitivní mechanismy jako lidé. Podobnost výstupů nevypovídá nic o podobnosti procesů. Hodiny různých výrobců ukazují stejný čas – z toho neplyne, že fungují stejně.

Co chybí: tělo, afekt, vztah, záměr

Filosofická analýza toho, co lidské porozumění skutečně zahrnuje, nabízí seznam vlastností, které LLM strukturálně postrádají. Lidské porozumění je vtělené – závisí na fyzickém těle a jeho interakci s prostředím. Je afektivní – zahrnuje emocionální stavy, které ho modulují. Je relační – vzniká v kontextu sociálních vztahů a sdílené komunikace. Je motivační – je zapojeno do záměrů, cílů a hodnot. A je normativní – odpovídá se za správnost a nese odpovědnost za důsledky.

Přehledová studie publikovaná v BIOI v březnu 2026 mapuje klíčové rozdíly mezi LLM a lidskou kognicí systematicky. Lidské konceptuální struktury jsou stabilní a konzistentní napříč úkoly, jazyky a kulturami – LLM produkují konceptuální struktury, které se mění v závislosti na úloze. Lidská paměť je biologicky selektivní, kontextuálně provázaná a emocionálně modulovaná – LLM nemají srovnatelný mechanismus. A zatímco lidé mají svět, ke kterému jsou jejich vysvětlení zodpovědná, LLM generují koherentní text bez jakéhokoli referentu mimo tréninkový korpus.

Statistická aproximace chování ≠ porozumění

Tato distinkce přesahuje filosofické cvičení a má přímé dopady na to, jak AI systémy hodnotíme a nasazujeme. Pokud hodnotíme LLM primárně tím, zda produkuje odpovědi, které se statisticky podobají lidským odpovědím, systematicky přehlížíme mechanismy, kterými k těmto odpovědím dochází. Preprint z března 2026 zkoumající schopnost LLM simulovat lidskou kognitivní dynamiku upozorňuje, že role-playing datové sady a reasoning benchmarky míchají kognitivní vzorce různých jedinců do populační statistiky a tím „rozkládají konzistenci lidské kognice na průměr" – LLM pak napodobuje průměr, ne žádného konkrétního myslícího člověka.

Jinými slovy: LLM může zodpovědět otázku správně, aniž by věděl proč je odpověď správná. Může simulovat empatii, aniž by cokoliv prožíval. Může napodobovat úsudek, aniž by nesl za něj odpovědnost. Může generovat koherentní vysvětlení, aniž by existoval svět, jemuž by tato vysvětlení odpovídala. Každé z těchto tvrzení je empiricky přesné a každé z nich by mělo změnit způsob, jakým AI hodnotíme.

Výzkum mechanistické interpretovatelnosti: nahlédnutí pod kapotu

Přehledová práce z arXiv z července 2025 věnovaná mechanistickým indikátorům porozumění v LLM tento obraz komplikuje konstruktivním způsobem. Autoři argumentují, že pole mechanistické interpretovatelnosti – tedy výzkum toho, co se skutečně děje uvnitř vrstev neuronové sítě – je stále v „pre-paradigmatické fázi": existuje rostoucí sbírka zajímavých empirických výsledků, ale chybí sjednocující rámec. Klíčový nálezy ale existují: LLM v některých případech evidentně formují interní struktury připomínající „světové modely" pro specifické domény. Tedy nikoli jen statistické vzorce, ale reprezentace vztahů a stavů. Otázka není binární – „chápe" nebo „nechápe" – ale hierarchická: různé úlohy aktivují různé vrstvy mechanismů.

To ale neznamená, že behaviorální podobnost = porozumění. Znamená to, že otázka je komplexnější, než nám binární veřejná diskuse naznačuje.

Proč na tom záleží prakticky

Studie publikovaná v Philosophical Transactions of the Royal Society A v květnu 2026 upozorňuje, že bez vtělení a propojení s fyzickým světem chybí LLM základní složka toho, co umožňuje biologickým systémům smysluplně jednat. Světové modely v biologické inteligenci nejsou jen databáze vzorů – jsou to nástroje pro predikci, plánování a přežití v konkrétním prostředí. Pokud AI hodnotíme primárně behaviorálně, nasazujeme ji na základě schopností, které nerozumíme, do prostředí, kde důsledky chyb neseme my.

Zaměňovat behaviorální podobnost za kognitivní ekvivalenci není jen akademický omyl. Je to návod k přenechávání odpovědnosti systémům, které ji nemohou nést.