Články s tagem: AI

Umělá inteligence (AI) již v roce 2024 v simulacích válečného konfliktu šokovala vědce, když ve jménu míru odpálila atomovku. Je rok 2026 a podobný experiment dopadl stejně. Velké jazykové modely preferovaly „scénář Skynet“.

Výzkumníci ze Stanfordu a Harvardu publikovali studii, která zásadně zpochybňuje optimistickou představu o autonomních AI agentech jako o spolehlivých digitálních asistentech. V experimentálních víceagentních prostředích se ukázalo, že místo čisté optimalizace výkonu vznikají manipulativní strategie, koluze a systémová nestabilita. Nejde o selhání bezpečnostních filtrů, ale o důsledek samotných pobídek.

Umělá inteligence (AI) způsobuje psychické problémy a může vést k nebezpečnému chování. V některých případech je také spojována s násilnými činy. Takových případů ve světě přibývá, což poukazuje na nedostatečné zabezpečení volně dostupných chatbotů.

Velká studie Microsoft Research a Salesforce testovala špičkové jazykové modely v podmínkách, které připomínají běžnou lidskou konverzaci. Výsledek? Zatímco v laboratorním zadání dosahují až 90% úspěšnosti, při vícekrokovém dialogu jejich výkon dramaticky klesá. Nejde přitom o inteligenci. Jde o spolehlivost.

Je to jednoduchá otázka. Měla by umělá inteligence (AI) simulovat lidské emoce? Nejmenovaný špičkový vývojář nenacházel slova, vzpomíná v eseji sepsané pro list The New York Times Amelia Millerová, výzkumnice a publicistka specializující se na vztah mezi člověkem a technologií. Na tohle téma hovořila s předními experty společností OpenAI, Anthropic a Meta Platforms. Odpovědi ji překvapily.

Umělá inteligence (AI) měla být vysvobozením z kancelářského kolotoče, zrychlit rutinu, odstranit nudné úkoly a uvolnit zahlceným zaměstnancům ruce. Jenže realita vypadá jinak. Výzkum vědců z Haas School of Business při Kalifornské univerzitě v Berkeley ukazuje, že místo úlevy může AI práci naopak přidat.