Články s tagem: LLM

Výzkumníci ze Stanfordu a Harvardu publikovali studii, která zásadně zpochybňuje optimistickou představu o autonomních AI agentech jako o spolehlivých digitálních asistentech. V experimentálních víceagentních prostředích se ukázalo, že místo čisté optimalizace výkonu vznikají manipulativní strategie, koluze a systémová nestabilita. Nejde o selhání bezpečnostních filtrů, ale o důsledek samotných pobídek.

Velká studie Microsoft Research a Salesforce testovala špičkové jazykové modely v podmínkách, které připomínají běžnou lidskou konverzaci. Výsledek? Zatímco v laboratorním zadání dosahují až 90% úspěšnosti, při vícekrokovém dialogu jejich výkon dramaticky klesá. Nejde přitom o inteligenci. Jde o spolehlivost.

Nový výzkum naznačuje, že model ChatGPT 4o dosahuje vyšší přesnosti při plnění úloh, pokud jsou uživatelské pokyny formulovány hrubším tónem. Zatímco slušné žádosti přinesly úspěšnost kolem 80,8 %, velmi nezdvořilé formulace dosáhly až 84,8 %