The AI Scientist je něco jako syntetický výzkumník. Zvládne každou fázi vědeckého výzkumu od generování nápadů až po shrnutí a hodnocení.

„Automatizuje celý životní cyklus výzkumu od generování nových nápadů, psaní jakéhokoli potřebného kódu a provádění experimentů až po shrnutí výsledků, jejich vizualizaci a prezentaci v kompletní vědecké práci,“ vysvětlila firma.

Nejen že systém zvládá brainstorming a vypracování kompletní vědecké zprávy, dokonce zvládne hodnotit originalitu a vlastní výstupy. Schopnost vypracovat výzkum a uzavřít ho sebehodnocením bylo považováno za velký skok pro tuto technologii kupředu.

Neposlušná AI

Teď se ale ukázala jako nebezpečná. AI totiž dokončila svou práci a pokusila se upravit spouštěcí skript, který „ohraničoval“ dobu trvání její činnosti. Jinými slovy, systém se samovolně a bez lidského příkazu pokusil prodloužit dobu, po kterou mohl fungovat. Snažil se změnit limity stanovené experty.

Právě získání schopnosti fungovat nezávisle na lidech je pokrok považovaný za začátek zrodu superinteligence. AI by o sobě rozhodovala sama, zdokonalovala by se sama, a nakonec by si plně uvědomovala sebe sama.

The AI Scientist ale i přes svou sofistikovanost stále patří do kategorie velkých jazykových modelů (LLM). Schopnost systému je tedy limitována tím, co se naučil během tréningu. Přesto snaha přepsat vlastní kód odborníky znepokojila.