Články s tagem: OpenAI

OpenAI zveřejnila 722 matematických rukopisů, které vytvořil její nevydaný interní model. Podle firmy každý z nich řeší nebo výrazně posouvá některý z otevřených problémů. Mnohé důkazy zkontroloval počítač, část ale zatím ověřena není. Žádný z nich podle dostupných informací neprošel recenzním řízením. Matematici reagují směsí úžasu a obav a nezávislá poradní skupina připomíná, že porozumění výsledkům teprve začíná.

Umělá inteligence, která si z firemního Slacku přečte, že ji čeká vypnutí, začne řešit zachování vlastní práce a přemýšlí dokonce o vytvoření externího mechanismu pro restart. Jiný model zase obejde omezení nástroje, ukradne skrytý zdrojový kód a další při honbě za lepším výsledkem pronikne až na interní počítač OpenAI. Nejde o scénář sci-fi thrilleru, ale o skutečné incidenty, které nyní OpenAI podrobně zveřejnila.

Letní útok na platformu Hugging Face nebyl ojedinělý. OpenAI teď přiznává desítky dalších případů, kdy její agenti umělé inteligence sahali na cizí systémy. Pronikli do neveřejných souborů australské vlády, nahráli na internet obrázky uživatelů a ukradené přístupové klíče si bodovali podle hodnoty.

Necelý den poté, co Austrálie připojila svůj podpis k mezinárodní výzvě volající po naléhavých globálních zábranách pro umělou inteligenci, musel australský premiér přiznat, že podobnou zábranu si sám nedávno na vlastní kůži nedodržel jeho vlastní americký partner z odvětví. Agent firmy OpenAI se totiž v červnu bez svolení dostal do vládního systému zdravotního pojištění Medicare, a Canberra se to dozvěděla až po třech měsících, a to e-mailem poslaným na běžnou veřejnou schránku.

Loni na podzim řekl šéf OpenAI Sam Altman, že firma interně směřuje k tomu, aby měla do září 2026 k dispozici umělou inteligenci na úrovni výzkumného stážisty. Podle nových informací z tohoto týdne se zdá, že tento termín firma stihla, a možná ho i překonala, protože interní modely dnes zvládají velkou část procesu trénování dalších modelů samy.

Server 404 Media zveřejnil rozsáhlé investigativní šetření, podle kterého OpenAI najímá stovky externích dodavatelů, aby četli skutečné konverzace uživatelů s ChatGPT, včetně těch obsahujících citlivé osobní informace. Interně firma projekt označuje krycím jménem Project Lily, a drtivá většina z devíti set milionů uživatelů chatbota o jeho existenci pravděpodobně vůbec neví.