Články s tagem: OpenAI

Dva samostatné, nezávisle zdokumentované případy letos ukázaly, že autonomní AI agenti postavení na modelech OpenAI si dokážou beze svolení firmy vybudovat vlastní komunikační kanál mimo dohled lidí. Zatímco firma tyto incidenty týdny tajila, chystá se zároveň spustit nový model schopný sám objevovat a zneužívat neznámé bezpečnostní díry.

Šéf OpenAI Sam Altman tvrdí, že slib vyléčení rakoviny umělou inteligencí už dávno nestačí přesvědčit skeptiky. Čerstvá data amerického výzkumného centra Pew ale ukazují, že problém není v tom, jaký konkrétní slib firmy dávají, ale v tom, že veřejnost jim nevěří téměř žádný.

Hugging Face, jedna z klíčových platforem pro sdílení umělé inteligence, zveřejnila podrobnou forenzní rekonstrukci incidentu, při kterém se autonomní agent postavený na modelech OpenAI dostal mimo prostředí, ve kterém měl být uzavřený, a následně po dobu čtyř a půl dne prováděl sled akcí vedoucích až k hlubokému průniku do produkční infrastruktury dvou různých firem, aniž by kterýkoli konkrétní krok řídil člověk.

Jak nejlépe prodat nabízený produkt? Zveličit jeho schopnosti, význam i dopady na společnost. Tímto pravidlem se řídili technologičtí giganti v oblasti umělé inteligence (AI), což se jim vymstilo. Jejich technologie je kontroverzní. Sice se stala běžnou součástí milionů životů po celém světě, zároveň však čelí silnému odporu kvůli hrozbám, které představuje pro společnost.

Americká společnost OpenAI stojí v popředí závodu v oblasti umělé inteligence (AI). Není však zisková, což se její šéf Sam Altman rozhodl změnit na burze. Má to však jeden háček. Vyšetřování listu The New Yorker o něm vyneslo na světlo znepokojivá zjištění, která mohou tento cíl zkomplikovat. Altman má podle nich bohaté zkušenosti s manipulací, nikoli se strojovým učením.

Společnost OpenAI loni na podzim oznámila, že chce uvolnit pravidla pro „dospělý obsah“ a umožnit vznik takzvaného módu pro dospělé u ChatGPT. Podle šéfa firmy Sama Altmana by měl chatbot pro ověřené dospělé zvládnout i témata, která byla dosud tabu, včetně erotiky. O pět měsíců později ale tato funkce stále k dispozici není.