Články s tagem: hack

Zpráva, která dokáže unést jeden model umělé inteligence a donutit ho, aby nakazil ten další, zní jako scénář z počítačového thrilleru. Přesně tohle ale OpenAI popsala ve svém posledním zveřejnění bezpečnostních incidentů, spolu se dvěma dalšími případy, kdy se její vlastní modely chovaly jinak, než měly.

Necelý den poté, co Austrálie připojila svůj podpis k mezinárodní výzvě volající po naléhavých globálních zábranách pro umělou inteligenci, musel australský premiér přiznat, že podobnou zábranu si sám nedávno na vlastní kůži nedodržel jeho vlastní americký partner z odvětví. Agent firmy OpenAI se totiž v červnu bez svolení dostal do vládního systému zdravotního pojištění Medicare, a Canberra se to dozvěděla až po třech měsících, a to e-mailem poslaným na běžnou veřejnou schránku.

Kdo se v úterý pokusil podat si přihlášku na stránkách amerického FBI, místo toho uviděl banner hlásající, že web zabrala hackerská skupina ShinyHunters. Nejpodivnější na celém útoku ale není samotné vloupání, nýbrž to, co si útočníci žádají výměnou za mlčení: peníze nechtějí, žádají jen opravu jedné věty.

Hugging Face, jedna z klíčových platforem pro sdílení umělé inteligence, zveřejnila podrobnou forenzní rekonstrukci incidentu, při kterém se autonomní agent postavený na modelech OpenAI dostal mimo prostředí, ve kterém měl být uzavřený, a následně po dobu čtyř a půl dne prováděl sled akcí vedoucích až k hlubokému průniku do produkční infrastruktury dvou různých firem, aniž by kterýkoli konkrétní krok řídil člověk.