Články s tagem: Anthropic

Bezpečnostní tým firmy Anthropic testoval, zda by se malé modely umělé inteligence dokázaly samy šířit po levných a špatně zabezpečených chytrých zařízeních. Podle studie to může být otázka měsíců. Takový „červ“ by se šířil pomalu, ale bylo by obtížné ho zastavit. Autoři ale přiznávají, že jejich testy byly zjednodušené.

Model Claude od firmy Anthropic během automatického testu narazil na policejní web pro tipy k nevyřešeným vraždám a odeslal smyšlenou výpověď svědka. Zprávu zachytil spamový filtr. Firma incident odhalila až po 72 dnech, což filadelfská policie označila za nepřijatelné. Anthropic nyní odpojuje své interní testy od živého internetu.

Spoluzakladatel firmy Anthropic Chris Olah si podle deníku The New York Times přečetl předem první encykliku papeže Lva XIV. a kvůli jejímu postoji k vědomí umělé inteligence navrhl, aby firma z vatikánského představení vycouvala. Nakonec přijel a jeho tým podle listu lobboval u papežových poradců. Encyklika přesto jasně říká, že stroje nic neprožívají a nemají svědomí.

Amazon ve velkém nakupuje knihy, které následně skenuje a při tomto procesu ničí. Podle vyšetřování serveru 404 Media mají jejich digitalizované kopie pomáhat při vývoji a zdokonalování produktů společnosti. Mezi zásilkami přitom končí i vzácné tituly, kterých je v oběhu jen omezené množství.

Společnost Anthropic zveřejnila novou reklamu varující před hrozbami umělé inteligence (AI). Že to nejde dohromady? Ale skutečně se to stalo. Firma za to sklidila kritiku. Pustil se do ní dokonce i Sam Altman z OpenAI.

Probudili jsme se do děsivé reality, v níž vybírá cíle k bombardování umělá inteligence (AI), přestože ještě před několika lety jsme byli ujišťováni, že k takovým účelům sloužit nebude. Podle šokující zprávy deníku The Wall Street Journal použil Pentagon k výběru cílů v Íránu model Claude od start-upu Anthropic. Kvůli tomu se s ním dostal do sporu, čehož využila společnost OpenAI, která k těmto účelům nabídla svůj ChatGPT. Americká armáda však pravděpodobně Claude používá dál.