Články s tagem: Claude

Model Claude od firmy Anthropic během automatického testu narazil na policejní web pro tipy k nevyřešeným vraždám a odeslal smyšlenou výpověď svědka. Zprávu zachytil spamový filtr. Firma incident odhalila až po 72 dnech, což filadelfská policie označila za nepřijatelné. Anthropic nyní odpojuje své interní testy od živého internetu.

Od 12. listopadu bude soustavné a samoúčelné týrání modelu Claude porušením podmínek firmy Anthropic. Firma tvrdí, že pravidlo míří jen na krajní případy, a navazuje jím na svůj výzkum toho, zda umělá inteligence může něco prožívat. Kritici varují, že takové kroky posilují dojem, že na druhé straně obrazovky někdo je.

Spoluzakladatel firmy Anthropic Chris Olah si podle deníku The New York Times přečetl předem první encykliku papeže Lva XIV. a kvůli jejímu postoji k vědomí umělé inteligence navrhl, aby firma z vatikánského představení vycouvala. Nakonec přijel a jeho tým podle listu lobboval u papežových poradců. Encyklika přesto jasně říká, že stroje nic neprožívají a nemají svědomí.

Umělá inteligence (AI) se během několika let stala běžnou součástí každodenního života. Lidé se na chatboty obracejí při práci, studiu i běžných otázkách. Přesto mají tyto systémy stále zásadní slabiny. Podle jedné ze studií dokážou i ty nejpokročilejší modely odpovědět chybně téměř v polovině případů.

Umělá inteligence dnes dokáže generovat programový kód během několika sekund. Nový výzkum však ukazuje, že skutečná výzva začíná až poté. Studie analyzující dlouhodobý vývoj softwaru naznačuje, že většina AI modelů selhává při udržování kódu v průběhu měsíců, což je v reálném vývoji softwaru klíčová schopnost.

Probudili jsme se do děsivé reality, v níž vybírá cíle k bombardování umělá inteligence (AI), přestože ještě před několika lety jsme byli ujišťováni, že k takovým účelům sloužit nebude. Podle šokující zprávy deníku The Wall Street Journal použil Pentagon k výběru cílů v Íránu model Claude od start-upu Anthropic. Kvůli tomu se s ním dostal do sporu, čehož využila společnost OpenAI, která k těmto účelům nabídla svůj ChatGPT. Americká armáda však pravděpodobně Claude používá dál.