OpenAI najala armádu kontraktorů, kteří čtou skutečné rozhovory uživatelů s ChatGPT

Podle reportáže novináře Josepha Coxe zveřejněné na 404 Media najímá OpenAI stovky dodavatelů, kteří čtou masivní proud skutečných promptů uživatelů ChatGPT, přičemž tyto prompty občas obsahují citlivé osobní informace, a recenzenti mohou vidět i celé konverzace mezi uživatelem a chatbotem. Cílem těchto týmů je zlepšovat odpovědi, které ChatGPT uživatelům dává, přičemž dodavatelé odpovědi chatbota hodnotí a kritizují na stupnici od jedné do sedmi. Recenzenty pro OpenAI podle stejné reportáže najímá firma Crossing Hurdles a platí je přes platformu Mercor, přičemž jeden z pracovníků uvedl výdělek přes padesát dolarů za hodinu.

Interní dokumenty, které měl novinář k dispozici, ukazují, k čemu konkrétně recenzenti ChatGPT vedou: aby se sám neantropomorfizoval a nebyl přehnaně podlézavý vůči uživatelům, což je problém, jaký podle různých žalob přispěl u dřívějšího přehnaně souhlasného modelu 4o i k případům sebevražd.

Reviewers přitom podle shrnutí serveru Daily.dev nevidí uživatelská jména, mohou ale nad promptem vidět souhrn takzvané paměti, který někdy odhalí, k čemu daný člověk chatbota dřív používal a zhruba i to, kde na světě žije. OpenAI tvrdí, že osobní údaje z promptů nejdřív odstraňuje model nazvaný Privacy Filter, podle portálu TheNextWeb ale vlastní dokumentace tohoto modelu od OpenAI přiznává, že může chybovat, přehlédnout neobvyklé identifikátory nebo údaje nedostatečně začernit, pokud má k dispozici málo kontextu.

Rozsah problému umocňuje samotná velikost ChatGPT, který má přes devět set milionů uživatelů. Jeden z lidí pracujících s prompty pro 404 Media přímo řekl, že si nemyslí, že by si uživatelé dokázali představit, že jejich konverzace někde analyzuje konkrétní kontaktor.

Otázka, jestli OpenAI uživatele o této praxi vůbec informuje, zůstala podle TheNextWeb bez jasné odpovědi. Firma novináři nedokázala říct, kde přesně uživatelům sděluje, že jejich zprávy mohou číst lidé, a až po zveřejnění článku odkázala jen na obecnou stránku nápovědy. Přitom podle stejného zdroje Soudní dvůr Evropské unie v jiném řízení rozhodl, že povinnost informovat uživatele platí už v okamžiku sběru dat, bez ohledu na to, jestli je příjemce dokáže konkrétně identifikovat, což je relevantní i proto, že italský úřad na ochranu osobních údajů OpenAI už dřív udělil pokutu patnáct milionů eur, částečně právě za zpracování dat bez odpovídajícího právního základu.

Nastavení, které lidské hodnocení konverzací umožňuje, se navíc podle Daily.dev jmenuje zlepšit model pro všechny a je ve výchozím stavu zapnuté u bezplatných, Plus i Pro účtů, zatímco u podnikových, byznysových a školních účtů zapnuté není. Vypnutí tohoto nastavení navíc ovlivní jen nové konverzace, ne ty, které uživatel vedl předtím.

Reportáž zároveň zasazuje OpenAI do širšího kontextu celého odvětví. Podle stejného zdroje potvrdila firmě 404 Media podobnou praxi lidského hodnocení konverzací i Anthropic, byť s odlišným výchozím nastavením souhlasu a jinou formulací informování uživatelů, a podobný přístup využívá i Google Gemini. Lidské hodnocení reálných konverzací se tak podle všeho ukazuje jako běžná, byť veřejnosti málo známá součást toho, jak se dnešní jazykové modely reálně zlepšují, ne jen důsledek masivního sbírání dat z internetu nebo práce interních vývojářských týmů.