S pompou začlenila společnost Microsoft strojové učení ChatGPT do svého vyhledávače. Vše ukazuje na to, že předčasně.

Kdopak to mluví

Chatbot ChatGPT je schopen odpovídat na záludné otázky nebo vytvářet texty, které mají hlavu a patu. Spolehnout se na něj však nedá.

MIT TECHNOLOGY REVIEWhttps://t.co/SQE4tY1xBH#MachineLearning, #ChatGPT
Why you shouldn’t trust AI search engines pic.twitter.com/psHinUFTdj

— Theophano Mitsa ☦️ (@theomitsa) February 14, 2023

Když Microsoft integroval chatbota do svého internetového vyhledávače Bing, vyslal tím jasný vzkaz: Google na váš dotaz vyhledá seznam patřičných stránek, kde můžete najít odpověď. Chatbotem poháněný Bing však na otázky přímo odpoví a ušetří vám čas.

Zkušenosti s chatbotem Microsoftu však ukazují, že na jeho odpovědi se spolehnout nedá. Je to poměrně hloupý generátor textu. Své odpovědi získává z obsahu internetu a dovede je umně zaobalit.

Pravda, občas může odpovědět na některé otázky tak dobře, že složí zkoušku medika či právníka. Čím víc se ale snažíte z AI vyhledávače dolovat odpovědi na složitější otázky, tím častěji algoritmus chybuje.

Platilo pro pro jeho prosincovou verzi a platí to také pro verzi integrovanou do vyhledávače Bing.

Rychlý Microsoft, váhavý Google

„Zhruba dvě sekundy poté, co Microsoft nechal lidi hrát si s jeho novým vyhledávačem, lidé začali dostávat některé nekonzistentní či přímo nesmyslné odpovědi,“ píše server MIT Technology Review v zhodnocení chatbotu. Mnohdy ChatGPT ve svých odpovědích citoval dokonce konspirační teorie.

Ačkoli starší a konzervativnější vyhledávač Googlu také není bez chyb a může doporučovat nevhodné odkazy, jeho prohledávání internetu je přímočařejší. Je tak mnohem méně náchylný na chyby.

Skutečnost, že problém není v Microsoftu či v OpenAI (vývojář a správce ChatGPT), ukazuje jiná nedávná událost, kdy v propagačním videu špatně odpověděl na otázku i podobný chatbotový vyhledávač na bázi umělé inteligence Bard od Googlu. Akcie společnosti v důsledku této chyby poklesly o 100 miliard dolarů.

Google před tím váhal s příchodem chatbotových vyhledávačů právě kvůli obávám z jejích chyb. Nástup ChatGPT (nyní Bing) ho však přiměl odkrýt karty dřív, než plánoval.

Technologie, která se teprve učí

„Důvod problému je jednoduchý: tato technologie jednoduše ještě není připravená k tomu, aby byla použita tímto způsobem v takovém měřítku,“ pokračuje článek MIT Technology Review a varuje:

„Jazykové modely umělé inteligence jsou notorickými bullshitery, kteří často prezentují nepravdy jako fakta. Dokážou skvěle předpovědět další slovo ve větě, ale nemají žádnou znalost toho, co věta skutečně znamená. Proto je neuvěřitelně nebezpečné kombinovat je s vyhledáváním, kde je zásadní, aby se fakta uváděla na pravou míru.“

Chatboty dokážou i nesprávnou informaci zabalit do smysluplně znějící odpovědi a zní přirozeně i sebejistě. Tím bychom se ale neměli nechat ukolébat.

AI konverzační vyhledávač je zatím experimentální nástroj. Současná selhání jazykových modelů ale nemusejí znamenat, že to je slepá ulička vývoje. Je nicméně předčasné na tento typ vyhledávačů sázet jako na to, co okamžitě sesadí z trůnu tradiční googlování.

MIT Technology Review cituje Margaret Mitchellovou, výzkumnou pracovnici v AI startupu Hugging Face, která má za to, že jedním ze způsobů, jak společnosti Google a Microsoft mohou zpřesnit shrnutí vyhledávání generovaná umělou inteligencí, je nabídka citací expertů. „Citace a odkazy na zdroje umožňují uživatelům lépe pochopit, odkud vyhledávač čerpá informace,“ říká Mitchellová.

Proč ale Microsoft vystartoval se svým chatbotem, byť je ještě v plenkách? „Společnost vsadila na to, že očekávání od služby Bing jsou tak nízká, že na několika chybách nebude záležet,“ analyzuje přistup firmy MIT Technology Review a upozorňuje:

„Microsoft má méně než desetiprocentní podíl na trhu online vyhledávání. Získat jen o několik procentních bodů více by pro něj znamenalo obrovskou výhru.“

Spojení chatbotových vyhledávačů s prohlížeči bude patrně pokračovat. A spolu s tím bude narůstat i zmatení mnoha uživatelů nad odpověďmi, kterých se jim dostává.