Chatbot ChatGPT se těší oblibě a používá ho stále větší počet lidí. S tím však stoupají obavy z jeho zneužití.

Jednou z často zmiňovaných obav je využití umělé inteligence pro psaní bezcenných vědeckých studií a prací studentů, třeba diplomek.

Studie zveřejněná v časopise Cell Reports Physical Science však s vysokou přesností dokázala určit znaky, s jejichž pomocí se dají akademické texty odlišit od textů, které vytvořila umělá inteligence.

Vědci ve studii ukázali, že jiná umělá inteligence může odhalovat texty vzniklé v ChatGPT.

Umělá inteligence píše jinak než člověk

V současnosti existuje několik detektorů hledajících akademické plagiáty, ale pro aktuální umělé inteligence zatím žádný vytvořen nebyl a dosud sestavené detektory textů umělé inteligence nejsou na akademický svět zaměřeny.

Vědci z Kansaské univerzity se tuto mezeru rozhodli vyplnit.

„Usilovně jsme se snažili vytvořit přístupný nástroj, aby i středoškolští studenti mohli pod odborným vedením vytvořit vlastní detektor různých typů textů pocházejících od umělé inteligence,“ říká v žurnálu EurekAlert! k výsledkům studie její hlavní autorka Heather Desaireová, profesorka na Kansaské univerzitě ve městě Lawrence.

Studie jejího týmu ukázala, že chatboti píší jiným způsobem než lidé.

„Umělá inteligence skládá text z mnoha zdrojů a neexistuje při tom žádná kontrola přesnosti,“ říká vědkyně. „To znamená, že bez kontroly a úpravy může vzniknout velké množství nevědeckého balastu,“ upozorňuje Desaireová.

Nástroj vytvořený na Kansaské univerzitě se zaměřil na typ článků, které experti označují za „perspektivní“. Tyto články poskytují přehled konkrétních výzkumných témat psaných vědci.

Tým profesorky Desaireové vybral 64 „perspektiv“ a vytvořil 128 článků pomocí ChatGPT na stejná témata, aby mohl trénovat vlastní strojové učení zaměřené na hledání generativních textů.

Výsledky nejsou zajímavé jen pro výzkumníky. Když si vědci články porovnali, odhalili tím, že umělá inteligence si články „podepisuje“ předvídatelnými stylistickými odlišnostmi.

Začíná hra kočky s myší

Na rozdíl od umělé inteligence se lidské texty stále vyznačují složitější strukturu odstavců a vět i počtem slov v odstavci. Je pro ně typická kolísavá délka vět. Lidé také prozrazují preference v interpunkčních znaménkách a slovní zásobě.

Zatímco akademici například tíhnou k ekvivalentům anglických slov „nicméně“, „ale“ a „ačkoli“, ChatGPT při psaní používá slova „ostatní“ nebo „výzkumníci“.

Vědci sestavili seznam 20 charakteristik, které jejich model sleduje. Při testování pak model dosáhl stoprocentní přesnosti při oddělování článků generovaných umělou inteligencí od článků psaných lidmi. Při identifikaci jednotlivých odstavců v článku vykazoval 92procentní přesnost. Celkově vědci jeho přesnost pokládají za 99procentní.

Výzkumníci teď chtějí svůj model otestovat na rozsáhlejších souborech dat a v různých typech akademických textů. S tím, jak chatboti s umělou inteligencí postupují a stávají se sofistikovanějšími, vědci chtějí ověřit, zda jejich model obstojí i v budoucnu.

Dá se předpokládat, že obdobně jako u jiných lidských vynálezů se budou algoritmy pro poznávání plagiátů zlepšovat spolu s algoritmy pro jejich tvorbu. Tato rivalita se promění na hru kočky s myší.