Internet stále více zaplavují texty a obrázky generované umělou inteligencí. Tento obsah paradoxně může představovat pro modely AI existenční hrozbu. Pokud se budou učit na vlastních datech, mohou degradovat, píše server Futurism.

S nadsázkou můžeme říci, že AI vykazuje kanibalské chování. S tím, jak se pořád více šíří internetem, se stále častěji „stravuje“ vlastním obsahem místo dat vytvořených člověkem, která jsou pro správné fungování technologie klíčové. 

Informace od AI jsou často nepřesné a v každé sadě dat jsou nějaké chyby. Čím více bude umělá inteligence čerpat z vlastních dat, tím více bude degradovat. Experti to vysvětlují jako smyčku opakujících se a posilujících chyb a omylů.

Ty budou růst z generace na generaci, mohou se zacyklit a vést až ke kolapsu AI modelů. Čím více obsahu na internetu od umělé inteligence bude, tím hůře se vyhneme její „erozi". A pokud to necháme zajít příliš daleko, „pomátne se“.

Jako hra na tichou poštu

Že bude AI odpovídat naprosté nesmysly, ukázal například výzkum, za nímž stojí Ilia Shumailov z týmu DeepMind společnosti Google. Umělá inteligence učící se na vlastních datech z generace na generaci „hloupne“ až do samotného kolapsu.

V podstatě se sama znečišťuje vlastním obsahem, čímž zhoršuje vlastní schopnost učit se, napsali odborníci v časopise Nature. Vědci to dokázali tím, že cíleně krmili jazykové modely daty tvořenými převážně obsahem AI.

Popsali to jako dětskou hru na tichou poštu. Jako by se zpráva zkreslovala hráče od hráče, v případě umělé inteligence generace od generace. Odborníci určili za kritickou generaci desátou, jež se učí na starších, mnohem hloupějších generacích.

Blouznění ale není jediným negativním vlivem digitálního kanibalismu. Programy AI čerpající z počítačových dat s každou další generací více a více zkreslují obrázky lidských tváří. V cyklu čtvrté generace AI generovala všechny tváře téměř identicky.

Autoři práce označili kolaps velkých jazykových modelů za nevyhnutelný, pokud se tedy nenaučíme filtrovat data vytvořená AI. Jelikož však kalí digitální vody a zatím nevíme, co s tím, jednoho dne může narazit na vlastní mantinely.