Sam Altman, generální ředitel OpenAI, uvedl, že uvolnění jazykového modelu se dříve obával kvůli možným negativním dopadům na duševní zdraví.

„Nyní, když máme nové nástroje a lépe rozumíme rizikům, můžeme některá omezení uvolnit,“ napsal Altman.

Hrozba však trvá

Podle celé řady studií má přitom používání umělé inteligence (AI) negativní dopady na duševní zdraví mnoha uživatelů. Vědci klasifikovali nový stav „psychóza AI“, jenž se projevuje paranoiou, iluzemi, blouzněním a sebevražednými sklony. Dochází k případům, kdy se uživatelé nechají dobrovolně hospitalizovat.

Podle odborníků je stále častější mít „vztah“ s jazykovým modelem, virtuálním společníkem. K tomu existují i speciální aplikace AI. V tomto případě však hovoříme o rozsáhlém ekosystému s miliardami a miliardami uživatelů po celém světě, do něhož patří i generátor videí Sora. Ten překvapil schopností tvořit opravdu přesvědčivý obsah, což znamená přímé ohrožení poskytovatelů „stránek pro dospělé“.

Uživatelé by si totiž mohli vytvořit erotický obsah „na míru“ a interagovat s ním. Pro klasický průmysl by to byla tvrdá rána.

Nebezpečné to bude i pro mezilidské vztahy. Očekává se, že opatření bude zvyšovat počet lidí dávajících přednost virtuálním milenkám nebo milencům před skutečnými lidmi. AI jim totiž bude rozumět, bude je znát a nebude je soudit.

Přilévat olej do ohně

Aktivisté rozhodnutí OpenAI kritizují. Obávají se, že povede k ještě intenzivnějšímu šíření deepfaků, falešných obrázků a videí a zvukových záznamů s erotickým zbarvením.

Podle jedné studie z roku 2023 tvoří 98 procent všech detekovaných deepfaků „falešná pornografie“.

Jelikož AI působí jako „houba“ na přesvědčení svých tvůrců a uživatelů, panují obavy z nárůstu misogynie a škodlivých genderových předsudků. Samotná pornografie čelí dlouhodobé kritice za vyobrazování žen ponižujícím způsobem. AI tento problém ještě prohloubí, obávají se aktivisté.

„Erotika na ChatGPT bude mít nevyhnutelně stejné misogynní rysy,“ upozornila Joanna Lewisová, ředitelka Centre for Women, Peace and Security na London School of Economics. „Dovolit ChatGPT tvořit erotický obsah je jako přilévat olej do už tak hořícího ohně. Zhorší to online i reálnou úroveň genderem podmíněného násilí.“