Nedůvěra, podezřívavost a nepřátelství k lidem, kteří nepatří do stejného kmene, etnika, nebo názorového proudu provází lidstvo odedávna. Moderní informační kanály jako sociální sítě, ale daly této temné stránce lidské přirozenosti nástroje k explozivnímu šíření.

Nenávistné internetové enklávy přitom mohou přitahovat, nebo radikalizovat přívržence nebezpečných ideologií a kupí se indicie, že jejich aktivita přímo souvisí s mírou následného fyzického násilí.

Nikoho tak nemůže překvapit, že se zástupci sociálních sítí i vědci z nejrůznějších oborů snaží vymyslet, jak šíření nenávistných myšlenek omezit. Nejnovějšími nápady předkládá skupina amerických fyziků, kteří analyzovali šíření extrémistických názorů a formování s nimi spojených skupin.

Jejich práce mimo jiné ukazuje, že některé rozšířené zásahy proti extremistům mohou šíření jejich myšlenek naopak podpořit. K žádoucím důsledkům naopak může vést několik sporných zásahů.

Sítě radikalizují

Není pochyb o tom, že řada násilných a teroristických útoků poslední doby měla temné internetové pozadí. Skupiny povzbuzující k násilí kvůli barvě pleti, původu, náboženství, bohatství, sexuální či politické orientaci jiných lidí přitahují společensky odstrčené jedince jako plamen můru. Mohou dále vyhrotit jejich názory a dodat rady či iniciativu potřebnou pro fyzický útok.

Kazatel Abú Tejma, který radikalizoval muslimy na sociálních sítích | zdroj: Profimedia

Jak navíc shrnuli zmínění fyzikové v článku v časopisu Nature, jeden výstřední názor často přivede člověka do komunity, která propaguje myšlenky ještě extrémnější.

Zvlášť náchylné jsou k podobnému chování sociální sítě vytvářející formální či neformální skupiny, jako například Facebook, VKontakte, nebo Telegram. Právě na jejich výzkum se vědci zaměřili.

Pokud k těmto myšlenkám nemá člověk kritický odstup, neodvratně ji přitáhne gravitace četných vzájemně propojených radikálních názorů. Vůbec přitom nevadí, že se zastánci jedněch názorů v jiných ohledech naprosto liší.

Radikální odpůrci Evropské unie se například rekrutují jak z neonacistických skupin, které by nejraději sjednotily Evropu pod jedním autoritativním vůdcem, tak z názorových proudů, které propagují absolutní nezávislost jednotlivých států. Přesto se ale volně prolínají.

Nadvládu bílé rasy propagují nacionalisté z USA i Ruska, kteří si ale jinak nepřijdou ani na jméno. Příkladem téhož může být odpor k LGBT ideologii, kterou šíří jak křesťanští a islámští fundamentalisté, tak komunističtí vědečtí ateisté. Nenávist na sociálních sítích jako by tvořila jeden obří propojený chuchel sestávající z řady propojených skupin nižší úrovně.

Vrátí se oknem

Výsledkem husté sítě vzájemných vztahů mezi radikálními skupinami je, že se jako celek chovají organicky. Při narušení, například ze strany správců sociální sítě, vykazují pružnost. Dalo by se říct, že když správci nějakou skupinu vyhodí dveřmi, vrátí se oknem. A když není volné okno, vezme to oklikou přes vedlejší dům – nebo, v tomto případě, vedlejší sociální síť, odlišnou jazykovou mutaci, nebo jiný kontinent.

Klasické zásahy proti šíření závadného materiálu mohou z tohoto důvodu vést k úplně opačným než zamyšleným důsledkům. Snahy o sebeušlechtilejší cenzuru mají za následek pouze upření zájmu na nepřijatelný názor. Zakazování celých skupin zase vede k tomu, že se vůdčí role ujmou tematicky podobné skupiny menší velikosti, skupina se zkopíruje z jiné sítě.

Vědci pomocí numerického modelu dokázali, že při velkém propojení různých sociálních sítí vede neodvratně zákaz řady skupin na jedné platformě k většímu propojení šiřitelů nenávisti na platformě sousední. Konečným výsledkem je tedy urychlení šíření nenávistných názorů, které může vést až k masivnímu propojení méně moderovaných sítí a vzniku kanálů nenávistných myšlenek.

Účinná řešení musí podle výzkumníků zapojovat správce ze všech provázaných sociálních sítí. První možností je cíleně rušit skupiny střední úrovně a až potom ty největší. Obnova takto poškozené sítě nenávistných skupin je daleko obtížnější.

Druhou možností je blokovat náhodnou část členů skupin. Tento zásah je nenápadný a vede ke zmenšení skupin, zpomalení přenosu nenávistného materiálu a snížení vzájemného propojení. Je ato ale sporný zásah, který je efektivní ze statistického hlediska, zároveň ale neměří všem stejným metrem.

Dál už však následují jen ještě kontroverznější možnosti.

Zatřetí lze proti sobě organizovaně postavit nenávistné skupiny a skupiny jejich odpůrců. Vznik druhých jmenovaných by dokonce sociální sítě mohly podporovat. Zůstává ale otázkou, jestli podobné cílené vyvolávání konfliktů nepovede k ještě větší radikalizaci obou skupin a dalšímu vyhrocení společenské diskuse.

Čtvrtou popisovanou možností je cílené přibližování či dokonce spojování nenávistných skupin, které v některých podstatných ohledech stojí proti sobě. Podobná manipulace by dokonce mohla zahrnovat i cílené vytváření skupin s určitým názorovým profilem, pomocí kterých by správci sítě mohli rozpad některých zvlášť nebezpečných skupin urychlit.

Je ale cílené vytváření kontroverzních skupin eticky ospravedlnitelné?

Recepty pro totalitáře?

Nejvýraznější problémy podobných zásahů nicméně studie vůbec nezmiňuje. Vytváření soupeřících tlup je s největší pravděpodobností v lidské přirozenosti. Nastanou na každé sociální síti umožňující vytváření skupin. Zásahy by tudíž měly směřovat spíše k omezení patologických jevů než tohoto jevu jako takového.

Autoři také v úvodu jemně naznačují, že by stejné strategie mohli správci sítí využít i při boji proti sebevraždám, obchodu s lidmi, nebo finančním podvodům. Ve skutečnosti by ale mohly omezovat šíření jakýchkoli názorů a myšlenek, které jsou pro své nositele tak podstatné, že na jejich základě tvoří organizované skupiny.

Otázka, na kterou zatím neznáme odpověď, tak je, kde leží hranice, za jakou už budou podobné zásahy neospravedlnitelné. S jistotou však platí, že různé totalitní a k totalitě směřující státy nebudou s použitím podobných zásahů váhat – pokud je už nepoužívají.

Zdroj: NF Johnson, R Leahy, N Johnson Restrepo, N Velasquez, M Zheng, P Manrique, P Devkota & S Wuchty (2019): Hidden resilience and adaptive dynamics of the global online hate ecology. Nature, online.