Svoboda projevu vs. moderace na internetu – kde je hranice?

Fundamentální konflikt digitální éry

Internet sliboval demokratizaci informací a vytvoření globálního fóra, kde může každý svobodně vyjádřit svůj názor. Po třech dekádách masového rozšíření se však ukázalo, že neomezená svoboda projevu online může vést k dezinformacím, nenávisti, radikalizaci a reálnému násilí. Zároveň moderace obsahu – ať už státní nebo soukromá – vyvolává obavy z cenzury, politické manipulace a potlačení legitimní kritiky.

Kde leží hranice mezi ochranou svobody slova a prevencí škod? Kdo má právo rozhodovat o tom, co smí a nesmí být řečeno online? A jak zajistit, aby pravidla nebyla zneužita k umlčování nepohodlných hlasů?

Tento článek analyzuje právní rámce, technologické mechanismy, filozofické dilema a praktické případy konfliktu mezi svobodou projevu a moderací obsahu na internetu. Zaměřuje se na současný stav (2025), historický vývoj a možné budoucí scénáře.

I. Právní a filozofické základy svobody projevu

Mezinárodní právní rámec

Všeobecná deklarace lidských práv (1948):

• Článek 19: „Každý má právo na svobodu přesvědčení a projevu; toto právo zahrnuje svobodu zastávat přesvědčení bez ohledu na hranice a vyhledávat, přijímat a rozšiřovat informace a myšlenky jakýmikoli prostředky a bez ohledu na hranice.“
• Kontext: Reakce na totalitní režimy 20. století
• Limity: Deklarace není právně závazná, ale inspirovala národní ústavy

Mezinárodní pakt o občanských a politických právech (ICCPR, 1966):

• Článek 19(2): Právo vyhledávat, přijímat a šířit informace
• Článek 19(3): Povolené restrikce:
• Ochrana práv druhých (reputace, soukromí)
• Ochrana národní bezpečnosti, veřejného pořádku, zdraví nebo morálky
• Článek 20: Zákaz propagandy pro válku a podněcování k nenávisti

Evropská úmluva o lidských právech (ECHR, 1950):

• Článek 10: Svoboda projevu s možnými omezeními pro:
• Národní bezpečnost, územní celistvost
• Prevenci nepokojů nebo zločinu
• Ochranu zdraví, morálky, reputace, práv druhých
• Judikatura ESLP: Tisíce rozhodnutí vyvažujících svobodu projevu a jiné práva

Národní přístupy: Tři modely

1. USA: First Amendment a téměř absolutní ochrana

Právní základ:

• První dodatek ústavy (1791): „Kongres nesmí vydávat zákony… omezující svobodu slova nebo tisku“
• Interpretace: Velmi široká ochrana, i pro nenávistný nebo urážlivý projev
• Výjimky (úzce definované):
• Přímé podněcování k bezprostřednímu násilí (Brandenburg v. Ohio, 1969)
• Pravdivá hrozba (true threat)
• Obscénnost (Miller test, 1973)
• Pomluva (defamation) – ale s vysokým důkazním břemenem pro veřejné osoby

Klíčové principy:

• „Marketplace of ideas“: Pravda zvítězí v otevřené debatě
• Ochrana i nepopulárního projevu: Včetně nacistických pochodů (Skokie, 1977)
• Nedůvěra vůči státní cenzuře: Historická zkušenost s britskou kontrolou tisku

Limity:

• První dodatek se vztahuje pouze na státní aktéry, ne soukromé společnosti
• Sociální média mohou legálně cenzurovat obsah (Section 230 – viz níže)

2. Evropská unie: Vyvážení práv a ochrana důstojnosti

Právní rámec:

• Charta základních práv EU (2000): Článek 11 (svoboda projevu) + Článek 1 (lidská důstojnost)
• Národní zákony: Většina členských států kriminalizuje:
• Popírání holocaustu (Německo, Francie, Rakousko)
• Nenávistný projev (hate speech)
• Urážku hlavy státu (některé země)

Filozofie:

• Militant democracy: Demokracie se musí bránit proti těm, kdo by ji zničili
• Historická zkušenost: Nacismus, fašismus – svoboda projevu byla zneužita k jejich vzestupu
• Důstojnost jako základní hodnota: Některé projevy jsou neslučitelné s lidskou důstojností

Praktické důsledky:

• NetzDG (Německo, 2017): Sociální média musí odstranit nezákonný obsah do 24 hodin (pokuta až 50 mil. €)
• Digital Services Act (EU, 2022): Harmonizace pravidel pro moderaci obsahu

3. Autoritářské režimy: Kontrola jako nástroj moci

Čína: „Great Firewall“ a digitální suverenita

• Kybernetický zákon (2017): Povinnost ukládat data v Číně, spolupráce s cenzurou
• Sociální kredit: Hodnocení občanů včetně jejich online chování
• Cenzurované témata: Tchien-an-men, Tibet, Ujgurové, kritika KSČ
• Technologie: AI pro automatickou detekci „citlivého“ obsahu

Rusko: „Suverénní internet“

• Zákon o „falešných zprávách“ (2019): Kriminalizace „nedůvěryhodných informací“
• Zákon o „neúctě k státu“ (2019): Trestné urážky úřadů
• Blokace: Twitter (X), Facebook, Instagram (od 2022)

Turecko, Írán, Severní Korea: Podobné modely státní kontroly

II. Technologické platformy jako moderátoři projevu

Vzestup „digitálních náměstí“

Statistiky (2025):

• Facebook/Meta: 3+ miliardy uživatelů
• YouTube: 2,5+ miliardy uživatelů
• X (Twitter): 500+ milionů uživatelů
• TikTok: 1,5+ miliardy uživatelů
• WhatsApp, Instagram, WeChat: Miliardy uživatelů

Koncentrace moci:

• 5 společností (Meta, Google, Apple, Amazon, Microsoft) kontroluje většinu online komunikace
• Více uživatelů než má jakýkoli stát
• Větší vliv na veřejný diskurz než tradiční média

Section 230: Základ amerického internetu

Communications Decency Act, Section 230 (1996):

Text:

„Žádný poskytovatel nebo uživatel interaktivní počítačové služby nesmí být považován za vydavatele nebo mluvčího jakýchkoli informací poskytnutých jiným poskytovatelem informačního obsahu.“

Význam:

• Platformy nejsou odpovědné za obsah uživatelů (na rozdíl od tradičních vydavatelů)
• Mohou moderovat obsah bez ztráty ochrany („Good Samaritan“ klauzule)
• Umožnilo vznik sociálních médií: Bez Section 230 by platformy musely předem schvalovat veškerý obsah

Kritika:

• Zleva: Platformy nedělají dost proti dezinformacím, nenávisti
• Zprava: Platformy cenzurují konzervativní názory
• Bipartisan konsensus: Section 230 potřebuje reformu (ale žádná shoda na jak)

Reformní návrhy:

• Podmínit ochranu dodržováním standardů moderace
• Zrušit ochranu pro algoritmy (doporučování obsahu)
• Rozlišit podle velikosti platformy

Evropský model: Digital Services Act (DSA)

Nařízení EU 2022/2065, účinné od února 2024:

Klíčové prvky:

1. Kategorizace platforem:

• Velmi velké platformy (VLOP, 45+ mil. uživatelů v EU): Přísnější pravidla
• Menší platformy: Mírnější požadavky

1. Povinnosti transparentnosti:

• Zveřejnění pravidel moderace
• Zprávy o odstraněném obsahu (počty, kategorie)
• Přístup výzkumníků k datům

1. Systém odvolání:

• Uživatelé mohou napadnout rozhodnutí o odstranění obsahu
• Mimosoudní řešení sporů

1. Rizikové hodnocení:

• VLOP musí analyzovat systémová rizika (dezinformace, nenávist, manipulace)
• Opatření k mitigaci rizik

1. Zákaz některých praktik:

• Dark patterns (manipulativní design)
• Cílená reklama na děti
• Profilování na základě citlivých dat

Sankce:

• Až 6 % globálního obratu za porušení

Kritika:

• Technologické firmy: Nadměrná regulace, ohrožení inovací
• Aktivisté: Nedostatečná ochrana proti dezinformacím
• Otázka jurisdikce: Může EU regulovat globální internet?

III. Moderace obsahu v praxi: Mechanismy a problémy

Automatizovaná moderace: AI jako cenzor

Technologie:

1. Keyword filtering: Blokování specifických slov/frází

• Problém: Kontext – „gay“ může být urážka i neutrální popis
• False positives: Blokování legitimního obsahu (Scunthorpe problem)

1. Hash matching: Detekce známého nezákonného obsahu (CSAM, teroristická propaganda)

• PhotoDNA (Microsoft): Digitální otisky obrázků
• Efektivní pro známý obsah, neúčinné pro nový

1. Machine learning klasifikátory:

• Trénování na označených datech (hate speech, spam, násilí)
• Přesnost: 80–95 % (podle kategorie)
• Problémy:
  • Bias v trénovacích datech (rasové, kulturní předsudky)
  • Selhání u sarkasmu, ironie, kontextu
  • Adversarial attacks (obcházení detekce)

1. Multimodální AI:

• Analýza textu + obrázků + videa + audio
• GPT-4, Claude, Gemini používány pro moderaci
• Pokrok, ale stále nedokonalé

Statistiky moderace (Facebook, 2024):

• 95 % nenávistného projevu odstraněno automaticky (před nahlášením)
• Miliardy kusů obsahu kontrolováno denně
• Chybovost: Miliony false positives (legitimní obsah smazán)

Etické otázky:

• Kdo trénuje AI? Jaké hodnoty jsou zakódovány?
• Transparentnost: Uživatelé neví, proč byl obsah odstraněn
• Odvolání: Obtížné napadnout rozhodnutí AI

Lidská moderace: Psychologická cena

Content moderators:

• Odhad: 100 000+ moderátorů globálně (Facebook, YouTube, TikTok, atd.)
• Lokace: Filipíny, Indie, Irsko, USA
• Práce: Sledování násilí, zneužívání dětí, terorismu, sebevražd – 8–12 hodin denně

Podmínky:

• Nízké platy: 1–3 USD/hodina (rozvojové země), 15–20 USD (rozvinuté)
• Kvóty: 400–1000 kusů obsahu denně
• Psychologické trauma:
• PTSD, deprese, úzkost
• Vysoká fluktuace (průměrná doba: 6–18 měsíců)
• Žaloby proti Facebooku za nedostatečnou péči (2020)

Kulturní bias:

• Moderátoři z jedné kultury posuzují obsah z jiné
• Příklad: Nahota v umění vs. pornografie – různé standardy v různých kulturách
• Problém: Globální pravidla vs. lokální normy

Transparentnost:

• Pravidla moderace jsou často tajná (obava ze zneužití)
• Moderátoři mají sekundy na rozhodnutí
• Nekonzistence: Stejný obsah může být smazán nebo ponechán

Případové studie: Když moderace selže

1. Rohingská krize v Myanmaru (2017–2018)

Kontext:

• Facebook dominantní platforma v Myanmaru (pro mnoho lidí = internet)
• Vojenská junta šířila nenávistné zprávy proti muslimské menšině Rohingů

Selhání:

• Facebook měl jen 2 moderátory pro barmštinu (jazyk 30+ mil. lidí)
• Nenávistný obsah nebyl odstraňován
• Algoritmy amplifikovaly virální dezinformace

Důsledky:

• Genocida: 25 000+ mrtvých, 700 000 uprchlíků
• OSN: Facebook hrál „určující roli“ v násilí
• Facebook se omluvil, investoval do moderace

Lekce:

• Globální platformy musí rozumět lokálním kontextům
• Automatizace bez lidského dohledu je nebezpečná

2. Útok na Kapitol (6. ledna 2021)

Kontext:

• Měsíce dezinformací o „ukradených volbách“ na Facebooku, Twitteru, Parleru
• Organizace útoku částečně online

Reakce platforem:

• Twitter: Trvalé zablokování účtu Donalda Trumpa (8. ledna)
• Facebook: Blokace na neurčito (později změněno na 2 roky)
• Parler: Odstraněn z App Store a Google Play, AWS ukončil hosting

Debata:

• Pro: Platformy konečně jednaly proti podněcování k násilí
• Proti: Soukromé firmy umlčely zvoleného prezidenta – nebezpečný precedens
• Otázka: Proč až po útoku? Proč ne dříve?

3. COVID-19 a „infodemic“

Problém:

• Exploze dezinformací o viru, vakcínách, léčbě
• WHO: „Infodemic“ – záplava informací, včetně falešných

Reakce platform:

• YouTube: Odstranění 1+ milionu videí s dezinformacemi o COVID
• Facebook: Varování u příspěvků o vakcínách, odkazy na WHO
• Twitter: Označování zavádějících tvrzení

Kontroverze:

• Labeling „dezinformace“: Některá tvrzení později potvrzena (lab leak teorie)
• Cenzura legitimní debaty: Kritika lockdownů, vedlejší účinky vakcín
• Kdo rozhoduje o pravdě: Platformy spoléhaly na WHO, CDC – ale i ty měnily stanoviska

Lekce:

• Moderace během krize je extrémně obtížná
• Riziko over-censorship vs. under-censorship

IV. Specifické kategorie obsahu: Kde jsou hranice?

Nenávistný projev (hate speech)

Definice (problematická):

• Rada Evropy: Projev šířící, podněcující, podporující nebo ospravedlňující nenávist založenou na nesnášenlivosti
• Neurčitost: Co je „nenávist“? Co je „podněcování“?

Právní přístupy:

USA:

• Nenávistný projev je chráněn Prvním dodatkem (pokud nepodněcuje k bezprostřednímu násilí)
• Odůvodnění: Nebezpečí státního definování „nenávisti“

Evropa:

• Většina zemí kriminalizuje hate speech
• Německo §130 StGB: Podněcování k nenávisti – až 5 let vězení
• UK Public Order Act: Urážlivé projevy na základě rasy, náboženství, orientace

Platformy:

• Vlastní definice (často širší než zákon)
• Facebook: Zákaz „útoků“ na chráněné kategorie (rasa, etnicita, náboženství, orientace, pohlaví, zdravotní stav)
• Výjimka: Kritika ideologií (např. islám jako náboženství) povolena

Problémy:

• Kontext: „Všichni muži jsou prasata“ – hate speech?
• Satira: Jak rozlišit od skutečné nenávisti?
• Politická manipulace: Označení kritiky jako „hate speech“

Dezinformace a fake news

Definice:

• Dezinformace: Záměrně falešné informace
• Misinformace: Neúmyslně falešné informace
• Malinformace: Pravdivé, ale škodlivé (leaked informace)

Dilema:

• Kdo určuje, co je „pravda“?
• Vědecký konsensus se mění (příklad: COVID)
• Politické zneužití: Označení nepohodlných pravd jako „fake news“

Přístupy platforem:

1. Fact-checking:

• Partnerství s nezávislými organizacemi (AFP, Reuters, Snopes)
• Označení sporného obsahu, snížení dosahu
• Problém: Fact-checkery nejsou neomylní, mohou mít bias

1. Kontext a varování:

• Místo odstranění přidat kontext (Twitter Community Notes)
• Uživatelé vidí obsah, ale s upozorněním

1. Downranking:

• Snížení viditelnosti v algoritmech (nedosáhne tolika lidí)
• Kritika: Skrytá cenzura, netransparentní

Případy:

• Volby: Falešná tvrzení o volebních podvodech
• Zdraví: Nebezpečné „léčby“ (MMS, ivermektin v nesprávných dávkách)
• Klima: Popírání změny klimatu

Hranice:

• Politické názory vs. faktická tvrzení
• Příklad: „Daně by měly být nižší“ (názor) vs. „Vakcíny obsahují mikročipy“ (falešné tvrzení)

Dětská pornografie (CSAM)

Konsensus:

• Univerzální zákaz: Všechny jurisdikce, všechny platformy
• Nejpřísnější moderace, nulová tolerance

Technologie:

• PhotoDNA, CSAI Match: Hash databáze známého CSAM
• AI detekce: Identifikace nového obsahu
• Spolupráce: Platformy sdílejí hashe (NCMEC v USA, IWF v UK)

End-to-end šifrování (E2EE) dilema:

• WhatsApp, Signal, iMessage: E2EE znemožňuje skenování obsahu
• Návrhy: „Client-side scanning“ – skenování před šifrováním
• Odpor: Podkopává šifrování, riziko zneužití pro jiné účely (politická cenzura)

Apple CSAM kontroverze (2021):

• Plán skenovat fotky v iCloud před nahráním
• Odpor: Aktivisté, kryptografové varovali před precedensem
• Apple plán pozastavil (2022)

Terorismus a extremismus

Definice (kontroverzní):

• Terorismus: Násilí pro politické cíle
• Extremismus: Radikální ideologie (ale ne vždy násilné)
• Problém: „Terorista“ vs. „bojovník za svobodu“ – záleží na perspektivě

Právní rámec:

• EU Terrorist Content Regulation (2021): Odstranění do 1 hodiny
• USA: Zákaz materiální podpory teroristických organizací (ale definice úzká)

Platformy:

• Global Internet Forum to Counter Terrorism (GIFCT): Sdílená databáze teroristického obsahu
• Hash sharing: Automatické odstranění známého obsahu
• Problém: Kdo je na seznamu? (Kurdské skupiny, palestinské organizace – teroristi nebo legitimní?)

Případy:

• ISIS propaganda: Úspěšně většinou odstraněna (ale migruje na menší platformy)
• Christchurch útok (2019): Video se šířilo virálně, platformy bojovaly s re-uploady
• Far-right extremismus: Rostoucí hrozba, obtížnější definovat (překryv s mainstreamovou politikou)

Nahota a sexuální obsah

Kulturní relativismus:

• USA: Puritánské kořeny, přísná pravidla
• Evropa: Liberálnější přístup k nahotě
• Střední východ: Velmi konzervativní

Platformy:

• Facebook/Instagram: Zákaz ženských bradavek (ale ne mužských) – kritika jako sexistické
• Výjimky: Kojení, umění, protest (ale nekonzistentně aplikováno)
• Problém: AI často maže umění (sochy, obrazy)

Příklady kontroverze:

• „Napalm Girl“ fotografie (Pulitzerova cena): Facebook původně smazal (nahé dítě), po protestu obnovil
• Rubensovy obrazy: Blokovány pro „pornografii“

OnlyFans případ (2021):

• Platforma pro placený obsah (včetně sexuálního)
• Oznámila zákaz sexuálního obsahu (tlak bank a platebních procesorů)
• Zpětný krok po 6 dnech (odpor uživatelů)

V. Aktéři a jejich zájmy

Platformy: Mezi ziskem a odpovědností

Obchodní model:

• Engagement: Více času na platformě = více reklam = více zisku
• Algoritmy: Optimalizovány pro engagement, ne pro pravdu nebo bezpečnost
• Problém: Kontroverzní, emotivní obsah generuje více engagement

Motivace k moderaci:

1. Právní riziko: Vyhnout se žalobám, pokutám
2. Reputace: Nechce být platforma pro extremisty
3. Inzerenti: Nechtějí reklamy vedle nenávistného obsahu
4. Uživatelé: Odchod, pokud prostředí je toxické

Motivace proti moderaci:

1. Náklady: Moderace je drahá (lidé, technologie)
2. False positives: Riziko smazání legitimního obsahu → nespokojenost uživatelů
3. Politická kritika: Obvinění z cenzury (zejména zprava)

Transparentnost:

• Transparency reports: Většina velkých platforem publikuje čtvrtletní zprávy
• Ale: Často vágní, neúplné, obtížně srovnatelné

Vlády: Ochrana vs. kontrola

Demokratické vlády:

• Legitimní zájmy:
• Ochrana dětí (CSAM)
• Prevence terorismu
• Ochrana před dezinformacemi (volby, zdraví)
• Rizika:
• Překročení pravomocí (mission creep)
• Politická manipulace (umlčení opozice)

Autoritářské režimy:

• Cíl: Kontrola narativu, potlačení disidentů
• Metody:
• Blokace platforem
• Nucení k lokalizaci dat
• Trestní stíhání za online projev

Příklady:

• Indie: Nejčastější blokace internetu na světě (Kashmir)
• Turecko: Tisíce stíhání za „urážku prezidenta“ na sociálních médiích
• Čína: Kompletní kontrola domácího internetu

Občanská společnost a aktivisté

Tlak na přísnější moderaci:

• Anti-Defamation League (ADL): Kampaně proti hate speech
• Avaaz, SumOfUs: Petice za odstranění dezinformací
• Argumenty: Platformy profitují z toxicity, musí nést odpovědnost

Tlak na méně cenzury:

• Electronic Frontier Foundation (EFF): Ochrana svobody projevu online
• ACLU (USA): Obava z nadměrné moderace
• Argumenty: Cenzura má chilling effect, ohrožuje legitimní projev

Paradox:

• Stejné organizace mohou požadovat více moderace v jedné oblasti (hate speech) a méně v jiné (politická kritika)

Uživatelé: Fragmentované názory

Průzkumy (Pew Research, 2024):

• 67 % Američanů: Sociální média mají více negativních než pozitivních dopadů na demokracii
• Ale: Rozdíly podle politické příslušnosti
• Republikáni: 90 % věří, že platformy cenzurují konzervativní názory
• Demokraté: 75 % věří, že platformy nedělají dost proti dezinformacím

Generační rozdíly:

• Gen Z: Více podporuje moderaci hate speech
• Starší generace: Více zdůrazňuje svobodu projevu

VI. Technologické a filozofické výzvy

Paradox tolerance (Karl Popper)

Teorie (1945):

„Neomezená tolerance musí vést k zániku tolerance. Pokud rozšíříme neomezenou toleranci i na ty, kdo jsou netolerantní, pokud nejsme připraveni bránit tolerantní společnost proti útokům netolerantních, pak tolerantní budou zničeni a tolerance s nimi.“

Aplikace na internet:

• Otázka: Měly by platformy tolerovat projev, který volá po konci tolerance (nacismus, genocida)?
• Dilema: Kdo rozhoduje, co je „netolerantní“? Riziko zneužití

Kritika:

• Popper mluvil o násilí, ne jen projevu
• Slippery slope: Začne to nacismem, skončí to cenzurou legitimní kritiky

Streisandův efekt

Fenomén:

• Pokus cenzurovat informaci často vede k jejímu většímu rozšíření
• Původ: Barbra Streisand žalovala fotografa za snímek jejího domu → fotka se stala virální

Aplikace:

• Odstranění kontroverzního obsahu může zvýšit pozornost
• Příklad: Alex Jones ban (2018) – jeho publikum se přesunulo na jiné platformy, ale dosah klesl

Strategie:

• Místo odstranění: Kontext, fact-checking, downranking
• Ale: Méně efektivní proti skutečně škodlivému obsahu

Filter bubbles a echo chambers

Problém:

• Algoritmy ukazují obsah podobný tomu, s čím uživatel interaguje
• Důsledek: Uživatelé vidí jen názory, které potvrzují jejich přesvědčení
• Polarizace: Společnost se štěpí do neslučitelných realit

Moderace vs. algoritmy:

• Otázka: Je problém v obsahu, nebo v tom, jak je distribuován?
• Návrh: Regulovat algoritmy, ne jen obsah
• DSA: Vyžaduje transparentnost algoritmů, možnost vypnout personalizaci

Jurisdikční chaos

Globální platformy, lokální zákony:

• Facebook musí dodržovat:
• První dodatek (USA)
• NetzDG (Německo)
• IT Rules (Indie)
• Cybersecurity Law (Čína – pokud tam operuje)
• Konflikt: Co je legální v USA, může být trestné v Německu

Řešení:

• Geo-blocking: Různý obsah v různých zemích
• Problém: Fragmentace internetu, konec globálního fóra
• „Splinternet“: Internet rozdělený podle jurisdikcí

VII. Budoucnost: Scénáře a návrhy řešení

Scénář 1: Status quo – soukromá regulace

Popis:

• Platformy pokračují v samoregulaci
• Státy zasahují ad hoc (pokuty, tlak)
• Žádný globální standard

Výhody:

• Flexibilita, rychlá adaptace
• Žádná státní cenzura

Nevýhody:

• Nekonzistence, netransparentnost
• Platformy jako de facto vlády bez demokratické legitimity
• Závod ke dnu (platformy s nejvolnější moderací přitahují extremisty)

Scénář 2: Státní regulace a odpovědnost

Popis:

• Zákony jako DSA, NetzDG se rozšíří
• Platformy odpovědné za obsah (konec Section 230)
• Povinné standardy moderace

Výhody:

• Demokratická legitimita
• Jednotná pravidla
• Ochrana uživatelů

Nevýhody:

• Riziko over-censorship (platformy budou mazat preventivně)
• Bariéry pro malé platformy (náklady na compliance)
• Autoritářské režimy zneužijí jako precedens

Scénář 3: Decentralizace a protokoly

Popis:

• Přechod od platforem k otevřeným protokolům (Mastodon, Bluesky, Nostr)
• Uživatelé volí své moderátory
• Žádná centrální kontrola

Výhody:

• Svoboda volby
• Odolnost vůči cenzuře
• Inovace

Nevýhody:

• Fragmentace, menší síťový efekt
• Obtížná moderace škodlivého obsahu (CSAM, terorismus)
• Technická bariéra pro běžné uživatele

Scénář 4: AI governance

Popis:

• Pokročilá AI moderuje obsah s lidským dohledem
• Transparentní algoritmy, možnost odvolání
• Personalizovaná moderace (uživatelé nastavují vlastní prahy)

Výhody:

• Škálovatelnost
• Konzistence
• Respekt pro různé preference

Nevýhody:

• Bias v AI
• Kdo kontroluje AI?
• Riziko manipulace

Návrhy řešení: Hledání rovnováhy

1. Transparentnost:

• Povinné zveřejnění:
• Pravidel moderace (jasná, konkrétní)
• Dat o odstranění (kategorie, počty, důvody)
• Fungování algoritmů (alespoň obecně)
• Přístup pro výzkumníky: Nezávislé audity

2. Procedurální spravedlnost:

• Odvolání: Efektivní mechanismus pro napadnutí rozhodnutí
• Lidský přezkum: Možnost požádat o posouzení člověkem (ne jen AI)
• Rychlost: Rozhodnutí do 24–48 hodin

3. Kontextová moderace:

• Místo univerzálních pravidel: Zohlednit kontext (satira, citace, vzdělávání)
• Lokalizace: Respekt pro kulturní rozdíly
• Nuance: Odstupňovaná reakce (varování → dočasná blokace → ban)

4. Empowerment uživatelů:

• Nástroje pro filtrování: Uživatelé si nastaví, co chtějí vidět
• Community Notes (Twitter/X model): Uživatelé přidávají kontext
• Blokování a ztlumení: Individuální kontrola nad vlastní zkušeností

5. Multistakeholder governance:

• Oversight boards: Nezávislé orgány s účastí:
• Zástupců platforem
• Vlád
• Občanské společnosti
• Akademiků
• Uživatelů
• Příklad: Meta Oversight Board (kritizován jako nedostatečný, ale krok správným směrem)

6. Zaměření na amplifikaci, ne jen obsah:

• Problém není vždy obsah sám, ale jak daleko se šíří
• Regulace algoritmů: Omezit virální šíření dezinformací, nenávisti
• Downranking: Místo odstranění snížit dosah

7. Vzdělávání a mediální gramotnost:

• Dlouhodobé řešení: Učit kritické myšlení
• Školy: Mediální gramotnost jako povinný předmět
• Platformy: Nástroje pro ověřování zdrojů

VIII. Případové studie: Různé přístupy v praxi

Twitter/X pod Elonem Muskem (2022–2025)

Změny:

• Masivní propouštění: 80 % zaměstnanců včetně moderátorů
• Amnestie: Obnovení zablokovaných účtů (včetně Trumpa)
• „Free speech absolutism“: Rétorika absolutní svobody projevu
• Community Notes: Crowdsourcovaný fact-checking

Výsledky:

• Nárůst hate speech: Studie zaznamenaly zvýšení (kontroverzní metodologie)
• Odchod inzerentů: Obavy z toxického prostředí
• Politická polarizace: Platforma vnímána jako pravicová
• Inovace: Community Notes oceňovány jako transparentní

Lekce:

• Radikální změny moderace mají důsledky (pozitivní i negativní)
• „Free speech“ není jednoduché – i Musk musel moderovat (CSAM, doxing)

TikTok: Algoritmus jako moderátor

Unikátní přístup:

• „For You“ algoritmus: Kurátorovaný feed (ne chronologický, ne sociální graf)
• Agresivní moderace: Rychlé odstranění porušení
• Pozitivita: Algoritmus preferuje pozitivní, zábavný obsah

Kontroverze:

• Čínské vlastnictví: Obavy z cenzury (Tibet, Ujgurové, Tchien-an-men)
• Studie: TikTok skutečně cenzuruje politicky citlivý obsah v některých regionech
• USA ban hrozby: Národní bezpečnost vs. svoboda projevu

Lekce:

• Algoritmus může být nástrojem moderace (ne jen odstranění obsahu)
• Geopolitika ovlivňuje debatu o moderaci

Reddit: Community-driven moderace

Model:

• Subreddity: Nezávislé komunity s vlastními pravidly
• Dobrovolní moderátoři: Uživatelé moderují své komunity
• Reddit admins: Zasahují jen při porušení site-wide pravidel

Výhody:

• Škálovatelnost: Miliony moderátorů zdarma
• Diverzita: Různá pravidla pro různé komunity
• Ownership: Uživatelé mají kontrolu

Nevýhody:

• Nekonzistence: Některé subreddity toxické, jiné přísně moderované
• Moc moderátorů: Zneužití (cenzura legitimních názorů)
• Extremismus: Některé subreddity se staly inkubátory nenávisti (r/The_Donald, r/Incels – nakonec zabanovány)

Lekce:

• Decentralizovaná moderace může fungovat, ale potřebuje oversight

IX. Etické principy pro moderaci obsahu

Návrh rámce: 10 principů

1. Legalita:

• Minimum: Dodržovat zákony jurisdikce
• Ale: Zákony se liší – platformy musí vybrat standard

2. Transparentnost:

• Jasná pravidla: Co je povoleno, co ne
• Zdůvodnění: Proč byl obsah odstraněn
• Data: Statistiky o moderaci

3. Proporcionalita:

• Odstupňovaná reakce: Ne vždy rovnou ban
• Závažnost: Spam ≠ terorismus

4. Konzistence:

• Stejná pravidla pro všechny: Bez ohledu na politiku, popularitu
• Ale: Kontext záleží (satira vs. doslovné)

5. Odvolání:

• Právo na přezkum: Lidský moderátor
• Nezávislost: Ideálně externí orgán

6. Minimalizace škod:

• Priorita: Ochrana před reálným násilím, zneužíváním
• Sekundární: Ochrana před urážkami, dezinformacemi

7. Respekt pro pluralismus:

• Různé kultury: Co je urážlivé v jedné kultuře, není v jiné
• Různé názory: Chránit i nepopulární (pokud nejsou škodlivé)

8. Empowerment uživatelů:

• Nástroje: Blokování, filtrování, reporting
• Kontrola: Uživatelé rozhodují o vlastní zkušenosti

9. Odpovědnost:

• Platformy: Za systémy moderace
• Uživatelé: Za svůj obsah
• Vlády: Za proporcionální regulaci

10. Evoluce:

• Pravidla se mění: Společnost, technologie, hrozby
• Flexibilita: Schopnost adaptace

Neexistuje dokonalé řešení

Konflikt mezi svobodou projevu a moderací obsahu na internetu nemá jednoduché řešení. Každý přístup má trade-offy:

Fundamentální napětí:

Svoboda projevu:

• Pozitivní: Demokracie, inovace, pravda skrze debatu
• Negativní: Dezinformace, nenávist, radikalizace

Moderace obsahu:

• Pozitivní: Ochrana před škodami, bezpečnější prostředí
• Negativní: Cenzura, potlačení legitimního projevu

Klíčové poznatky:

1. Kontext záleží: Univerzální pravidla nefungují – satira ≠ nenávist, kritika ≠ dezinformace
2. Transparentnost je klíčová: Tajná pravidla a netransparentní rozhodnutí podkopávají důvěru
3. Lidský úsudek nenahraditelný: AI pomáhá škálovat, ale konečné rozhodnutí potřebuje člověka
4. Procedurální spravedlnost: Důležitější než dokonalá pravidla je férový proces (odvolání, přezkum)
5. Empowerment uživatelů: Dát lidem nástroje, ne jen rozhodovat za ně
6. Multistakeholder přístup: Žádná skupina (platformy, vlády, aktivisté) by neměla mít monopol
7. Zaměření na amplifikaci: Regulovat algoritmy, ne jen obsah
8. Mediální gramotnost: Dlouhodobé řešení je vzdělávání

Výhled do budoucnosti:

Optimistický scénář:

• Transparentní, konzistentní pravidla
• Efektivní AI s lidským dohledem
• Uživatelé mají kontrolu nad vlastní zkušeností
• Globální standardy s respektem pro lokální rozdíly
• Decentralizace snižuje moc jednotlivých platforem

Pesimistický scénář:

• Fragmentace internetu (splinternet)
• Autoritářské režimy zneužívají moderaci k cenzuře
• Polarizace se prohlubuje
• AI bias vede k systematické diskriminaci
• Malé platformy nemohou konkurovat (bariéry compliance)

Realistický scénář:

• Neustálé vyjednávání: Hranice se posouvají podle kontextu
• Imperfektion: Chyby budou, důležité je je rychle opravit
• Diverzita přístupů: Různé platformy, různá pravidla – uživatelé volí
• Evoluce: Pravidla se přizpůsobují novým hrozbám a technologiím

Závěrečná myšlenka:

Otázka není „Kde je hranice?“, ale „Jak proces hledání hranice učinit spravedlivým, transparentním a demokratickým?“

Internet je příliš důležitý na to, aby jeho pravidla určovalo jen několik technologických CEO, nebo jen vlády, nebo jen algoritmy. Potřebujeme kolektivní, průběžný dialog – mezi platformami, uživateli, vládami, občanskou společností a akademiky.

Svoboda projevu a ochrana před škodami nejsou binární volba. S promyšleným designem, transparentností a respektem pro pluralismus můžeme vytvořit digitální prostředí, které maximalizuje svobodu a minimalizuje škody – i když nikdy nedosáhneme dokonalosti.

Cena svobody je věčná bdělost – a to platí i online.

Poznámka: Tento článek reflektuje stav debaty k roku 2025. Technologie, zákony a společenské normy se rychle vyvíjejí. Doporučuji sledovat aktuální vývoj v oblasti digitální regulace, zejména implementaci DSA v EU a možné reformy Section 230 v USA.