CITÁCIA AMNESTY INTERNATIONAL
27. OKTÓBRA 2023
Amnesty International vyzýva spoločnosti, ktoré prevádzkujú sociálne siete, aby urýchlene riešili rozdúchavanie nenávisti a násilia či rasizmu voči palestínskym a židovským komunitám, ku ktorému dochádza na ich platformách. Amnesty odhalila alarmujúci nárast podnecovania nenávisti, násilia, nevraživosti a diskriminácie na sociálnych sieťach voči palestínskej aj židovskej populácii. Medzinárodné právo v oblasti ľudských práv podnecovanie nenávisti a násilia k určitým skupinám obyvateľstva zakazuje. Amnesty International tiež zdokumentovala znepokojujúce informácie o tom, že obsah, ktorý zverejnili Palestínčania a Palestínčanky alebo obrancovia a obrankyne práv palestínskej populácie podlieha potenciálne diskriminačnému moderovaniu obsahu zo strany rôznych platforiem.
„Sociálne siete môžu v čase krízy zohrávať dôležitú úlohu. Veľké spoločnosti, ktoré vlastnia a spravujú sociálne siete preto musia urýchlene zlepšiť svoje opatrenia na ochranu ľudských práv. Tieto spoločnosti musia zabezpečiť, aby ich platformy nešírili posolstvá nenávisti a násilia. V opačnom prípade riskujú, že prispejú k hrubému porušovaniu ľudských práv a závažnému porušovaniu medzinárodného humanitárneho práva vrátane vojnových zločinov. Práve vojnové zločiny, ku ktorým v tomto konflikte došlo, viedli k bezprecedentnému počtu civilných obetí a katastrofálnej humanitárnu kríze,“ uviedla riaditeľka Amnesty Tech Rasha Abdul-Rahim.
Oslavovanie útokov na civilnú populáciu a šírenie nenávisti voči palestínskej aj židovskej populácii
Amnesty International identifikovala veľký počet príspevkov na sociálnych sieťach, ktoré oslavujú útoky Izraela na civilnú populáciu Gazy, podporujú zničenie pásma Gazy a obhajujú násilie voči palestínskej populácii. Mnohé príspevky používajú dehumanizujúci a rasistický jazyk, pričom viaceré z nich čerpajú aj z jazyka používaného izraelskými štátnymi orgánmi.
Organizácia zdokumentovala aj množstvo antisemitských príspevkov. Mnohé z nich obhajovali a podnecovali nenávisť a násilie voči židovskej populácii. Nárast antisemitského obsahu na sieti X (bývalý Twitter) počas uplynulých mesiacov potvrdil aj predchádzajúci výskum Centra pre boj proti digitálnej nenávisti (Center for Countering Digital Hate).
Indikátor násilia, ktorý prevádzkuje palestínska mimovládna organizácia 7amleh, sleduje nárast počtu príspevkov uverejnených na sociálnych sieťach v hebrejčine, ktoré podnecujú nenávisť voči palestínskej populácii a obrancom ľudských práv palestínskej populácie. Indikátor od 7. októbra 2023 detegoval viac ako 493 000 prípadov podnecovania nenávisti, pričom ich počet neustále narastá.
Dehumanizujúci jazyk a protipalestínsky rasizmus je bežný aj u izraelských vládnych a vojenských predstaviteľov. Dňa 16. októbra zverejnil izraelský premiér na svojom účte na sieti X (@IsraeliPM) diskriminačný príspevok, v ktorom použil dehumanizujúci jazyk. Príspevok znel v preklade takto: „Prebieha boj medzi deťmi svetla a deťmi temnoty, medzi ľudskosťou a zákonom džungle.“
Podobne sa 17. októbra 2023 vyjadril aj minister pre národnú bezpečnosť Itamar Ben Gvir. Príspevok znel v preklade takto: „Pokiaľ Hamas neprepustí rukojemníkov, ktorých zadržiava – letectvo musí do Gazy dopraviť len stovky ton výbušnín, a ani uncu humanitárnej pomoci.“
Úplná odstávka internetu a „tieňové zákazy“ palestínskeho obsahu
Amnesty International obdržala znepokojujúce správy o rozsiahlej cenzúre obsahu. Tá sa týka predovšetkým účtov na sociálnych sieťach z Palestíny. Zasiahnuté sú aj účty obrancov a obrankýň ľudských práv palestínskej populácie zo zahraničia.
Situáciu palestínskej civilnej populácie v okupovanom pásme Gazy zhoršuje aj výpadok telekomunikačných služieb a internetu. Tento výpadok obmedzuje schopnosť miestnej populácie vyhľadávať, prijímať a šíriť informácie. Zároveň pri moderovaní obsahu na sociálnych sieťach nie je na informácie o právach palestínskej a židovskej populácie používaný rovnaký meter. Vo výsledku to môže ešte zhoršiť prístup Palestínčanov a Palestínčaniek v Gaze aj mimo nej k právu na slobodu prejavu, združovania a pokojného zhromažďovania.
„V čase, keď Izrael zintenzívňuje bezprecedentné bombardovanie Gazy, pri ktorom už zahynulo viac ako 7 000 ľudí, väčšinou civilisti a civilistky, prichádzajú správy o čiastočnom blokovaní a odstraňovaní obsahu obrancov práv palestínskej populácie. Tento fenomén, známy ako ‚tieňový zákaz‘, je v aktuálnej situácii mimoriadne znepokojujúci,“ uviedla Rasha Abdul-Rahim.
Moderovanie obsahu musí rešpektovať ľudské práva a bojovať proti stereotypom
Moderovanie obsahu musí prebiehať spôsobom, ktorý zabezpečí rešpektovanie práva na slobodu prejavu a zároveň bude riešiť bezuzdné šírenie nenávisti. Spoločnosti, ktoré prevádzkujú sociálne siete, musia investovať primerané zdroje do ľudského dohľadu nad systémami moderovania obsahu, ktoré sú riadené umelou inteligenciou. Iba tak sa dá zabezpečiť, aby používatelia sociálnych sietí mohli uplatňovať svoje práva bez ohľadu na jazyk a politické názory. Viaceré platformy prepustili zamestnancov, ktorí zodpovedali za dodržiavanie ľudských práv používateľov a používateliek. Tým podkopali svoju schopnosť konať v súlade s týmito zásadami.
Výskum publikovaný na stránke newamerica.org ukázal, že systémy umelej inteligencie pod rúškom neutrality často reprodukujú už existujúce spoločenské predsudky. Ešte 19. októbra 2023 sa spoločnosť Meta ospravedlnila za pochybný preklad príspevkov. Do prekladov príspevkov na Instagrame, ktoré obsahovali slová „palestínsky“ a „Alhamdulillah“ (čo znamená „chvála Bohu“) a emotikon palestínskej vlajky totiž vložila slovo „teroristický“. Spoločnosť tiež znížila prah istoty o problematickosti obsahu, ktorý je potrebný na „skrytie“ nevraživého obsahu. V prípade obsahu pochádzajúceho z veľkej časti Blízkeho východu znížila prah istoty z 80 % na 25 %. Spoločnosť vykonala tieto zmeny ako pokus zastaviť šírenie nepriateľských prejavov. Aplikácia týchto princípov však mohla viesť k príliš rozsiahlym obmedzeniam zdieľaného obsahu.
V máji 2021 vyšla správa Podnikanie pre spoločenskú zodpovednosť (Business for Social Responsibility). Správa odhaľuje, že obsah v arabskom jazyku podlieha na platformách Meta väčšej miere „nadmerného uplatňovania“ týchto pravidiel ako iné jazyky vrátane hebrejčiny. Prípady „falošného reportovania“ prispievali k zníženej viditeľnosti a angažovanosti príspevkov napísaných v arabčine.
Výskum ukazuje, že algoritmy sociálnych sietí posilňujú dosah škodlivého obsahu a rozdúchavanie nenávisti a násilia
Ešte pred eskaláciou konfliktu medzi Izraelom a palestínskymi ozbrojenými skupinami vydala Amnesty International výskumnú správu venovanú situácii v oblasti. Výskum dokazuje, že izraelský systém útlaku a nadvlády nad Palestínčanmi predstavuje zločin proti ľudskosti apartheid. Ďalší výskum Amnesty International tiež ukázal, že algoritmy sociálnych sietí sú navrhnuté tak, aby maximalizovali angažovanosť publika. To často vedie k neprimeranému posilňovaniu škodlivého a poburujúceho obsahu vrátane šírenia a podnecovania nenávisti, násilia, nevraživosti a diskriminácie.
V tejto súvislosti je nevyhnutné, aby sa veľké technologické spoločnosti zaoberali existujúcimi aj potenciálnymi vplyvmi svojich činností na ľudské práva. Iba tak dokážu zabezpečiť, že nebudú prispievať k porušovaniu ľudských práv ani neumožnia šírenie nenávisti, rasizmu a dezinformácií.
Kontext situácie
Amnesty International je nestranná ľudskoprávna organizácia, ktorá pravidelne vydáva správy k situácii v Izraeli a na Okupovaných palestínskych územiach. Organizácia chce docieliť, aby všetky strany ozbrojeného konfliktu medzi Hamasom a Izraelom dodržiavali medzinárodné humanitárne právo a medzinárodné právo v oblasti ľudských práv. V súlade s týmto cieľom bude Amnesty International vo svojich budúcich správach skúmať nasadenie izraelskej armády v pásme Gazy v záujme určiť, či Izrael dodržiava pravidlá medzinárodného humanitárneho práva vrátane vykonávania nevyhnutných preventívnych opatrení na minimalizáciu škôd voči civilistom a civilným objektom a zdržania sa nezákonných útokov a kolektívnych trestov voči civilnému obyvateľstvu, ako to vyžaduje medzinárodné právo. Amnesty International bude naďalej sledovať aj aktivity Hamasu a iných palestínskych ozbrojených skupín.
Amnesty International tiež naďalej monitoruje prípady neoprávneného blokovania alebo odstraňovania príspevkov na sociálnych sieťach, ako aj tieňové zákazy činnosti účtov v súvislosti so súčasným konfliktom. Ak ste sa vy alebo niekto, koho poznáte, stretli s takýmto prípadom, pošlite, prosím, odkazy a/alebo snímky obrazovky obsahu, ktorý bol nahlásený alebo odstránený, ako aj snímky obrazovky pôvodného obsahu na adresu [email protected].