TLAČOVÁ SPRÁVA AMNESTY INTERNATIONAL
6. NOVEMBRA 2023
Systém odporúčania obsahu na sociálnej sieti TikTok (ďalej len „SOOT“) v kombinácii s invazívnymi praktikami zhromažďovania údajov predstavujú nebezpečenstvo pre mladých používateľov a používateľky platformy. SOOT podporuje zobrazovanie depresívneho a samovražedného obsahu, čím môže zhoršovať už existujúce problémy v oblasti duševného zdravia. K týmto záverom dospeli dve výskumné správy, ktoré dnes (7. novembra) zverejnila Amnesty International. Obe správy – Zahnaný*á do temnoty: Ako TikTok podporuje sebapoškodzovanie a samovražedné myšlienky aj Cítim sa exponovaný*á: Chytený*á v sieti neustáleho dohľadu – upozorňujú na porušovanie práv, ktorého príčinou je obchodný model spoločnosti TikTok a jej SOOT.
Základné zistenia, ktorým sa správy venujú:
- Výskumný tím Amnesty International, ktorý sa venuje vzťahu technológií a ľudských práv v spolupráci s Inštitútom pre transparentnosť algoritmov (orig. Algorithmic Transparency Institute) a organizáciou AI Forensics využil automatizované používateľské účty.
- Jedným zo záverov výskumu je, že SOOT exponuje ľudí so záujmom o tému duševného zdravia a tým ohrozuje mladé používateľstvo. Účty, ktoré prejavia záujem o témy súvisiace s duševným zdravím, majú medzi odporúčaným obsahom takmer polovicu videí, ktoré súvisia s duševným zdravím. Mnohé z nich sú potenciálne škodlivé. Tento objem predstavuje približne desaťnásobok objemu takýchto videí, ktoré SOOT odporúča účtom, ktoré neprejavujú záujem o tému duševného zdravia. Výskum ukázal, že algoritmus ovplyvňuje používateľstvo platformy už po 5 – 6 hodinách používania.
- Ešte rýchlejší efekt „skĺznutia do prepadliska“ nastal u automatizovaných účtov, ktoré imitovali 13-ročných používateľov v Keni, USA a na Filipínach, ak na nich výskumný tím ručne prezeral odporúčané videá súvisiace s duševným zdravím.
- Na to, aby sa viac ako polovica odporúčaných videí týkala duševného zdravia, používateľstvu stačí na platforme stráviť 3 až 20 minút. V prvej hodine TikTok odporúčal videá, ktoré romantizovali, normalizovali alebo podporovali samovraždu a samopoškodzovanie.
- Výskumný tím dospel k záveru, že obchodný model siete TikTok je navrhnutý tak, že zneužíva používateľstvo a uprednostňuje angažovanosť za každú cenu. Používateľstvo udržiava na platforme čo najdlhšie, aby tak mohol o nich zbierať čo najviac údajov. Sieť TikTok zároveň ochranu používateľstva neaplikuje na celom svete rovnako a robí geografické rozdiely.
Systém siete TikTok je navrhnutý tak, aby používateľstvo udržiaval na platforme a vytvoril závislosť
Kanál „Pre teba“ je vysoko personalizovaná a nekonečná stránka na sieti TikTok. Stránka obsahuje algoritmami generované odporúčania obsahu, ktorý reflektuje záujmy používateľa alebo používateľky.
Výskumný tím použil viac ako 30 automatizovaných aj manuálne administrovaných účtov. Tie nadizajnoval tak, aby imitovali 13-ročných používateľov a používateľky v Keni, USA a na Filipínach. Cieľom výskumu bolo zmerať účinky SOOT na mladých používateľov a používateľky. Dodatočná ručne spustená simulácia zahŕňala po jednom účte v Keni, na Filipínach a v USA.
„[Naše] zistenia odhaľujú, že TikTok je nadizajnovaný tak, aby používateľov a používateľky manipuloval, spôsoboval závislosť a tým ich udržiaval pri aktivite na platforme čo najdlhší čas. Zistili sme tiež, že algoritmy určené na odporúčanie obsahu vystavujú deti a mladých dospelých s už existujúcimi problémami v oblasti duševného zdravia vážnemu riziku. Práve týmto algoritmom sa pripisuje rýchly celosvetový vzostup platformy,“ uviedla výskumná pracovníčka Amnesty International Lisa Dittmer.
Skĺznuť do prepadliska a uviaznuť v sieti škodlivého obsahu
O skúsenosť s odporúčaním videí na sieti TikTok sa s nami podelil aj 21-ročný vysokoškolský filipínsky študent *Luis. Luisovi v minulosti diagnostikovali bipolárnu poruchu.
„Je to prepadlisko, všetko sa začne jediným videom. Ak jedno video upúta vašu pozornosť, aj keď sa vám nepáči, pri ďalšom otvorení TikToku naň znovu narazíte. Zdá sa vám známe, a preto si ho opäť pozriete. Následne sa jeho frekvencia vo vašom kanáli exponenciálne zvyšuje,“ uviedol Luis.
*Francis, 18-ročný študent z filipínskej provincie Batangas, poznamenal: „Keď si pozriem smutné video, s ktorým sa môžem stotožniť, zrazu sa celá stránka ‚Pre teba‘ zmení na smutnú a ocitnem sa v ‚Sadtoku‘ [smutnom TikToku]. Ovplyvňuje to moje pocity.“
Ďalší účastník fokusovej skupiny vysvetlil, že obsah, ktorý vidí, ho núti „premýšľať [ešte] viac. Napríklad videá, v ktorých je niekto chorý alebo sa sám diagnostikuje. Ovplyvňuje to moje zmýšľanie a vyvoláva to vo mne pocit, že mám rovnaké príznaky, čo zhoršuje moju úzkosť. A ja si ich (videá) ani nevyhľadávam, jednoducho sa mi objavujú na nástenke.“
Náš tím sa rozprával s deťmi a mladými ľuďmi v Keni. Podľa ich názoru používanie siete TikTok ovplyvnilo ich domáce úlohy aj čas strávený s priateľmi. Používanie siete podľa nich viedlo k tomu, že namiesto dostatku spánku si dlho do noci prezerali svoju nástenku. Tieto tvrdenia potvrdili Amnesty aj rôzni psychológovia a psychologičky, ktorí pracujú s mládežou.
„Náš výskum ukazuje, že ak bude spoločnosť TikTok naďalej používať súčasný obchodný model, môže deti a mladých ľudí vystaviť vážnym zdravotným rizikám. Tento model sa totiž sústredí na to, aby boli používatelia doslova prilepení na obrazovke, a pritom nerešpektuje právo na zdravie,“ uviedla Lisa Dittmer.
Drobnohľad a bezostyšný zber informácií
Obchodný model siete TikTok je navrhnutý tak, že zneužíva používateľstvo a uprednostňuje angažovanosť za každú cenu. Používateľstvo udržiava na platforme čo najdlhšie, aby tak mohol o nich zbierať čo najviac údajov. TikTok potom tieto údaje využíva na vytváranie cieľových skupín, na základe ktorých na používateľov a používateľky cieli vysoko personalizovaný obsah. Tieto údaje a cieľové skupiny sieť sprístupňuje aj inzerentom, ktorí ich môžu používať na personalizované reklamy.
Výskum zároveň dospel k záveru, že postupy TikToku na zabezpečenie lepšej ochrany práv detí sa líšia v závislosti od regiónu. Deti a mladí ľudia v niektorých častiach sveta požívajú aspoň istú mieru ochrany, kým v iných častiach priamo čelia zhromažďovaniu a zneužívaniu údajov. Deti, ktoré žijú v krajinách so slabou reguláciou sociálnych sietí, čelia vážnemu porušovaniu práva na súkromie.
Odporúčania Amnesty International pre spoločnosť TikTok
Amnesty International vyzýva TikTok, aby ukončil hyperpersonalizáciu odporúčaní, ktoré sa nachádzajú v sekcii „Pre teba“. Platforma namiesto toho musí používateľom a používateľkám umožniť aktívne participovať na výbere záujmov, ktoré zohľadňuje pri výbere obsahu do sekcie „Pre teba“. Okrem toho by mali mať možnosť rozhodnúť, či o používanie sekcie vôbec majú záujem.
Organizácia tiež TikTok vyzýva, aby upravil svoj obchodný model a rešpektoval ľudské práva. Okrem toho by mal zaviesť obmedzenie cielenej reklamy na osoby mladšie ako 18 rokov.
Okrem opatrení na úrovni siete TikTok musia reguláciu používania osobných údajov zaviesť aj jednotlivé štáty.
Reakcia siete TikTok
V reakcii na naše zistenia nás spoločnosť TikTok odkázala na svoje usmernenia pre komunitný manažment. V nich sa uvádza, ktoré typy obsahu sieť zakazuje a v prípade ich nahlásenia ich platforma preverí a eventuálne odstráni. Medzi zakázané typy obsahu pratrí aj taký obsah, ktorý „zobrazuje, propaguje alebo poskytuje návody na samovraždu a sebapoškodzovanie a súvisiace výzvy, provokatívne súťaže, hry a pakty“, „zobrazuje alebo propaguje hoaxy o samovražde a sebapoškodzovaní“ či „zdieľa plány na samovraždu a sebapoškodzovanie“.
Spoločnosť TikTok uviedla, že v súčasnosti vyvíja „celopodnikový proces starostlivosti v oblasti ľudských práv, ktorý bude zahŕňať vykonávanie pravidelných hodnotení vplyvu siete na ľudské práva“. Spoločnosť neposkytla podrobnosti o tom, ktoré konkrétne riziká pre ľudské práva detí a mladých používateľov identifikovala. Fakt, že spoločnosť TikTok v súčasnosti ešte nemá zavedený systém takejto kontroly, je jasným zlyhaním spoločnosti pri dodržiavaní jej povinností v oblasti ľudských práv.
Kontext situácie
Obe správy dopĺňajú závery predchádzajúcich výskumných správ Amnesty International. Správa o technologických gigantoch odhalila, ako je obchodný model spoločností Facebook a Google vo svojej podstate nezlučiteľný s právom na súkromie. Správy Rozsudok smrti pre môjho otca a Sociálna beštialita: Meta a právo na nápravu pre Rohingov odhaľujú, ako môže obchodný model platformy Facebook, ktorý stavia na angažovanosti používateľov, podnecovať násilie, nenávisť a diskrimináciu a v konečnom dôsledku prispievať k závažnému porušovaniu ľudských práv vo fyzickom svete.
Tieto správy spoločne vytvárajú základ globálnej kampane Amnesty International. Tá technologických gigantov ako Meta, Google či TikTok vyzýva prevziať ich podiel zodpovednosti za porušovanie ľudských práv.