Dôležitosť ľudských práv v digitálnom veku stále stúpa. Ľudské práva umožňujú ľuďom vyjadrovať sa v online priestore, zdieľať svoje názory, ako aj vytvárať a používať technológie a mať k nim prístup bezpečným a spravodlivým spôsobom.
Technológie sa dajú využiť ako prostriedok na uplatňovanie slobody prejavu, vyvodzovanie zodpovednosti voči vládam a odhaľovanie protiprávneho konania.
Technológie však môžu predstavovať aj systémovú hrozbu pre ľudské práva. Reprodukujú totiž štrukturálnu diskrimináciu marginalizovaných skupín pri udržiavaní verejného poriadku, reagovaní na migráciu či v prístupe k sociálnej a zdravotnej starostlivosti.
Nástroje na sledovanie na celom svete mnohými spôsobmi zasahujú do práv osôb z marginalizovaných skupín.
Naším poslaním je reagovať na nové hrozby pre ľudské práva v digitálnom veku, a pomáhať pri formovaní a obrane práv v budúcnosti.
Usilujeme sa o to, aby technologickí giganti postupovali zodpovedne. Čelíme digitálnemu a automatizovanému štátnemu aparátu a bojujeme proti rastúcemu vládnemu dohľadu a cenzúre, ktoré tieto technológie umožňujú.
Pojem digitálny a automatizovaný štát označuje spôsob, akým vlády čoraz viac využívajú technológie na prijímanie životne dôležitých rozhodnutí v kontexte systémov sociálneho zabezpečenia, migrácie a manažmentu azylového systému.
Predstavujeme si budúcnosť, v ktorej technológie zabezpečia dodržiavanie ľudských práv a spravodlivú spoločnosť.
Ľudské práva v digitálnom veku umožňujú spravodlivo sa zapájať do aktivít v digitálnom prostredí bezpečným, zodpovedným a inkluzívnym spôsobom. Zaručujú pritom slobodu prejavu, súkromie, rovnosť, nediskrimináciu a ochranu údajov.
Čím ďalej, tým viac žijeme v online priestore. Naše práva je potrebné chrániť.
Aký vplyv majú technológie na spoločnosť?
Technologický pokrok pokračuje exponenciálnym tempom a technologické spoločnosti rozširujú svoju moc a globálny dosah. Preto je dôležitejšie ako kedykoľvek predtým kriticky zhodnotiť, pre koho je tento vývoj prospešný a komu škodí.
- Vlády využívajú algoritmy na poskytovanie verejných služieb. Neexistujú však primerané spôsoby vyvodzovania zodpovednosti, ktoré by zabezpečili, aby ich používali spravodlivo.
- Napriek prísľubu technickej neutrality umelá inteligencia prehlbuje nerovnosť a diskrimináciu v spoločnostiach na celom svete.
- Technológie, ktoré majú v sebe zabudované predsudky ich tvorcov, sa využívajú na údajné „riešenie“ zložitých problémov v kontextoch migrácie, sociálneho zabezpečenia, prístupu k vzdelaniu a zdravotnej starostlivosti.
- Technologickí giganti prispievajú k šíreniu dezinformácií, čo má katastrofálne dôsledky pre spoločnosti na celom svete.
- Počas pandémie COVID-19 sme boli svedkami šírenia konšpiračných teórií prostredníctvom sociálnych sietí, čo ešte viac ohrozilo životy miliónov ľudí.
- Algoritmy sociálnych sietí umožňujú šírenie nenávisti, podnecovanie násilia, online šikanu a cenzúru niektorých zraniteľných skupín.
- Špionážny softvér a iné formy cieleného sledovania zasahujú ľuďom do práva na súkromie. Popritom majú ochromujúci efekt – môžu odrádzať ľudí od toho, aby sa pridávali k sociálnym hnutiam alebo hovorili o svojich právach.
Zodpovednosť technologických gigantov
Technologickí giganti majú obrovskú moc nad našimi životmi. Naša rastúca závislosť od technologických gigantov umožnila hŕstke spoločností zasiahnuť nám do súkromia a sledovať každý náš krok, pretvárať naše interakcie a vytvárať predpovede o našom správaní pre svoj ekonomický zisk.
Ich obchodný model založený na sledovaní predstavuje systémovú hrozbu pre ľudské práva vrátane práv detí. Nemáme dostatočnú kontrolu nad tým, aké informácie o nás korporácie a vlády zhromažďujú, ako tieto informácie používajú a s kým ich zdieľajú.
Vzhľadom na rastúci výskyt dezinformácií, šírenia nenávisti a rasizmu na internete musia veľké technologické spoločnosti robiť viac pre dodržiavanie ľudských práv. Preto sa zasadzujeme za regulačné opatrenia, ktoré prinútia veľké technologické firmy dodržiavať svoje povinnosti v oblasti ľudských práv.
Algoritmus je postup, súbor pravidiel alebo inštrukcií, ktorý umožňuje počítačovému programu spájať rôzne zdroje informácií a generovať výsledky. Algoritmy sa využívajú aj pri prevádzke platforiem sociálnych sietí. Určujú, aký obsah sa používateľom a používateľkám zobrazí.
Prípadová štúdia: Úloha spoločnosti Meta pri etnických čistkách rohinského obyvateľstva
V septembri 2022 Amnesty zverejnila rozsiahlu výskumnú správu o tom, ako spoločnosť Meta prispievala k nenávisti a diskriminácii Rohingov a Rohiniek v Mjanmarsku. Amnesty vtedy spustila medzinárodnú kampaň za to, aby spoločnosť Meta poskytla rohinskej komunite odškodnenie. Správa Amnesty s názvom Sociálna beštialita: Meta a právo na nápravu pre Rohingov je prvou hĺbkovou analýzou ľudských práv svojho druhu, ktorá preukazuje podiel spoločnosti Meta na závažných zločinoch spáchaných na Rohingoch a Rohinkách v roku 2017.
Správa odhalila, že algoritmy Facebooku sú navrhnuté tak, aby za každú cenu podporovali „zapájanie sa“ používateľov a používateliek. V dôsledku toho sa nenávisť voči Rohingom a Rohinkám a dezinformácie o nich neprimeraným spôsobom šírili na platforme Facebook. Tým pomohli vytvoriť priaznivé prostredie pre následné hrozné masové násilie. V príbehu rohinského utečenca Maunga Sawyeddollaha sa zhmotnili dôsledky podielu spoločnosti Meta na šírení nenávisti a diskriminácie.
Monitorujeme aj spôsoby, akými vlády využívajú platformy technologických gigantov, ako je Facebook, na cenzúru a umlčiavanie obrancov a obrankýň ľudských práv, ako sme ukázali v našej výskumnej správe o Vietname v roku 2020.
Prípadová štúdia: TikTok a duševné zdravie detí
Amnesty International zdokumentovala systémové škody, ktoré spôsobuje obchodný model platformy TikTok založený na sledovaní používateľov. Amnesty poukázala na zneužívanie práva na súkromie touto platformou, jej dizajn vedúci k závislosti a úlohu, ktorú zohráva pri prehlbovaní duševných problémov detí a mladých ľudí.
Naše dve výskumné správy – Zahnaný*á do temnoty: Ako TikTok podporuje sebapoškodzovanie a samovražedné myšlienky a Cítim sa exponovaný*á: Chytený*á v sieti neustáleho dohľadu – poukazujú na zneužívanie detí a mladých ľudí, ktorí používajú TikTok, a na spôsoby, akými k tomuto zneužívaniu vedie systém odporúčania obsahu aj základný obchodný model spoločnosti.
Sledovanie a súkromie
Na celom svete sme tiež svedkami zneužívania moderných technológií na špionáž, obťažovanie a zastrašovanie obrancov a obrankýň ľudských práv vrátane mládežníckych aktivistov a na potláčanie sociálnych hnutí.
Okrem samotných problematických technológií sa musíme zamerať aj na sociálne, ekonomické a politické podmienky, ktoré umožňujú alebo podporujú zneužívanie technológií zo strany mocných aktérov, a na ich vplyv na konkrétne skupiny obyvateľstva, ako sú ženy, rasové, etnické a náboženské menšiny, deti, LGBT+ ľudia a osoby zasiahnuté chudobou a nerovnosťou.
Technológie musia umožňovať prístup k informáciám, a nie ich cenzurovať. V Spojených štátoch však obvinili technologické spoločnosti z toho, že umožňujú, aby na internete dochádzalo k cenzúre obsahu týkajúceho sa reprodukčných práv.
Každý má právo na prístup k dôležitým informáciám o reprodukčnom zdraví a právach vrátane interrupcie.
Typy sledovania
- Rozpoznávanie tváre je spôsob identifikácie alebo potvrdenia identity osoby prostredníctvom strojovej analýzy čŕt tváre zaznamenanej na fotografii alebo videu.
- Biometrické sledovanie je sledovanie, ku ktorému dochádza pri identifikácii osôb prostredníctvom charakteristických telesných znakov. Bežnými formami biometrie sú skenovanie odtlačkov prstov a očných dúhoviek.
- Sledovanie prostredníctvom umelej inteligencie je využívanie umelej inteligencie a technológií na monitorovanie, sledovanie, analýzu a identifikáciu osôb, miest a objektov.
Sledovanie prostredníctvom umelej inteligencie
Vlády a podnikateľské subjekty môžu zavádzať sledovanie s použitím umelej inteligencie z rôznych dôvodov. V niektorých prípadoch môže mať takéto sledovanie negatívny vplyv na ľudské práva, ako napríklad pri monitorovaní verejnosti.
Preto je naliehavo potrebné poskytnúť podrobné odporúčania a usmernenia na používanie takýchto technológií. Naše výskumné štúdie poskytujú aj ďalšie podrobné dôkazy na podporu potreby zakázať používanie technológií, ak sú v rozpore s ľudskými právami.
Budeme naďalej sledovať, skúmať a presadzovať prísnejšiu ochranu ľudských práv pri navrhovaní a používaní nových a priekopníckych technológií. Medzi tieto technológie patria umelá inteligencia/strojové učenie, biometrické systémy vrátane technológie rozpoznávania tváre, vznikajúce „inteligentné mestá“ či digitálna mestská infraštruktúra.
Prípadová štúdia: Zakážte technológie na rozpoznávanie tvárí
V januári 2021 Amnesty Tech spustila kampaň Zakážte technológie na rozpoznávanie tvárí, ktorej cieľom je zakázať technológie na rozpoznávanie tvárí na účely identifikácie osôb.
V rámci kampane sme zverejnili prípadové štúdie o vplyve používania technológií na rozpoznávanie tvárí v New Yorku. Poukázali sme na to, že tieto technológie majú neprimeraný dopad na ľudí inej než bielej farby pleti a ohrozujú právo na pokojný protest. Spustili sme aj projekt Dekóduj sledovanie v New Yorku. V rámci projektu tisíce dobrovoľníkov a dobrovoľníčok z celého sveta zmapovali priemyselné kamerové systémy a iné verejné kamery v meste New York, ktoré sa dajú napojiť na softvér na rozpoznávanie tvárí.
Kampaň Zakážte technológie na rozpoznávanie tvárí sa následne rozšírila o policajné zneužívanie technológií na rozpoznávanie tvárí v indickom Hajdarábáde a po zverejnení výskumnej správy Amnesty International s názvom Automatizovaný apartheid aj o izraelský režim dohľadu nad okupovanou populáciou vo východnom Jeruzaleme a Hebrone na Okupovaných palestínskych územiach.
Cielené sledovanie aktivistov a aktivistiek
Orgány na presadzovanie práva, vojenské a spravodajské agentúry sú hlavnými zákazníkmi spoločností zaoberajúcich sa špionážnym a sledovacím softvérom.
Prostredníctvom používania sledovacích nástrojov môžu chcieť zistiť konkrétne informácie o niektorých osobách. Ide o informácie ako miesto pobytu, zdroje novinárov, podrobnosti o organizovaných protestoch, informácie o korupcii a dôkazy o trestnej činnosti.
Vlády tvrdia, že tieto sledovacie nástroje používajú na sledovanie „zločincov a teroristov“. Najčastejším terčom špionážneho softvéru, ako je Predator, sú však aktivisti za ľudské práva, novinárky a kritici vlády. Nezákonné používanie špionážneho softvéru porušuje mnohé ľudské práva. Medzi takto ohrozené práva patria napríklad o právo na súkromie a právo na slobodu prejavu, názoru, zhromažďovania a združovania.
Špionážny softvér však rôznym ľuďom škodí rôznym spôsobom. Údaje sa môžu stať zbraňou a viesť k ďalšiemu zneužívaniu v online aj offline priestore, a to najmä v prípade ľudí, ktorí už čelia diskriminácii na základe svojej identity. Toto zneužívanie môže mať mnoho podôb, napríklad vydieranie, doxing (zverejnenie osobných informácií bez súhlasu dotknutej osoby), kybernetické prenasledovanie, obťažovanie a zastrašovanie.
Prípadová štúdia: Sledovací softvér Pegasus od spoločnosti NSO Group
Výskum poskytol dôkazy o tom, že Pegasus sa dá tajne nainštalovať do telefónov obetí. Útočníkovi umožňuje neobmedzený prístup k správam, e-mailom, médiám, mikrofónu, fotoaparátu, hovorom a kontaktom v zariadení.
Výskumná správa preukázala, že saudskoarabskí agenti používali Pegasus na útoky na rodinných príslušníkov saudskoarabského novinára Džamála Chášukdžího, zavraždeného v Istanbule 2. októbra 2018. Saudskoarabské informačné služby však použili softvér Pegasus proti mnohým ďalším pred ním aj po ňom.
Automatizácia štátneho aparátu a umelá inteligencia
Umelá inteligencia dnes definuje novú technologickú éru podobne, ako ju v minulosti definoval internet. Umelá inteligencia sa dostáva do takmer každého aspektu nášho každodenného života. Formuje a sprostredkúva všetko od výroby a finančných služieb až po zdravotníctvo a hospodárstvo.
Ako štáty využívajú automatizáciu a algoritmické systémy?
Vlády čoraz viac využívajú pri rozhodovacích procesoch algoritmy, napríklad v kontextoch poskytovania zdravotnej starostlivosti, sociálnej starostlivosti, udržiavania verejného poriadku a migrácie.
To predstavuje rôzne riziká a potenciálne škodlivé dôsledky v oblasti ľudských práv. K ohrozeným právam patria právo na rovnosť a nediskrimináciu a celý rad ďalších hospodárskych a sociálnych práv, ako sú právo na vzdelanie a zdravie. Preto je potrebné prijať opatrenia v oblasti transparentnosti a zodpovednosti za ochranu ľudských práv, ktoré toto ohrozenie vyplývajúce z používania automatizovaných systémov zmiernia.
Čo je algoritmické skreslenie
Algoritmické skreslenie nastáva, keď algoritmy robia rozhodnutia, ktoré systematicky znevýhodňujú určité skupiny ľudí.
Výsledkom môže byť napríklad predpovedanie pravdepodobnosti spáchania trestného činu konkrétnou osobou alebo na konkrétnom mieste. Tieto osoby alebo identifikované miesta sa dostanú pod drobnohľad polície, čo môže viesť k diskriminácii dotknutých osôb.
Prípadová štúdia: Chudoba a diskriminácia v srbskom systéme sociálneho zabezpečenia
Výskumná správa s názvom V pasci automatizácie: Chudoba a diskriminácia v srbskom sociálnom systéme dokumentuje, ako automatizovaný systém poskytovania sociálnej pomoci v Srbsku financovaný Svetovou bankou prehlbuje chudobu osôb zo zraniteľných a marginalizovaných komunít tým, že ich oberá o sociálnu pomoc.
Tento problém najviac postihuje rómske komunity a osoby so zdravotným znevýhodnením.
Budúcnosť technologických trendov
Nové technológie budú naďalej transformovať našu spoločnosť.
Vlády čoraz viac využívajú nástroje umelej inteligencie v rozhodovacích procesoch vo verejnom sektore. To bude mať vplyv na životy a práva ľudí.
V Amnesty International sa zameriavame na identifikáciu potenciálnych dôsledkov najnovších technológií, ako je generatívna umelá inteligencia, na ľudské práva a následne na spoluprácu s vládami a firmami s cieľom zabezpečiť, aby sa tieto technológie vyvíjali a zavádzali spôsobom, ktorý rešpektuje ľudské práva.
Nové technológie by sa mali vyvíjať a zavádzať v medziach spoľahlivého systému vyvodzovania zodpovednosti a politík zameraných na ochranu ľudských práv na celom svete. Technológie musia slúžiť najlepším záujmom ľudstva, a nie len záujmom niekoľkých bohatých a mocných vlastníkov spoločností, ktoré tieto technológie vyvíjajú.
Vlády sú povinné zabezpečiť, aby firmy pri investovaní do technológií konali zodpovedne.
Čo robí Amnesty pre to, aby vlády a technologické spoločnosti postupovali zodpovedne?
Veríme, že je načase, aby technológie kládli na prvé miesto ľudí a ľudské práva.
S týmto cieľom robím výskum, vedieme kampane, zasadzujeme sa za zmeny v politikách, bojujeme za spravodlivosť a vyžadujeme zodpovedný prístup od ľudí pri moci. Vytvárame stratégiu pre budúcnosť ľudských práv a technológií, aby sme:
- pretvorili internet tak, aby boli ľudia a ľudské práva na prvom mieste, a to vďaka zabezpečeniu účinnej regulácie technologických gigantov zameranej na ochranu ľudských práv, ako aj väčšej transparentnosti a zodpovednosti firiem;
- predišli používaniu technológií na umlčiavanie aktivistov a aktivistiek a zabránili nezákonnému sledovaniu, cenzúre a vypínaniu internetu;
- prepísali kódy s cieľom chrániť ľudské práva a zabezpečiť, že diskriminácia a predsudky už nebudú súčasťou algoritmov, ktoré rozhodujú o našich životoch.
Naša teória zmeny spočíva v tom, že dokážeme obmedziť zneužívanie technológií zo strany vlád aj korporácií. Najprv využijeme náš jedinečný výskum a komunikačné kapacity na identifikáciu a upozorňovanie na nové spôsoby, akými technológie ohrozujú naše práva. Potom využijeme silu hnutia Amnesty na to, aby sme vytvorili tlak na korporácie a vlády, ako aj na kľúčové multilaterálne inštitúcie, aby prijali zodpovedné a účinné regulačné opatrenia na obmedzenie zneužívania technológií.