TLAČOVÁ SPRÁVA AMNESTY INTERNATIONAL
21. AUGUSTA 2025
Americké orgány využívajú automatizované nástroje na sledovanie založené na umelej inteligencii (AI) na cielené sledovanie občanov a občianok iných krajín. Ohrozujú tak tých, ktorí sa zasadzujú za práva Palestínčanov a Palestínčaniek. Uviedla to Amnesty International v súvislosti s pokračujúcim nezákonným represívnym postupom voči migrantom, utečenkám a žiadateľom o azyl.
Amnesty International preskúmala podklady z verejných záznamov Ministerstva vnútornej bezpečnosti USA (DHS). Okrem toho preskúmala aj dávnejšie zverejnené dokumenty o verejnom obstarávaní a posudzovaní ochrany súkromia. Vyplýva z nich, že nástroje umelej inteligencie Babel X, ktoré ponúka spoločnosť Babel Street, a Immigration OS od spoločnosti Palantir poskytujú automatizované funkcie, ktoré umožňujú neustále hromadné monitorovanie, sledovanie a posudzovanie osôb, často s cieľom sledovať občanov iných krajín. Výskum tiež odhalil, ako tieto nástroje používa vláda USA na sledovanie migrantiek, utečencov a žiadateľov o azyl. To v konečnom dôsledku predstavuje vysoké riziko ich použitia v rámci iniciatívy „Catch and Revoke“ (Chyť a zruš).
„Hlboko nás znepokojuje, že vláda USA nasadzuje invazívne technológie založené na umelej inteligencii v kontexte stratégie masových deportácií a potláčania propalestínskych prejavov. Tento postup vedie k rozsiahlemu porušovaniu ľudských práv. Tieto technológie umožňujú orgánom sledovať zahraničných študentov a študentky a iné marginalizované skupiny migrantov. Takisto im umožňuje voči nim rýchlo zasahovať. Spomínané technológie vykonávajú tieto činnosti v bezprecedentnom rozsahu a dosahu. Dôsledkami sú nezákonné zadržiavania a masové deportácie. Tie vytvárajú atmosféru strachu a umocňujú ,odstrašujúci efekt‘ na migrantské komunity a zahraničných študentov na školách a univerzitách,“uviedla Erika Guevara-Rosas, riaditeľka Amnesty International pre globálny výskum, advokáciu a politiky.
O budúcnosti jednotlivcov rozhodujú invazívne a chybové technológie
Ministerstvo zahraničných vecí USA v súčasnosti implementuje represívnu iniciatívu s názvom „Catch and Revoke“ (Chyť a zruš). Iniciatíva je založená na umelej inteligencii. Kombinuje pritom monitorovanie sociálnych sietí, sledovanie stavu víz a automatizované vyhodnocovanie hrozby, ktorú predstavujú cudzinci s vízami vrátane zahraničných študentov. Nástroje umelej inteligencie dodávané spoločnosťami Babel Street a Palantir zohrávajú kľúčovú úlohu v schopnosti amerických orgánov rýchlejšie a rozsiahlejšie identifikovať osoby, ako aj ich správanie a pohyb. Na základe vyhodnocovania týchto údajov potom rozhodujú, či im zrušia víza.
Babel X analyzuje príspevky zdieľané jednotlivcami na základe ich online správania a priraďuje im sentiment a pravdepodobný zámer. Babel X a ImmigrationOS pritom dokážu rozpoznávať vzory a automatizovať analýzu údajov pomocou algoritmov. Tieto nástroje tiež zhromažďujú údaje z rôznych verejných a súkromných zdrojov vrátane viacerých vládnych databáz.
Babel X údajne slúži na kontrolu sociálnych sietí pomocou umelej inteligencie s cieľom odhaliť „obsah súvisiaci s terorizmom“. Tieto informácie môžu americké orgány využiť na rozhodnutie odobrať konkrétnej osobe víza. Ak ministerstvo zahraničných vecí rozhodne o zrušení víza, vyšlú agentov ICE z miestnych pobočiek, aby danú osobu zatkli a deportovali. Technológie založené na pravdepodobnosti, ktoré sa používajú na vyvodzovanie záverov o zámeroch jednotlivcov, majú obrovskú chybovosť. Často môžu byť diskriminačné a zaujaté, čo môže viesť k nesprávnemu označeniu propalestínskeho obsahu za antisemitský.
Technológie, ktoré používajú umelú inteligenciu na sledovanie ľudí, predstavujú vážne riziko porušovania ľudských práv
Hrozby pre ľudské práva, ktoré takéto systémy predstavujú, sú dobre známe a existujú už dlho. Počas prvého funkčného obdobia prezidenta Trumpa 55 ľudskoprávnych organizácií (vrátane Amnesty International) a 54 technologických expertov zaslalo orgánomotvorený list. Vyslovili sa v ňom proti zavedeniu podobného automatizovaného systému „extrémneho preverovania“. Organizácie vyhlásili, že takýto systém by bol neúčinný a nevyhnutne by viedol k porušovaniu práva na nediskrimináciu, slobodu prejavu a ďalších ľudských práv migrantov a migrantiek v USA.
„Realizáciu represívnej iniciatívy ,Chyť a zruš‘ umožňujú technológie umelej inteligencie. Iniciatíva predstavuje riziko nárastu svojvoľného a nezákonného rušenia víz, zadržiavania, deportácií a porušovania celej plejády ľudských práv. Patrí medzi ne právo na súkromie, slobodu prejavu a prístup k informáciám, právo na slobodu pohybu, rovnosť a nediskrimináciu, ako aj právo na slobodu a protest,“ uviedla Erika Guevara-Rosas.
Amnesty International analyzovala dokumenty o verejnom obstarávaní, zmluvy a odpovede na žiadosti podľa zákona o slobode informácií (FOIA) podané inými organizáciami. Dokumenty súviseli so všetkými verejne známymi projektmi využívajúcimi umelú inteligenciu, ktoré v súčasnosti realizuje Ministerstvo vnútornej bezpečnosti USA (DHS), Colná a pohraničná stráž (CBP) a Imigračný a colný úrad (ICE). Podľa webovej stránky CBP ICE a CBP v súčasnosti realizujú najmenej 80 projektov využívajúcich umelú inteligenciu.
Babel X od Babel Street
Podľa preskúmaných dokumentov používa CBP systém Babel X minimálne od roku 2019. Táto technológia dokáže zhromažďovať obrovské množstvo údajov z jediného identifikátora, ako je meno osoby, e-mailová adresa alebo telefónne číslo. Má tiež prístup k príspevkom na sociálnych médiách, IP adresám a histórii zamestnania. Okrem toho má prístup k jedinečným identifikačným číslam generovaným pre reklamu v mobilných aplikáciách, ktoré možno použiť na sledovanie polohy zariadenia. Babel X umožňuje rozsiahle monitorovanie rôznych skupín vrátane občanov USA a občanov iných krajín, ako aj trvalých obyvateľov. Jeho úlohou je však predovšetkým monitorovanie utečencov a žiadateľov o azyl. Uvádza sa to v dokumente CBP Privacy Threshold Analysis for Babel X (Analýza ochrany súkromia pre Babel X).
Babel X sa v súčasnosti nachádza na zozname aktívnych projektov CBP v oblasti umelej inteligencie. Označujú ho ako „komerčne zakúpený nástroj, ktorý pomáha CBP zhromažďovať informácie zo sociálnych sietí a otvorených zdrojov o cestujúcich, ktorí môžu podliehať ďalšej kontrole z dôvodu potenciálneho porušenia zákonov, ktoré má CBP oprávnenie vynucovať alebo spravovať“.
Vo februári 2025 hlavný viceprezident pre riziká spoločnosti Babel Street zverejnil článok propagujúci využívanie OSINT (Otvorené zdroje informácií) s podporou umelej inteligencie. Článok propagoval jeho využitie na odhaľovanie a blokovanie „obsahu súvisiaceho s terorizmom“ na účely zadržiavania osôb a ochrany hraníc. Ďalším propagovaným využitím bolo vyhľadávanie „radikalizovaných skupín“ a jednotlivcov pomocou vyhľadávania kľúčových slov vo veľkých databázach dokumentov, novinových článkov a online médií. Spoločnosť Babel Street používa „trvalé vyhľadávanie“ na nepretržité monitorovanie akýchkoľvek nových informácií, ktoré sa objavia na internete alebo v iných vládnych databázach v súvislosti s konkrétnou osobou. To aj po vykonaní počiatočného vyhľadávania. Automatizáciou označovania a zbierania obrovského množstva údajov o označených osobách riskuje Babel X, že tieto osoby budú automaticky považované za podozrivé. Tým ich vystaví riziku zrušenia víz, zadržania a deportácie.
Operačný systém Imigration OS od spoločnosti Palantir
V apríli 2025 ICE uzavrela so spoločnosťou Palantir zmluvu v hodnote 30 miliónov dolárov. Úlohou spoločnosti Palantir malo byť sledovanie „samovoľných deportácií“. Okrem toho mali jej technológie identifikovať ľudí, ktorí by mali byť deportovaní ako prví, najmä tých, ktorým skončila platnosť víz. V tom istom mesiaci spoločnosť 404 Media informovala o uniknutej (internej) správe zo platformy Slack, ktorú poslal technický riaditeľ spoločnosti Palantir:„Za posledných pár týždňov sme vytvorili prototyp novej sady integrácií údajov a pracovných postupov s ICE. To, že nová administratíva kladie dôraz na využívanie údajov na podporu vynucovacích operácií, tieto snahy urýchlilo.“
Systém, ktorý má názov Immigration Lifecycle Operating System (Operačný systém pre imigračný cyklus) (Immigration OS), slúži ako vylepšenie systému Integrated Case Management (Integrovaný systém správy prípadov) (ICM) spoločnosti Palantir, ktorý ICE používa už od roku 2014.
ICM umožňuje zamestnancom ICE vytvoriť elektronický spis, ktorý usporiada a prepojí všetky záznamy a dokumenty súvisiace s konkrétnym [imigračným] vyšetrovaním, takže sú ľahko dostupné z jedného miesta. Zamestnancom tiež umožňuje prepojiť záznamy s viacerými vyšetrovaniami, aby mohli nájsť súvislosti medzi prípadmi. Umožňuje aj prístup k rozsiahlemu množstvu osobných údajov z amerických agentúr a orgánov činných v trestnom konaní.
Nová verzia Immigration OS má nasledujúce funkcie:
- Zjednodušenie výberu a zadržania osôb na základe priorít ICE. Dôraz sa kladie na nadnárodné zločinecké organizácie, násilných zločincov a osoby, ktorým skončila platnosť víz.
- Monitorovanie samovoľného vyhostenia v reálnom čase. Integrácia s prioritizačnými systémami s cieľom ovplyvniť politiky a prideľovanie zdrojov.
- Komplexná správa prisťahovalectva od identifikácie až po vyhostenie so zameraním na efektívnosť vyhostenia.
Immigration OS predovšetkým automatizuje už beztak značne chybný a nezodpovedný proces, ktorý má za sebou históriu porušovania právnych postupov a ľudských práv. Stáva sa tak ešte menej prehľadným a menej kontrolovateľným.
Spoločnosť Palantir uznala, že má obavy zo zneužívania jej technológií na porušovanie ľudských práv
Počas prvého funkčného obdobia prezidenta Trumpa, v roku 2020, organizácia Amnesty International napísala spoločnosti Palantir list. Týkal sa jej postupov v oblasti náležitej starostlivosti v oblasti ľudských práv.
V reakcii na to spoločnosť Palantir priznala: „[…] zámerne sme odmietli uzatvoriť zmluvy s [ICE Enforcement and Removal Operations] (Operácie ICE spojené s dohľadom a deportáciou) a CBP za súčasnej [vtedajšej] vlády. Máme totiž rovnaké obavy ako vaša organizácia v súvislosti s potenciálnym závažným porušovaním ľudských práv migrantov, utečencov a žiadateľov o azyl na americko-mexických hraniciach a rizikom neprimeraného presadzovania imigračných zákonov v USA.“
Vševidiaci štát a odstrašujúci efekt na protestujúcich zahraničných študentov
8. marca 2025 americká vláda nezákonne zadržala Mahmúda Khalila. Mahmúd je bývalý absolvent Kolumbijskej univerzity. Bol hovorcom študentov protestujúcich na akademickej pôde a je trvalým obyvateľom USA. Prezident Trump vyhlásil, že ide o „prvé zo série zatknutí, ktoré ešte len prídu“. Krátko nato zrušili víza alebo pobytové povolenia deviatim zahraničným študentom. Títo študenti a študentky sa zúčastnili protestov alebo sa verejne postavili proti genocíde Izraela v Gaze. Mahmúda Khalila prepustili z väzby ICE 20. júna.
V inom zdokumentovanom prípade šiesti imigrační úradníci v civilnom oblečení zadržali Rumeysu Ozturk, tureckú doktorandku z Tufts Univeristy, v blízkosti jej domu a odvliekli ju do neoznačeného auta. Imigrační agenti sa odmietli preukázať, až kým ju nezadržali. Jej jediným zjavným priestupkom bolo spoluautorstvo článku, v ktorom kritizovala nedostatočnú reakciu svojej školy na požiadavky študentstva týkajúce sa Gazy. Hovorca Ministerstva vnútornej bezpečnosti USA neskôr bez uvedenia dôkazov vyhlásil, že sa „podieľala na aktivitách na podporu Hamasu“.
Vláda USA má právo zamietnuť a zrušiť víza žiadateľom. Nesmie to však urobiť spôsobom, ktorý porušuje práva chránené americkou ústavou a medzinárodným právom v oblasti ľudských práv vrátane práva na slobodu prejavu a práva na spravodlivý súdny proces.
Represívne taktiky súčasnej vlády a bezdôvodné rušenie imigračného statusu ľudí svedčia o úplnom ignorovaní ľudských práv na slobodu prejavu a pokojného zhromažďovania. Ide o otvorené porušenie práva na rovnosť a nediskrimináciu, pričom držitelia víz a azylanti sú priamym terčom systémov riadených umelou inteligenciou.
Reakcie firiem na naše zistenia
Amnesty International 10. júla 2025 kontaktovala spoločnosti Palantir Technologies a Babel Street so žiadosťou o komentár k uvedeným zisteniam. Spoločnosť Babel Street neodpovedala.
Spoločnosť Palantir Technologies odpovedala 24. júla 2025, že jej produkt sa nepoužíva na podporu iniciatívy „Chyť a zruš“ Ministerstva zahraničných vecí USA. Objasnila, že Palantir má zmluvu s Úradom pre imigráciu a colnú správu (ICE) Ministerstva vnútornej bezpečnosti USA. Palantir tvrdí, že zmluva sa špecificky nezameriava na protestujúcich študentov. Tiež tvrdí, že jej produkty neslúžia na podporu porušovania práv pri presadzovaní imigračných zákonov.
Spoločnosť Palantir potvrdila, že nedávne rozšírenie ICM (označované ako „Immigration OS“) „[…] zahŕňa činnosti, ktoré priamo slúžia poslaniu [tzv Operácie ICE spojené s dohľadom a deportáciou], a potvrdila, že to zahŕňa nasledujúce funkcie: „(a) Priorizácia a cielené presadzovanie operácií, (b) Sledovanie samovoľného vyhostenia a (c Operácie ICE spojené s dohľadom a deportáciou.“.
Spoločnosti Babel Street a Palantir uzatvorili zmluvy s CBP a ICE. Misia s názvom Operácie presadzovania a odstraňovania ICE (ICE Enforcement Removal Operations (ERO)) však riadi všetky aspekty procesov presadzovania imigračných zákonov vrátane „identifikácie, zatknutia, zadržania a vyhostenia cudzincov“. ICE je operačná zložka poverená vykonávaním rozhodnutí všetkých amerických agentúr zaoberajúcich sa riadením migrácie vrátane Ministerstva zahraničných vecí USA.
Inými slovami, ICE zohráva kľúčovú úlohu pri presadzovaní iniciatívy „Chyť a zruš“ prostredníctvom agresívnych taktík sledovania a zadržiavania, aj keď túto politiku ako celok implementuje Ministerstvo zahraničných vecí USA. Tieto odpovede v zásade neriešia obavy vyplývajúce z tohto výskumu. Naše obavy totiž naznačujú, že technológie spoločností Palantir a Babel Street môžu v dôsledku ich zmlúv s federálnymi imigračnými orgánmi prispievať k porušovaniu ľudských práv migrantov.
Riziko porušovania ľudských práv sa dalo predvídať
„Systémy ako Babel X a Immigration OS zohrávajú kľúčovú úlohu v schopnosti americkej administratívy implementovať represívne taktiky. Tieto systémy uľahčujú rýchle automatizované rozhodnutia, ktoré viedli k masovým deportáciám vykonávaným s bezprecedentnou rýchlosťou. Takto vykonávané deportácie neumožňujú adekvátny súdny proces. Predstavujú pritom významné riziko pre ľudské práva všetkých imigrantov vrátane študentov, ktorí nie sú občanmi USA,“ uviedla Erika Guevara Rosas.
Vzhľadom na predchádzajúce vzťahy spoločností Palantir a Babel Street s vládou USA a verejný zámer Trumpovej administratívy vykonávať masové deportácie mohli tieto spoločnosti rozumne predvídať riziko ujmy v celej krajine. Mali preto prehodnotiť uzavretie týchto zmlúv, aby sa spomenutým rizikám vyhli v súlade s medzinárodnými normami v oblasti ľudských práv.
Ak by spoločnosti Palantir a Babel Street v roku 2025 riadne vykonali náležitú starostlivosť v oblasti ľudských práv a splnili svoje povinnosti v tejto oblasti, mohli a mali by podobne odmietnuť účasť na týchto masových deportáciách. Poskytovaním tejto technológie bez primeraných záruk spoločnosti ako Babel Street a Palantir riskujú, že prispejú k porušovaniu ľudských práv v súvislosti s týmito opatreniami.
Spoločnosti sa nesmú podieľať na porušovaní ľudských práv
Amnesty International si uvedomuje dôležitosť uplatňovania tlaku, pokiaľ je to možné, v akýchkoľvek obchodných vzťahoch, ktoré sa týkajú ľudských práv. Je mimoriadne dôležité, aby spoločnosti nespôsobovali, neprispievali ani neboli priamo spojené s porušovaním ľudských práv.
„Využitie tejto technológie v tomto kontexte môže posilniť schopnosť Trumpovej administratívy prijímať svojvoľné rozhodnutia o deportácii marginalizovaných ľudí na základe momentálnej nálady a v masovom rozsahu. Títo ľudia pritom budú mať obmedzený alebo žiadny prístup k spravodlivému súdnemu konaniu. Nesmieme zabúdať, že tieto systémy sú teraz v rukách administratívy, ktorá už poslala ľudí do krutého väzenia v Salvádore na základe predpokladu, že by mohli v budúcnosti spáchať trestný čin,“uviedla Erika Guevara-Rosas.
„Okrem toho nemožno ignorovať neistú situáciu v oblasti víz, najmä pre marginalizované skupiny, ako sú niektorí zahraniční študenti. Spoločnosti Palantir a Babel Street by mali vykonať a zverejniť všetky zistenia vyplývajúce z procesov náležitej starostlivosti v oblasti ľudských práv. Pokiaľ spoločnosti Palantir a Babel Street nedokážu preukázať, že môžu využiť svoj vplyv ako dodávatelia na to, aby napravili závažné dôsledky politiky svojich klientov v oblasti ľudských práv, mali by okamžite ukončiť spoluprácu s americkou vládou v oblasti presadzovania imigračných zákonov.“
Amnesty International tiež vyzýva Kongres Spojených štátov, aby prijal opatrenia na posilnenie svojich kontrolných a regulačných mechanizmov s cieľom zabezpečiť, aby tieto technologické spoločnosti neprispievali k porušovaniu ľudských práv.
Kontext situácie
27. marca americký minister zahraničných vecí Marco Rubio oznámil, že od januára zrušil víza najmenej 300 študentom a turistom.
Najnovšie správy naznačujú, že víza zrušili najmenej 1 800 a najviac 4 000 študentom a študentkám. Mnohí z dotknutých študentov tvrdia, že sa nikdy nezúčastnili protestov. Okrem toho im nikdy nedoručili oznámenie o zrušení víz. Niektorí z nich však mali počas pobytu v USA ojedinelé kontakty s policajnými orgánmi, napríklad v dôsledku drobných dopravných priestupkov. Podľa žaloby podanej v mene dvoch študentov v Kalifornii študenti čelili prenasledovaniu, pretože pochádzali z afrických, arabských, ázijských, blízkovýchodných a moslimských krajín.
Amnesty International už dávnejšie zdokumentovala, ako ICE používa systém ICM spoločnosti Palantir na presadzovanie škodlivých politík zameraných na migrantov a žiadateľov o azyl. Amnesty upozornila na vysoké riziko, že Palantir prispieva k porušovaniu ľudských práv prostredníctvom technológií, ktoré aj v minulosti uľahčovali priebeh zásahov ICE.