Európsky parlament dňa 14. júna 2023 schválil Zákon o umelej inteligencii (AI Act), ktorým sa zakazujú niektoré technológie diskriminačného dohľadu. Zákon znemožní využívanie umelej inteligencie na biometrickú identifikáciu vrátane. Zákaz zahŕňa rozpoznávania tváre, udeľovanie tzv. sociálneho kreditu, kategorizáciu ľudí podľa rodu alebo farby pleti, rozpoznávanie emócií či kognitívnu manipuláciu správania. Prioritou parlamentu pritom bolo zabezpečiť bezpečné, transparentné, sledovateľné a nediskriminačné používanie systémov umelej inteligencie. Parlament kládol dôraz aj na používanie metód, ktoré sú zároveň šetrné k životnému prostrediu.
Amnesty International víta zákaz diskriminačného dohľadu prostredníctvom systémov umelej inteligencie. Vynechanie zraniteľných skupín, konkrétne ľudí na úteku, zo znenia zákona však vyvoláva v organizácii vážne obavy.
Mher Hakobyan, advokačný poradca Amnesty International pre oblasť regulácie umelej inteligencie uviedol, že Amnesty tento krok víta. „Je však nevyhnutné, aby Európsky parlament a členské štáty EÚ počas nadchádzajúcich rokovaní urobili viac. Spoločne musia zabezpečiť, že konečná podoba Zákona o umelej inteligencii zakáže vývoj, predaj, používanie a vývoz technológií na rozpoznávanie tváre. Zákaz sa musí týkať aj ďalších diskriminačných technológií hromadného dohľadu využívajúcich umelú inteligenciu. Biometrickú identifikáciu na diaľku nemožno využívať v súlade s ľudskými právami – to nedokážu zabezpečiť ani žiadne dodatočné technické úpravy. Jediný spôsob, akým ľudské práva pred touto technológiou ochrániť, je úplne ju zakázať.“
EP sa v rokovacej pozícii dostatočne nevenuje ochrane ľudských práv ľudí na úteku
Amnesty International vážne znepokojil fakt, že EP do schválenej rokovacej pozície nezahrnul aj dostatočnú ochranu ľudských práv ľudí na úteku. Amnesty International a ďalšie ľudskoprávne organizácie dlhodobo upozorňujú vážnosť situácie. Práve ľudia, ktorí na hraniciach EÚ hľadajú potrebnú ochranu, totiž najčastejšie čelia systematickému porušovaniu ľudských práv. Škodlivé využívanie niektorých foriem umelej inteligencie by významne prispelo k zhoršeniu ich ľudskoprávnej situácie. Zákon o umelej inteligencii by mal tieto riziká reflektovať.
„Európsky parlament nebol schopný zakázať systémy využívajúce umelú inteligenciu na diskriminačné posudzovanie osôb na základe prisudzovanej rasovej či etnickej príslušnosti a ďalších vonkajších znakov, ktoré sa používajú predovšetkým na obmedzenie, zákaz a prevenciu pohybu na hraniciach EÚ. Rokovania o Zákone o umelej inteligencii sa blížia k záveru a Európsky parlament je povinný dbať o dodržiavanie ľudských práv, preto musí bezodkladne venovať pozornosť právam ľudí na úteku,“ dodal Hakobyan.