VYJADRENIE AMNESTY INTERNATIONAL
6. FEBRUÁRA 2025
Spoločnosť Google zrušila svoj zákaz používania umelej inteligencie (AI) pri vyvíjaní zbraní a nástrojov na sledovanie. Na nebezpečné rozhodnutie reagoval Matt Mahmoudi, výskumný pracovník a poradca Amnesty International pre umelú inteligenciu, technológie a ľudské práva:
„Je vskutku hanebné, že spoločnosť Google sa rozhodla vytvoriť tento nebezpečný precedens. Dospela k tomu po rokoch, keď uznávala, že jej program umelej inteligencie by sa nemal používať spôsobom, ktorý by mohol prispieť k porušovaniu ľudských práv. Amnesty už dlho dokumentuje možné porušovanie ľudských práv pri používaní umelej inteligencie ako prostriedku kontroly spoločnosti, masového dohľadu a diskriminácie.
Technológie využívajúce umelú inteligenciu by sa mohli stať základom systémov dohľadu, čo by viedlo k masovému porušovaniu a obmedzovaniu základného práva na súkromie. Takisto by sa mohli stať základom systémov usmrcovania v obrovskom rozsahu. Rozhodnutím zrušiť svoj zákaz zbraní s umelou inteligenciou si spoločnosť Google umožňuje predávať technologické produkty slúžiace ako prostriedky masového dohľadu, drony vyvinuté na poloautomatizované útoky, ako aj softvér na generovanie cieľov útokov, ktorý je určený na urýchlenie rozhodnutia o zabití.
Spoločnosť Google musí urýchlene zvrátiť nedávne zmeny v zásadách týkajúcich sa umelej inteligencie. Znovu sa musí zaviazať, že sa zdrží vývoja a predaja systémov, ktoré by mohli umožniť závažné porušovanie ľudských práv.
Štáty tiež musia zaviesť záväzné predpisy upravujúce nasadenie týchto technológií v súlade s ľudskými právami. Snaha technologických spoločností udržiavať si fasádu samoregulácie nás nesmie odvádzať od naliehavej potreby vytvoriť spoľahlivý právny rámec na ochranu ľudských práv.“
Kontext situácie
4. februára spoločnosť Google odstránila zo svojej webovej stránky záväzok, že nebude rozvíjať technológie, ktoré „spôsobujú celkovú škodu“, vrátane zbraňových a sledovacích systémov a „technológií, ktorých účel je v rozpore so všeobecne uznávanými zásadami medzinárodného práva a ľudských práv“. Spoločnosť Google túto zmenu obhajovala argumentom, že firmy a vlády musia spolupracovať na vývoji AI, ktorá „podporí národnú bezpečnosť“.
Amnesty vo svojom výskume zdokumentovala, ako systémy na rozpoznávanie tváre posilňujú rasovo diskriminačné policajné opatrenia a ohrozujú právo na protest.
V roku 2019 výskum Amnesty International odhalil, ako je obchodný model spoločnosti Google, založený na sledovaní, vo svojej podstate nezlučiteľný s právom na súkromie. Okrem toho ohrozuje celý rad ďalších práv vrátane práva na slobodu myslenia, názoru, prejavu a práva na rovnosť a nediskrimináciu.