Vývoj umělé inteligence s sebou přináší mnoho příležitostí pro revoluční pokrok nejen v technologii, ale i v dalších oblastech života. Společnost si zároveň začíná uvědomovat rizika, která jsou s těmito nástroji spojená. Za účelem lepší ochrany lidských práv, ale i mezinárodní bezpečnosti, přijímá OSN v souvislosti s umělou inteligencí historicky první rezoluci.

Valné shromáždění OSN jednomyslně přijalo vůbec první rezoluci o umělé inteligenci, která se zasazuje o vývoj bezpečných, spolehlivých a důvěryhodných systémů tohoto nástroje. Rezoluce, kterou v druhé polovině března 2024 přijalo všech 193 členských států OSN, je nezávaznou dohodou, která podporuje využívání umělé inteligence s ohledem na člověka a ochranu jeho soukromí.

Rezoluce předložená Spojenými státy upozorňuje na nutnost respektovat a chránit lidská práva ve všech fázích vývoje umělé inteligence, od návrhu až po její nasazení a používání. Naléhavě vyzývá členské státy, aby se chopily příležitostí a řešily výzvy, které umělá inteligence přináší, a zasazuje se o spolupráci při jejím vytváření a zavádění odpovědným a etickým způsobem.

Umělá inteligence, Rusko a Čína

Poradce pro národní bezpečnost USA, Jake Sullivan, uvedl, že vyjednávání rezoluce o umělé inteligenci, které trvalo téměř čtyři měsíce, poskytuje světu „základní soubor zásad, jimiž se bude řídit další vývoj a využívání umělé inteligence“. Během tiskového brífinku vyšší představitelé americké administrativy připustili, že s některými zeměmi, včetně Ruska a Číny, proběhly „ostré rozhovory".

Čínští i ruští představitelé projevují zájem o zkoumání možného využití nástrojů umělé inteligence pro různé účely. Společnost Microsoft minulý měsíc oznámila, že hackeři z obou zemí používali software OpenAI podporovaný Microsoftem ke zlepšení svých špionážních dovedností. Čína se vůči zprávě společnosti ohradila a její obsah označila za nepodložená tvrzení, zatímco Rusko zjištění uvedená ve zprávě  ponechalo bez komentáře.

Technologický pokrok, ale i cenzura a represe

Riziky spojenými s umělou inteligencí v souvislosti s dodržováním lidských práv se zabývá mimo jiné nevládní organizace Freedom House, která ve své zprávě věnované tomuto tématu poukazuje na celosvětový pokles svobody na internetu, a to již třináctým rokem v řadě. Vlády některých zemí zneužívají umělou inteligenci k digitální represi, cenzuře, dohledu nad svými občany, kontrole internetového obsahu nebo manipulaci s diskusemi v online prostoru.

Zpráva uvádí, že tuto taktiku používá nejméně 16 zemí, nejhorším prostředím pro svobodu na internetu má být Írán a Čína. Právním postihům za online vyjádření k politickým, sociálním nebo náboženským tématům čelili v roce 2023 obyvatelé 55 ze 70 sledovaných zemí, lidé ve 41 zemích se kvůli komentářům na internetu stali terčem fyzických útoků. V obou jevech se jedná o rekordní počet zaznamenaných případů za posledních třináct let.

Dle zprávy také nejméně 47 vlád nasazuje komentátory k manipulaci s online diskusemi v jejich prospěch, což je dvakrát více než před deseti lety. Sofistikovanější nástroje založené na umělé inteligenci nyní usnadňují manipulaci s textem, zvukem i obrazovým materiálem, a pro vlády je tak jednoduše využitelná pro zasévání pochybností, očerňování politických oponentů nebo ovlivňování veřejné debaty.

Zástupci Freedom House proto vyzývají k zavedení přísných standardů pro používání nástrojů umělé inteligence založené na lidských právech. Naléhají také na demokratické státy a mezinárodní organizace, aby spolupracovaly s odborníky a zástupci občanské společnosti a zajistili, že umělá inteligence bude posilovat, nikoliv podkopávat lidská práva.

Umělá inteligence jako výzva pro mezinárodní bezpečnost

Využití umělé inteligence vyvolává obavy také v kontextu několika oblastí mezinárodní bezpečnosti. Na poli biologické bezpečnosti může tento nástroj vést k vytvoření nových nebezpečných patogenů, v oblasti farmacie by umělá inteligence mohla být zneužita k vygenerování tisíců nových chemických zbraní, a to za pomoci umělých agentů založených na velkých jazykových modelech, které dokáží porozumět programům pro objevování léčiv podobně, jako prostému posílání e-mailů.

Integrace umělé inteligence do systémů jaderných zbraní vytváří složité a potenciálně rizikové prostředí. Někteří odborníci tvrdí, že by takový krok mohl zkvalitnit systémy včasného varování, posílit schopnosti velení a řízení, nebo  zrychlit rozhodovací procesy. Tato technologie by navíc umožňovala analyzovat obrovské množství dat, a odhalit tak potenciální hrozby, na které by bylo možné reagovat o mnoho rychleji, než při jejich vyhodnocování člověkem. 

Existují však obavy, že by se systémy jaderných zbraní mohly stát zranitelnými vůči kybernetickým útokům nebo manipulaci zvenčí, a mechanismy jaderného odstrašování by tak ztratily na spolehlivosti. Důvodem ke zdrženlivosti v souvislosti se zapojením umělé inteligence do citlivých vojenských technologií je také riziko nesprávné interpretace dat, což by mohlo vést k chybným výpočtům a posléze neúmyslné eskalaci.

Evropská unie ač o krok napřed, čelí kritice

Evropská unie přijala v první polovině března 2024 nařízení o umělé inteligenci, první komplexní právní rámec pro umělou inteligenci na světě. Amnesty International však novou regulaci kritizuje, a to kvůli tomu, že údajně nerespektuje základní zásady lidských práv a poskytuje omezenou ochranu zdravotně postiženým, marginalizovaným osobám, migrantům, uprchlíkům a žadatelům o azyl.

Ve své kritice naráží lidskoprávní organizace na jeden z nejzávažnějších problémů umělé inteligence v souvislosti s lidskými právy, kterým je její předpojatost. Všudypřítomný problém týkající se různých oblastí života má na marginalizované komunity vysoce negativní dopad. Neobjektivní data, se kterými umělá inteligence pracuje už ve stádiu vývoje, a na základě nichž se učí předpovídat budoucí vývoj, mohou vést například k nespravedlivému zacházení při přijímání zaměstnanců, schvalování úvěrů, poskytování zdravotní péče nebo v trestním soudnictví.

Akt EU o umělé inteligenci si klade za cíl využívat v EU takové systémy, které budou „bezpečné, transparentní, sledovatelné, nediskriminační a šetrné k životnímu prostředí“. Dohlížet by na ně měl člověk, aby se zabránilo nežádoucím dopadům. Nařízení dle Amnesty International ale postrádá náležitá ustanovení o odpovědnosti a transparentnosti při vývoji a užívání umělé inteligence, která by měla porušování lidských práv zabránit. Evropská unie tak podle organizace upřednostnila zájmy průmyslu a úřadů před ochranou práv lidí. Amnesty International proto vyzývá země mimo EU, aby se poučily ze selhání Unie při snaze vytvářet regulace v oblasti umělé inteligence, a aby zavedly důkladné a závazné právní předpisy, které upřednostňují lidská práva.

 

Zdroje

Alper, A. (2024, březen). UN adopts first global artificial intelligence resolution. Reuters. Získáno z https://www.reuters.com/technology/cybersecurity/un-adopts-first-global-artificial-intelligence-resolution-2024-03-21/.

EU AI Act: first regulation on artificial intelligence (2023, červen 8). European Parliament. Získáno z https://www.europarl.europa.eu/topics/en/article/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence.

EU: Artificial Intelligence rulebook fails to stop proliferation of abusive technologies (2024, březen 13). Amnesty International. Získáno z https://www.amnesty.org/en/latest/news/2024/03/eu-artificial-intelligence-rulebook-fails-to-stop-proliferation-of-abusive-technologies/.

General Assembly adopts landmark resolution on artificial intelligence (2024, březen 21). UN News. Získáno z https://news.un.org/en/story/2024/03/1147831.

Chee, Y. F. (2024, březen). Europe one step away from landmark AI rules after lawmakers’ vote. Reuters. Získáno z https://www.reuters.com/technology/eu-lawmakers-endorse-political-deal-artificial-intelligence-rules-2024-03-13/.

Javorsky, E., Chaudhry, H. (2023, srpen). Convergence: Artificial intelligence and the new and old weapons of mass destruction. Bulletin of the Atomic Scientists. Získáno z https://thebulletin.org/2023/08/convergence-artificial-intelligence-and-the-new-and-old-weapons-of-mass-destruction/.

Kaur, S. (2024, březen). Artificial Intelligence and the Evolving Landscape of Nuclear Strategy. Union of Concerned Scientists. Získáno z https://blog.ucsusa.org/science-blogger/artificial-intelligence-and-the-evolving-landscape-of-nuclear-strategy/.

Min, A. (2023). Artificial Intelligence and Bias: Challenges, Implications, and Remedies. Journal Of Social Research, 2(11), 3808-3817.

NEW REPORT: Advances in Artificial Intelligence Are Amplifying a Crisis for Human Rights Online (2023, říjen 4). Freedom House. Získáno z https://freedomhouse.org/article/new-report-advances-artificial-intelligence-are-amplifying-crisis-human-rights-online.

Fotografie

Přijetí rezoluce má být krokem vpřed v ochraně lidských práv v online prostoru. The Assembly Hall, Palais des Nations (47570471872), autor: Torbjorn Toby Jorgensen, 15. duben 2019, zdroj: Wikimedia Commons, CC BY-SA 2.0 DEED.