Umělá inteligence dokáže posuzovat informace podobně jako intelektuální jedinec, tvrdí zveřejněný návrh plánovaného doporučení Organizace OSN pro vzdělání, vědu a kulturu. Jakým způsobem ale zajistit, aby se umělá inteligence řídila lidskými morálními zásadami?

Umělá inteligence (artificial intelligence, „AI“) je velmi abstraktní pojem, pod kterým si většina lidí nedokáže představit konkrétní příklad. Možná je to tím, že kolikrát ani nevnímáme, že využívaná funkce či technologie v sobě systém umělé inteligence obsahuje. Když se však rozhlédneme, nalezneme ji všude kolem nás: jedná se například o mobilní aplikace, chytré přístroje v domácnosti nebo sledovací systémy s různými algoritmy.

Ad hoc expertní skupina („Expertní skupina“) přistupuje k AI jako k technologickému systému, který má schopnost zpracovávat různá data a informace na základě aspektů uvažování, učení, vnímání, predikce, plánování nebo kontroly, jež se dají přirovnat k inteligentnímu chování. Je navržený tak, aby fungoval na základě prvků autonomního uvažování s využíváním poskytnutých dat. Přesné vymezení AI není v dokumentu definováno, z důvodu neustálého vývoje technologií, a pouze stanovuje její základní poznávací znaky.

Může být umělá inteligence diskriminační?

Technologie s AI výrazně zasahují do našich životů a můžou mít jak pozitivní, tak negativní vliv na naše základní práva a svobody. Příkladem může být algoritmus, který využívaly orgány státní správy v Nizozemsku, jak dále zmiňuje výzkumná zpráva Amnesty International.

Nedávná zpráva Amnesty International vydaná v září tohoto roku se týká policejního monitorování osob v Nizozemsku využívajícího algoritmus, který rozhodoval na základě diskriminačních prvků.

Zpráva pojednává o policejní taktice k odhalení potenciálních pachatelů trestného činu krádeže v městečku Roermond. Na základě sesbíraných dat a pomocí algoritmu profiluje osoby s vysokým rizikem pravděpodobnosti spáchání tohoto činu. Ačkoliv je tento algoritmus prezentovaný jako nediskriminační, Amnesty International ve zprávě uvádí, že tíhne k většímu zaměření na osoby pocházející z východní Evropy, v důsledku čehož dochází k diskriminaci na základě národnosti.

Normativní instrument jako nezbytný krok

Jelikož se jedná o novou oblast v rámci mezinárodního práva, nejsou k ní jasně vytvořená pravidla a normy. Právě z toho důvodu vznikla Expertní skupina, jejímž úkolem je vypracovat normativní instrument stanovující globální etické standardy v této oblasti.

Expertní skupina čítající 24 členů byla ustanovena na základě rozhodnutí Organizace OSN pro vzdělání, vědu a kulturu („UNESCO“) během 40. Generální konference v roce 2019. V září 2020 skupina zveřejnila první finální verzi Doporučení k etice umělé inteligence („Doporučení“). Aktuální verzi textu nejdříve konzultovala se zapojením širokého množství zúčastněných stran. Do diskuze přispěla jak veřejnost tak státy (Thajsko, Kongo) či regionálních skupiny zemí (Arabská, Africká, Evropská, Karibská, Latinskoamerická, Evropské unie, Severní Ameriky, Asie a Pacifiku).

Na základě proběhlé konzultace Expertní skupina nasbírala velké množství podnětných připomínek, které nadále zapracovala do současné verze textu. Návrh je nyní otevřen písemným připomínkám členských států až do konce prosince 2020. Následným krokem bude konzultace finální verze dokumentu se zvláštním výborem vládních expertů, který bude svolán v roce 2021 a sejde se pravděpodobně na dvou jednáních v dubnu a květnu. Předložení závěrečného Doporučení se očekává na 41. Generální konferenci UNESCO ke konci roku 2021.

Pravidla etiky páteří AI

Výchozím bodem Doporučení je teze, že by etika neměla být sekundárním prvkem systémů AI, ale měla by ležet v jejich základech. Chování a architektura AI by měly vycházet z etických norem a principů. Text sestává ze tří hlavních pilířů ve smyslu hodnot a principů, politických opatření a monitorovacího mechanismu. Obsah pilířů má být aplikován v souladu s mezinárodním právem, základními lidskými právy, principy a standardy. Z dokumentu vyplývá, že by pilíře měly fungovat jako jeden propojený systém, který na sebe vzájemně navazuje.

Hodnoty a principy

Hodnoty definované v dokumentu jsou seskupeny do čtyř jednotlivých oblastí. Zaprvé se zaměřují na respektování, ochranu a prosazování lidské důstojnosti, lidských práv a základních svobod, za druhé na prosperující životní prostředí a ekosystém, za další zmiňují zajištění rozmanitosti a inkluze a v neposlední řadě se zaměřují na život v harmonii a míru.

Principy pak pomáhají jednodušeji přenášet hodnoty do praxe v konkrétních případech. Doporučení stanovuje přesně deset principů, které by měly být dodržovány. Mezi nimi například proporcionalitu, bezpečnost, zákaz diskriminace a další. Respektování a prosazování hodnot a principů výše uvedených je nezbytné při utváření nové legislativy či byznysových vodítek.

Politická opatření

Dalším zmiňovaným pilířem, který slouží k dosažení implementace etických norem do příslušné legislativy věnující se AI jsou politiky věnující se různým tematickým oblastem. Právě skrze tyto činnosti a opatření dochází k řádné aplikaci výše popsaných hodnot a principů v praxi.

Monitorující mechanismy

V neposlední řadě, a tudíž zbývajícím pilířem, jsou monitorující mechanismy, které by státy měly využívat k důvěryhodnému a transparentnímu posuzování, sledování a hodnocení politik, programů a mechanismů souvisejících s etikou AI. Doporučení blíže nabízí několik rad pro jejich provedení.

Význam dokumentu

Cennou stránkou dokumentu jsou jeho praktická doporučení sloužící jako vodítka státům při formulování politických opatření k systémům AI a etickým zásadám.

Přidaná hodnota textu leží v jeho globálnosti jak z pohledu obsahového, tak procedurálního. Vzhledem k tomu, že je vypracovaný agenturou OSN, tak se jedná o dokument globální povahy, který bere v potaz specifické aspekty různých kultur.

Doporučení bude prvním mezinárodním dokumentem definujícím etická pravidla a potřebné kroky k ochraně lidských práv v kontextu umělé inteligence. Na mezinárodní úrovni můžeme ještě očekávat vydání zprávy Poradního výboru Rady OSN pro lidská práva, která se má zaměřit na nové digitální technologie a lidská práva. Co se týče regulace této oblasti na regionální úrovni, je třeba zmínit Výbor k umělé inteligenci zřízený v rámci Rady Evropy (viz Bulletin prosinec 2019, s. 9).

 Zdroje

Amnesty International. 2020. WE SENSE TROUBLE: AUTOMATED DISCRIMINATION AND MASS SURVEILLANCE IN PREDICTIVE POLICING IN THE NETHERLANDS. Londýn: Amnesty International Ltd (https://www.amnesty.org/en/documents/eur35/2971/2020/en/)

UNESCO. 2020. FIRST DRAFT OF THE RECOMMENDATION ON THE ETHICS OF ARTIFICIAL INTELLIGENCE. Paříž: Ad Hoc Expert Group (AHEG) for the preparation of a draft text of a recommendation on the ethics of artificial intelligence (https://en.unesco.org/artificial-intelligence/ethics)

UNESCO. Elaboration of a Recommendation on the ethics of artificial intelligence. (https://en.unesco.org/artificial-intelligence/ethics).

UNHRC. New and emerging digital technologies and human rights. (https://www.ohchr.org/EN/HRBodies/HRC/AdvisoryCommittee/Pages/DigitalTechnologiesandHR.aspx).

Fotografie

[1] Všeobecná deklarace lidských práv. Eleanor Roosevelt UDHR (27758131387), autor: FDR Presidential Library & Museum, 20. prosince 2016, zdroj: Wikimedia Commons, CC BY 2.0, editace: ořez.