V roce 2024 byla na půdě Rady Evropy představena první globální právně závazná rámcová úmluva o umělé inteligenci, lidských právech, demokracii a právním státu. Tento významný právní nástroj stanoví základní pravidla pro vývoj, nasazení a používání systémů umělé inteligence (AI) tak, aby byly v souladu s fundamentálními hodnotami moderní společnosti. Úmluva byla otevřena k podpisu 5. září 2024 a zahrnuje nejen členské státy Evropské unie, ale také státy jako jsou Spojené státy americké, Velkou Británii nebo Norsko.
Kontext a význam úmluvy
Text úmluvy vznikal v několikaletém procesu odborných konzultací a mezinárodních vyjednávání pod vedením Výboru pro umělou inteligenci (CAI). Tento výbor navázal na práce ad hoc komise, která od roku 2019 zkoumala proveditelnost rámcové úmluvy zaměřené na zajištění ochrany základních práv při používání AI. Úmluva je v souladu s obecným právem Unie (zejména s Aktem o umělé inteligenci), a doplňuje stávající mezinárodní standardy v oblasti ochrany lidských práv. Přestože je úmluva prakticky technologicky neutrální a nijak specificky nereguluje vývoj umělé inteligence, zahrnuje zásady, které reflektují specifika AI.
Klíčové zásady úmluvy
Úmluva stanoví především základní principy, které musí být dodržovány v celém životním cyklu systémů AI. Mezi ně patří zejména respekt k lidské důstojnosti, nediskriminace, ochrana soukromí, transparentnost, odpovědnost a bezpečné inovace. Systémy AI např. nesmí být využívány způsoby, které by ohrožovaly demokratické procesy, jako jsou volby, nebo zasahovaly do nezávislosti soudnictví.
Povinnosti vyplývající z úmluvy zahrnují provádění posouzení rizik a jejich dopadů na lidská práva, demokracii a právní stát. Státy jsou také povinny zavádět odpovídající preventivní a zmírňující opatření, případně zakázat některé aplikace AI, pokud představují nepřiměřené riziko. Úmluva rovněž zahrnuje právo osob být informován o používání AI systémů, a to zejména v situacích, kdy rozhodnutí těchto systémů může mít výrazný dopad na jejich práva či svobody.
Implementace a sledování
Povinnosti a základní principy plynoucí z úmluvy se vztahují zejména na činnosti prováděné veřejnými orgány nebo soukromými subjekty jednajícími jejich jménem. Subjekty soukromého sektoru pak mohou aplikovat úmluvu buď přímo prostřednictvím přijetí právních závazků, nebo prostřednictvím alternativních opatření. Výjimkami z těchto povinností jsou oblasti národní obrany, výzkumu a vývoje, avšak pokud testování systémů nemá potenciál zasahovat do lidských práv, demokracie nebo právního státu.
Pro zajištění dlouhodobé účinnosti stanoví úmluva mechanismus pravidelného hodnocení prostřednictvím tzv. konference smluvních stran. Tyto konference budou složeny ze zástupců států, které úmluvu ratifikovaly, a jejich úkolem je monitorovat dodržování ustanovení úmluvy, vydávat doporučení a facilitovat spolupráci mezi státy i odbornou veřejností.
Vztah k ostatním právním rámcům
Úmluva Rady Evropy není jediným právním nástrojem regulujícím AI. Např. Evropská unie přijala již zmíněný Akt o umělé inteligenci, který stanoví harmonizovaná pravidla pro vývoj a provoz AI systémů na jednotném trhu. Úmluva však svým dopadem překračuje hranice EU a nabízí globální přístup k regulaci AI, přičemž harmonizuje pravidla i s jinými významnými regulacemi.
Závěr
První globální rámcová úmluva o umělé inteligenci představuje zásadní krok k harmonizaci pravidel v této dynamicky se rozvíjející oblasti. Úmluva nejenže zdůrazňuje klíčovou roli ochrany lidských práv, demokracie a právního státu, ale zároveň podtrhuje nezbytnost mezinárodní spolupráce při vytváření odpovědných pravidel pro využívání AI. Tento právní nástroj ukazuje, že vyvážený přístup mezi technologickým pokrokem a společenskými hodnotami je nezbytný, a nabízí důležitý rámec pro budoucí vývoj AI a její implementaci do společnosti.
