Akt o umělé inteligenci (Akt) klade důraz na ustanovení strukturovaného rámce pro regulaci umělé inteligence (AI) v Evropské unii. V jeho jádru stojí několik klíčových orgánů a mechanismů, které jsou nezbytné pro účinnou implementaci a monitorování pravidel a standardů týkajících se AI. V tomto článku představíme tyto orgány, jejich role a pravomoci, které budou hrát klíčovou roli v budoucím vývoji umělé inteligence v Evropě.
Evropská rada pro umělou inteligenci
Evropská rada pro umělou inteligenci (Rada) je ústředním koordinačním orgánem složeným ze zástupců členských států, jmenovaných na tříleté období s možností jednoho prodloužení. Tito zástupci musí disponovat příslušnými kompetencemi a pravomocemi, které jim umožní aktivně se podílet na plnění úkolů Rady.
Hlavním úkolem Rady je zejména poskytovat poradenství a být nápomocná Evropské komisi (Komise) a členským státům s cílem usnadnit jednotné a účinné uplatňování tohoto nařízení. Tohoto cíle by měla Rada dosáhnout např.:
- poskytováním poradenství ohledně provádění tohoto nařízení, zejména pokud jde o prosazování pravidel týkajících se obecných modelů AI;
- shromažďováním a sdílením technické a regulační odborné znalosti a osvědčené postupy mezi členskými státy;
- přispíváním ke koordinaci mezi příslušnými vnitrostátními orgány ve spolupráci s dotčenými orgány dozoru nad trhem;
- poskytováním poradenství Komisi ve vztahu k mezinárodním záležitostem týkajícím se AI
Akt o umělé inteligenci rovněž staví evropského inspektora ochrany údajů na úroveň pozorovatele Rady. Zároveň stanovuje, že na všech zasedáních Rady musí být přítomen Evropský úřad pro umělou inteligenci (Úřad pro AI), avšak nemá hlasovací pravomoc.
Rada má také povinnost zřídit dvě stále podskupiny, které poskytnou platformu pro spolupráci a výměnu mezi orgány dozoru nad trhem a oznamujícími orgány v otázkách týkajících se dozoru nad trhem a oznámených subjektů.
Úřad pro AI
Úřad pro AI je klíčovým orgánem zajišťujícím implementaci, monitorování a správu AI systémů a obecných modelů v rámci EU. Je centrem odborných znalostí a hraje zásadní roli v rozvoji schopností Evropské unie v oblasti umělé inteligence.
Úřad pro AI bude při své práci úzce spolupracovat s členskými státy a širší odbornou komunitou, a bude zajišťovat strategický, koherentní a efektivní přístup k AI nejen na evropské, ale i na mezinárodní úrovni. Mezi úkoly Úřadu pro AI se řadí např.:
- vývoj nástrojů, metodik a referenčních hodnot pro hodnocení schopností a dosahu univerzálních modelů UI a klasifikace modelů se systémovými riziky;
- vypracování nejmodernějších kodexů správné praxe;
- vyšetřování možných porušení pravidel, včetně hodnocení za účelem posouzení schopností modelu, a požadování, aby poskytovatelé přijali nápravná opatření;
- příprava pokynů a pokynů, prováděcích aktů a aktů v přenesené pravomoci a dalších nástrojů na podporu účinného provádění aktu o umělé inteligenci a sledování souladu s nařízením;
- podpora rozvoje a provádění mezinárodních dohod o umělé inteligenci, včetně podpory členských států;
Organizační uspořádání Úřadu pro AI se skládá z 5 oddělení a 2 poradců, a bude zaměstnávat více než 140 zaměstnanců, včetně technologických specialistů, administrativních asistentů, právníků, politických specialistů a ekonomů.
Poradní fórum a vědecká komise
Akt rovněž zřizuje poradní fórum, jehož úkolem je poskytovat technické odborné znalosti a poradenství Radě a Komisi. Poradní fórum je složeno z vyváženého výběru zúčastněných stran, včetně zástupců průmyslu, malých a středních podniků, občanské společnosti a akademické obce.
Stálými členy poradního fóra jsou pak Agentura pro základní práva, Agentura Evropské unie pro kybernetickou bezpečnost (ENISA), Evropský výbor pro normalizaci (CEN), Evropský výbor pro normalizaci v elektrotechnice (CENELEC) a Evropský ústav pro telekomunikační normy (ETSI).
Podle Aktu musí poradní fórum zasedat alespoň dvakrát ročně a zároveň vypracovat výroční zprávu o své činnosti. Na žádost Rady nebo Komise může také vypracovávat stanoviska, doporučení nebo písemné příspěvky.
Komise má pomocí prováděcího aktu zřídit také vědeckou komisi nezávislých odborníků, která zajistí silnou vazbu s vědeckou obcí. Skládat se bude z nestranných a objektivních odborníků vybraných Komisí na základě aktuálních vědeckých nebo technických odborných znalostí v oblasti AI.
Vědecká komise představuje orgán, který má poskytovat poradenství a podporu Úřadu pro AI, a to např. podporou provádění a prosazování Aktu, pokud jde o obecné modely a systémy AI (kterým jsme se blíže věnovali zde).
Vnitrostátní orgány
Podle Aktu musí každý členský stát zřídit alespoň jeden oznamující orgán a alespoň jeden orgán dozoru nad trhem. Tyto orgány zajišťují, že jejich činnost je nezávislá a nestranná, a že disponují odpovídajícími technickými, finančními a lidskými zdroji k plnění svých úkolů a zároveň musí přijat vhodná opatření k zajištění kybernetické bezpečnosti. V České republice by pak mohl být takovýto orgán např. Český telekomunikační úřad1.
Příslušné vnitrostátní orgány mohou mj. poskytovat pokyny a poradenství ohledně provádění Aktu, zejména malým a středním podnikům, včetně podniků začínajících, přičemž případně zohlední pokyny a poradenství rady a Komise.
Závěr
Akt o umělé inteligenci představuje komplexní právní rámec, který si klade za cíl řídit a regulovat AI v Evropské unii. Zřízení specifických orgánů a mechanismů je klíčovým krokem k ochraně základních práv občanů a zajištění efektivního dohledu a následné vymahatelnosti. S platností Aktu od 2. srpna letošního roku můžeme očekávat, že se jeho důsledky začnou brzy projevovat v praxi.
- Bod 2 Doporučeného postupu a harmonogramu navrženého MPV pro digitalizaci I. Bartošem při implementaci nařízení Evropského parlamentu a Rady (EU) 2024/1689, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci (akt o umělé inteligenci). ↩︎