Rozvoj umělé inteligence (AI) se stal jedním z klíčových témat současné evropské regulace, zejména s přijetím Nařízení Evropského parlamentu a Rady (EU) 2024/1689, známého také jako Akt o umělé inteligenci (Akt), který jsme blíže představili v jednom z našich předchozích článků. Toto nařízení stanoví harmonizovaná pravidla pro umělou inteligenci napříč EU, s cílem zajistit její bezpečné, etické a transparentní využívání. Pro Českou republik je implementace tohoto nařízení zásadní, jak z hlediska ochrany práv občanů, tak z hlediska udržení atraktivity ČR pro inovativní firmy.
V tomto článku se zaměříme na doporučený postup a harmonogram navržený místopředsedou vlády pro digitalizaci Ivanem Bartošem pro úspěšnou implementaci Aktu. Podle něj je mj. nezbytné zajistit co nejkvalitnější regulatorní prostředí a správně nastavený mechanismus dozoru nad trhem, a zároveň předejít možným právním a finančním důsledkům z důvodu nedodržení povinností stanovených v Aktu.
Klíčová doporučení pro implementaci Aktu
Podle doporučeného postupu je zajištění kvalitní implementace Aktu závislé na několika klíčových faktorech. Mezi ně patří zejména určení orgánů dozoru nad trhem a centrálního dozorového orgánu. Tento krok zahrnuje stanovení orgánu, který bude mít expertizu a pravomoci k zajištění dodržování povinností podle Aktu, zejména u vysoce rizikových systémů, a zároveň bude tento orgán udělovat sankce za jejich porušení.
Místopředseda vlády v dokumentu doporučuje zřídit silný centrální dozorový orgán, který by spolupracoval s již existujícími institucemi jako jsou Česká národní banka a Úřad pro ochranu osobních údajů, a který by působil také jako jednotné kontaktní místo pro Akt ze strany Evropské komise. Místopředseda vlády tak doporučil stanovit jako hlavní dozorový orgán Český telekomunikační úřad (ČTÚ), přičemž by po 12 měsících mělo dojít k vyhodnocení stavu příprav a zvážení vhodnosti přechodu na variantu vzniku nového úřadu.
Dalším nezbytným krokem pode Aktu je určení oznamujícího orgánu, který je schopen ověřit a odborně posoudit, že laboratoře či testovací zařízení vydávající certifikace vysoce rizikovým systémům AI mohou tuto činnost vykonávat a zároveň, že tyto certifikace jsou udělovány na základě dostatečné odbornosti.
Oznamující orgán zároveň předává Komisi seznamy laboratoří a testovacích zařízení způsobilých udělovat tyto certifikace, a je také důležitým článkem mezinárodní spolupráce v rámci agendy systémů AI napříč EU. Aktuálně je doporučeno sloučit tuto roli s centrálním dozorovým orgánem, tj. s ČTÚ, což by optimalizovalo využití odborných kapacit a zjednodušilo komunikaci s evropskými institucemi.
Akt dále vyžaduje, aby členské státy zajistily prostřednictvím orgánů pro ochranu základních práv ochranu práv, jako jsou práva na soukromí a nediskriminaci. V českém kontextu jsou těmito orgány především Úřad pro ochranu osobních údajů a Kancelář veřejného ochránce práv. V doporučeném postupu se však uvádí, že dodržování základních práv podle práva EU má samozřejmě také zajišťovat celá soudní soustava a správní orgány při svém rozhodování, takový výklad by ovšem vedl k absurdnímu množství orgánů chránících základní práva, avšak je zřejmé, že zákonodárce mířil právě na orgány, které zajišťují ochranu základních práv a zároveň nad dodržování těchto povinností vykonávají dohled, což naplňují jen výše zmíněné orgány.
Jakým způsobem by měl být Akt implementován?
Podle místopředsedy vlády musí implementace nařízení proběhnout prostřednictvím novelizace stávajících právních předpisů, nikoliv tvorbou nových zákonů. Tato cesta by měla umožnit flexibilnější přizpůsobení legislativy potřebám jednotlivých sektorů a minimalizaci nadbytečných zásahů do již existujících regulací. Konkrétně je předpokládaná novelizace pěti právních předpisů, které se týkají např. dozoru pro finanční sektor, využití biometriky Policií ČR nebo marginálních ustanovení zákoníku práce. Vyloučeno však není ani vyčlenění problematiky regulatorních sandboxů, tedy testovacích prostředí systémy AI (kterým jsme se blíže věnovali zde), do samostatného zákona, což by mohlo podpořit inovace v oblasti umělé inteligence na území ČR. Následná implementace, koherence a koordinace příprav adaptačních předpisů by měla být vedena prostřednictvím ÚV-MDG.
Úspěšná implementace nařízení bude nepochybně záviset na dostatečných lidských a finančních zdrojích. V doporučení je proto uvedeno, aby bylo zřízeno alespoň jedno oddělení pro dohled nad AI v rámci centrálního dozorového orgánu. Toto oddělení by měl být vybaveno personálem s potřebnými technickými i právními znalostmi tak, aby bylo schopno se efektivně podílet na přípravě legislativních změn.
Harmonogram implementace
Harmonogram implementace Aktu je v rámci dokumentu rozvržen do několika klíčových milníků:
- 12. července 2024: Zveřejnění Aktu v Úředním věstníku EU. V případě souhlasu vlády se navrhovaným řešením přijme gesce za implementaci, přičemž příslušný gestor (Ministerstvo průmyslu a obchodu) musí do 20 dnů připravit první srovnávací tabulku.
- 1. září 2024: Termín pro předložení návrhů novelizací zákonů do mezirezortního připomínkového řízení.
- 1. listopadu 2024: Termín pro předání návrhů novelizací zákonů vládě.
- 1. srpna 2025: Vstup v účinnost většiny ustanovení Aktu, která vyžadují implementaci.
- 1. srpna 2026: Akt vstupuje v platnost v plné šíři.
- 1. srpna 2027: Akt se bude vztahovat i na harmonizační právní předpisy EU podle jeho přílohy I.
Závěr
Implementace AI Aktu představuje pro Českou republiku jak výzvu, tak příležitost. Kvalitní a včasná implementace umožní ČR zaujmout vedoucí pozici v oblasti inovací, přilákat nové technologické firmy a zároveň ochránit práva občanů před možnými riziky spojenými s umělou inteligencí. Doporučený postup a harmonogram navržený Ivanem Bartošem spolu s Národní strategií umělé inteligence ČR 2020 (blíže zde) poskytují jasný rámec pro úspěšnou realizaci schválené regulace, a představují tak základní pilíře pro správnou implementaci unijního nařízení.
