Akt o umělé inteligenci (Akt), který vstoupil v platnost 1. srpna 2024, představuje první komplexní právní rámec pro regulaci umělé inteligence (AI) v Evropské unii. Hlavním cílem tohoto nařízení je zajistit bezpečné a etické používání a vývoj systémů AI, a to prostřednictvím souboru jasně definovaných povinností pro poskytovatele i zavádějící subjekty těchto technologií. Akt má nabýt účinnosti v celém svém rozsahu až 2. srpna 2027, některé části Aktu, konkrétně kapitoly I a II, však nabyly účinnosti již 2. února 2025.
V tomto článku se zaměříme na dvě klíčové oblasti tohoto nařízení, a to povinnost zajištění gramotnosti v oblasti AI a zákaz určitých praktik v oblasti AI.
Povinnost zajištění gramotnosti v oblasti AI
Jedním z klíčových požadavků stanovených v kapitole I Aktu je povinnost poskytovatelů systémů AI a subjektů zavádějících AI přijmout opatření, aby v co největší možné míře zajistili dostatečnou úroveň gramotnosti v oblasti AI. Gramotností se přitom podle Aktu rozumí dovednosti, znalosti a chápání, které dotčeným osobám umožňují, aby s přihlédnutím k jejich příslušným právům a povinnostem v souvislosti s tímto nařízením zaváděly systémy AI informovaným způsobem a aby si byly vědomy možností a rizik spojených s AI i možných škod, které může způsobit.
Dostatečnou gramotnost musí zaměstnavatelé zajistit nejen u svých zaměstnanců, ale i u všech dalších osob, které se jejich jménem zabývají provozem a používáním systémů AI. U konkrétních osob bude při zajištění dostatečné gramotnosti přihlíženo především k jejich technickým znalostem, zkušenostem, vzdělání a také k prostředí, v němž mají být systémy AI používány. Účelem této povinnosti je především zajistit, aby dotčené osoby porozuměly fungování konkrétního systému AI, a aby byly schopné posoudit správnost jeho výstupů. Tento požadavek lze splnit zejména pomocí opatření, jako jsou školení týkající se používání systémů AI nebo vnitřní předpisy.
Podpůrné nástroje ze strany EU
Evropská unie, zejména prostřednictvím Úřadu pro AI, podporuje implementaci povinnosti zajištění gramotnosti v oblasti AI prostřednictvím různých iniciativ. Především bylo vytvořeno živé úložiště na podporu učení a výměny v oblasti gramotnosti v oblasti AI (Living repository to foster learning and exchange on AI literacy), které shromažďuje některé aktuální praktiky od členů tzv. paktu o umělé inteligenci1.
Cílem tohoto pravidelně aktualizovaného úložiště je poskytnout příklady již zavedených, částečně implementovaných či plánovaných postupů týkajících se gramotnosti v oblasti AI. Přestože Úřad pro AI sám uvádí, že aplikace těchto postupů automaticky nezaručuje splnění požadavků týkajících se této povinnosti, úložiště by mělo podpořit vzdělávání a výměnu informací mezi poskytovateli a zavádějícími subjekty systémů AI.
Ačkoli samotné porušení této povinnosti v současnosti není přímo spojeno s konkrétními sankcemi, dotčené orgány mohou zohlednit její nedodržení při posuzování jiných porušení povinností podle Aktu.
Zakázané postupy v oblasti AI
Vedle požadavků na zajištění gramotnosti vstoupila v účinnost také kapitola II Aktu, týkající se zakázaných postupů v oblasti AI, které mohou představovat riziko pro základní práva a bezpečnost občanů EU. Akt zakazuje jak uvádění na trh, tak provozování systémů AI, které využívají postupy jako jsou:
- Používání podprahových technik mimo vědomí osob nebo záměrně manipulativních či klamavých technik, které znatelně zhoršují schopnost osob činit informovaná rozhodnutí;
- Využívání zranitelnosti osob v důsledku jejich věku, zdravotního postižení nebo specifické sociální nebo ekonomické situace, jejichž cílem nebo důsledkem je podstatné narušení chování těchto osob tak, že způsobuje nebo by s přiměřenou pravděpodobností mohlo způsobit významnou újmu;
- Sociální skórování, tedy hodnocení osob na základě jejich sociálního chování nebo osobních charakteristik, přičemž sociální kredit vede ke znevýhodňujícímu nebo nepříznivému zacházení2;
- Posuzování rizik osob s cílem posoudit nebo předvídat riziko, že osoba spáchá trestný čin, a to výhradně na základě profilování osoby nebo posouzení jejích osobnostních charakteristik;
- Vytváření databází rozpoznávání obličejů prostřednictvím necíleného získávání zobrazení obličeje z internetu nebo kamerových záznamů;
- Odvozování emocí osob na pracovištích nebo ve vzdělávacích institucích3;
- Biometrická kategorizace, která jednotlivě kategorizuje osoby na základě jejich biometrických údajů za účelem dovození jejich rasy, politických názorů, členství v odborových organizacích, náboženského nebo filozofického přesvědčení, sexuálního života nebo sexuální orientace;
- Biometrická identifikace na dálku v reálném čase ve veřejně přístupných prostorech pro účely vymáhání práva, pokud to není nezbytně nutné pro taxativně vymezené výjimky, jako je např. cílené vyhledávání určitých obětí únosů, obchodování s lidmi nebo vyhledávání pohřešovaných osob4.
Evropská komise v souvislosti s účinností shora uvedených zákazů zveřejnila dne 4. února pokyny k zakázaným postupům v oblasti AI, jak jsou definovány v Aktu. Tyto pokyny poskytují detailnější přehled a výklad vymezených zakázaných postupů v oblasti AI, a mají zajistit jednotné, účinné a jednotné uplatňování Aktu v rámci celé Evropské unie. Ačkoliv pokyny nejsou přímo závazné, poskytují širší právní vysvětlení a praktické příklady, které zúčastněným stranám pomáhají pochopit požadavky stanovené v Aktu.
Nedodržení výše uvedených zákazů nepředstavuje pouze hrozbu pro základní práva a bezpečnost občanů Unie, ale může za něj být uložena správní pokuta až do výše 35 000 000 EUR nebo, v případě společnosti, do výše 7 % celkového celosvětového ročního obratu za předchozí finanční rok podle toho, která hodnota je vyšší. Tyto sankce budou účinné a vymahatelné od 2. srpna 2025, a společnosti nyní mají půl roku na to, aby zajistily soulad se zmíněnými povinnostmi.
Závěr
Akt o umělé inteligenci přináší zásadní změny v regulaci AI v Evropské unii. Požadavky na zajištění gramotnosti v oblasti AI a zákaz určitých zakázaných postupů představují nejen důležité kroky pro zajištění bezpečného a etického využívání těchto technologií, ale také přináší zásadní povinnosti. Pokud se poskytovatelé a zavádějící subjekty systémů AI chtějí vyhnout závažným sankcím, musí v následujících šesti měsících přizpůsobit nové legislativě nejen své interní procesy, ale také investovat do vzdělávání svých zaměstnanců a zavést konkrétní mechanismy zajišťující soulad s novými povinnostmi.
- Dobrovolný soubor závazků, s cílem pomoci zúčastněným stranám připravit se na provádění aktu o umělé inteligenci. ↩︎
- Zákaz se nedotýká zákonných postupů, které hodnotí osoby pro konkrétní účely, které jsou legitimní a v souladu s právními předpisy EU vnitrostátními právními předpisy. ↩︎
- S výjimkou případů, kdy je použití systému AI určeno k zavedení či k uvedení na trh z lékařských nebo bezpečnostních důvodů ↩︎
- Tímto zákazem zároveň není dotčen článek 9 nařízení (EU) 2016/679, pokud jde o zpracování biometrických údajů pro jiné účely, než je vymáhání práva. ↩︎