Dne 11. března 2025 zveřejnila Evropská komise třetí návrh Kodexu zásad pro obecné modely umělé inteligence (Kodex), který představuje klíčový dokument implementující pravidla stanovená Aktem o umělé inteligenci. Tento kodex je výsledkem rozsáhlého konzultačního procesu a představuje významný krok v regulaci vysoce pokročilých obecných modelů umělé inteligence v Evropské unii.
Účel Kodexu
Vznik Kodexu zásad pro obecné modely umělé inteligence (GPAI) je úzce spjat s Aktem o umělé inteligenci, který vstoupil v platnost 1. srpna 2024. Evropský Úřad pro AI zahájil jeho přípravu bezprostředně poté, když dne 30. července 2024 vyhlásil výzvu k participaci na jeho tvorbě. Dne 30. září 2024 proběhlo úvodní plenární zasedání, které odstartovalo komplexní legislativní proces s účastí téměř tisíce zúčastněných stran.
Klíčovým aspektem přípravy Kodexu je jeho otevřený, inkluzivní a transparentní charakter. Do procesu jsou zapojeny nejrůznější zainteresované subjekty, a to především poskytovatelé GPAI, navazující poskytovatelé, průmyslové organizace, zástupci občanské společnosti, akademičtí pracovníci, nezávislí experti a v neposlední řadě také zástupci členských států Evropské unie prostřednictvím Evropské rady pro AI.
Kodex reaguje na dynamický rozvoj GPAI, které jsou schopné vykonávat širokou škálu úloh a potenciálně mohou představovat také systémová rizika. Primárním cílem Kodexu je představit poskytovatelům GPAI praktický nástroj pro prokázání souladu s Aktem o umělé inteligenci a zároveň do Kodexu začlenit nejnovější poznatky z praxe.
Klíčovým je také jeho aplikační rozsah. Stejně jaké Akt o umělé inteligenci se Kodex vztahuje na poskytovatele systémů AI bez ohledu na jejich sídlo, pokud jsou jejich systémy využívány v Evropské unii. To znamená, že i společnosti sídlící mimo EU, jako je např. OpenAI, musí respektovat stanovené požadavky. Kodex je sice koncipován jako dobrovolný úřední nástroj pro řádné dodržování povinností stanovených v Aktu o umělé inteligenci, nicméně poskytovatelům GPAI může sloužit k prokázání souladu s nimi.
Kodex je připravován prostřednictvím čtyř specializovaných pracovních skupin zaměřených na specifické oblasti. První pracovní skupina se soustředí na transparentnost a pravidla týkající se autorských práv. Druhá skupina řeší hodnocení rizik systémových modelů. Třetí skupina se zabývá technickými opatřeními ke zmírnění těchto rizik a čtvrtá skupina se zaměřuje na řízení rizik z pohledu správy.
Transparentnost a ochrana autorských práv
V oblasti transparentnosti Kodex ukládá poskytovatelům povinnost zpracovávat a pravidelně aktualizovat dokumentaci jejich GPAI. Třetí návrh Kodexu proto představuje standardizovaný formulář pro zmíněnou dokumentaci, který usnadňuje sdílení relevantních informací s dalšími subjekty a Úřadem pro AI. Tento formulář obsahuje např. povinnost označit druh dat, na kterých byl daný model trénován (tj. text, obrázky, audio nebo video), způsob, jakým byla tato data získána či způsob, jakým má být daný model používán. Tato dokumentace dále musí obsahovat relevantní informace pro navazující poskytovatele a musí být průběžně aktualizována.
Signatáři mají také zvážit, zda mohou zdokumentované informace vcelku nebo zčásti zpřístupnit veřejnosti, z důvodu podpory veřejné transparentnosti. Některé z těchto informací mohou být rovněž vyžadovány jako součást veřejného shrnutí obsahu používaného pro přípravu daného modelu, které musí poskytovatelé zveřejnit v souladu s Aktem o umělé inteligenci.
Pokud jde o autorská práva, Kodex vyžaduje, aby poskytovatelé zavedli komplexní politiku zajišťující soulad s evropskými předpisy o autorských právech, a to především s unijní směrnicí 2019/790. To zahrnuje mimo jiné identifikaci a respektování vyhrazených práv v trénovacích datech. Zajímavým aspektem je přístup k tzv. web crawlingu1. Kodex obecně umožňuje využívání webových crawlerů pro těžbu dat, současně však stanovuje přísná pravidla. Signatáři musí respektovat technologie omezující přístup k chráněnému obsahu, jako je např. paywall2. Poskytovatelé jsou rovněž povinni vyloučit z tohoto procesu takzvané „pirátské domény“, které neoprávněně zpřístupňují obsah chráněný autorským právem, a respektovat tzv. opt-out autorů, kteří si nepřejí, aby jejich díla sloužila k trénování AI.
Mezi konkrétní opatření patří např.:
- Zřízení kontaktu pro řešení stížností týkajících se porušení autorských práv
- Používání nejmodernějších metod identifikace a respektování vyhrazených práv v trénovacích datech
- Omezení přístupu k určitým datům pomocí web crawlingu
- Implementace mechanismů zmírňujících riziko generování obsahu porušujícího autorská práva
Bezpečnost a řešení systémových rizik
Obecné modely se systémovým rizikem mají podle Aktu o umělé inteligenci významný dopad na trh Unie v důsledku dosahu takových modelů nebo v důsledku skutečných či rozumně předvídatelných negativních dopadů na veřejné zdraví, bezpečnost, veřejnou bezpečnost, základní práva nebo společnost jako celek.
Pro tyto modely Kodex stanovuje přísné požadavky na hodnocení a zmírňování potenciálních rizik. Signatáři se zavazují k přijetí a implementaci tzv. Rámce pro bezpečnost a zabezpečení, který stanoví opatření a postupy pro hodnocení systémových rizik, zmírňování systémových rizik a zmírňování rizik v oblasti správy a dohledu, kteří signatáři musí přijmout s cílem udržet systémová rizika vyplývající z jejich modelu na přijatelné úrovni.
Tento rámec by měl obsahovat především:
- Kritéria přijatelnosti systémových rizik, úrovně systémových rizik a predikce
- Hodnocení systémových rizik a rozhodnutí o řešení
- Technická opatření ke zmírnění systémových rizik
- Opatření ke zmírnění rizik v oblasti správy a dohledu
Dalším významným požadavkem je pravidelné zpracování bezpečnostních zpráv a využívání nezávislých externích odborníků k hodnocení dotčených GPAI, pokud konkrétní model nelze prohlásit za dostatečně bezpečný. Součástí je také povinnost zřídit komunikační kanály pro hlášení incidentů a informování unijních i vnitrostátních regulačních orgánů o významných změnách nebo rizicích.
Závěr
Evropský kodex zásad pro obecné modely umělé inteligence představuje inovativní dokument, který významně přispívá k vytvoření regulatorního rámce pro odpovědný rozvoj AI. Jeho komplexní přístup k transparentnosti, ochraně autorských práv a řízení rizik má potenciál významně ovlivnit globální regulatorní rámec v této oblasti. Poskytovatelé modelů AI by měli tento kodex vnímat nejen jako pouhý regulatorní požadavek, ale především jako příležitost k posílení důvěryhodnosti a odpovědnosti svých technologických řešení.
Oproti předchozím verzím třetí návrh významně zjednodušuje svou strukturu. a zaměřuje se na cíle, závazky a konkrétní opatření. Byly vypuštěny klíčové ukazatele výkonu (KPI), které byly nahrazeny konkrétními cíli, závazky a opatřeními. Zároveň došlo ke konsolidaci některých ustanovení, především v oblasti autorských práv.
Nově byl přidán dodatek s doporučeními pro Evropský Úřad pro AI týkající se pravidelné revize Kodexu, což reflektuje dynamickou povahu technologického vývoje a nutnost flexibilní regulace.
Současně s přípravou kodexu pracuje Evropský úřad pro umělou inteligenci na dalších podpůrných dokumentech. Připravuje se například šablona pro veřejný souhrn tréninkových dat a metodické pokyny objasňující rozsah pravidel pro obecné modely umělé inteligence.
Současně s přípravou Kodexu pracuje Úřad pro AI na dalších podpůrných dokumentech. Připravuje se například šablona pro veřejný souhrn tréninkových dat a metodické pokyny objasňující rozsah pravidel pro obecné modely umělé inteligence.
- Specializovaný internetový bot, který prochází internet za účelem vytvoření obrovské databáze. Navštěvuje automaticky veškeré dostupné webové stránky a tím umožní zaznamenat, která slova kde viděl. ↩︎
- Metoda zpoplatnění webových stránek. Systém brání návštěvníkovi internetových stránek v přístupu do určitých částí a podmiňuje přístup k nim zaplacením určité částky. ↩︎