V rámci pátého článku naší série o umělé inteligenci se budeme věnovat pravidlům, která upravují uvádění systémů UI na trh. Tato pravidla s sebou přinesl schválený Akt o umělé inteligenci, a mají za úkol nejen zajistit bezpečnost a důvěryhodnost systémů UI uváděných na trh, ale také chránit základní hodnoty Unie a práva fyzických osob. Jak totiž uvádí samotná důvodová zpráva k Aktu o umělé inteligenci, pravidla pro UI dostupnou na trhu Unie nebo jinak ovlivňující obyvatele Unie by se měla zaměřovat na člověka, aby lidé mohli důvěřovat tomu, že se tato technologie používá bezpečným způsobem a v souladu s právními předpisy, včetně dodržování základních práv.
Zakázané postupy
Jak již bylo zmíněno v úvodu, hlavním cílem těchto pravidel je zejména chránit základní hodnoty Unie a dodržování základních práv. Z tohoto důvodu jsou v rámci Aktu taxativně vymezeny určité praktiky, které jsou v oblasti umělé inteligence zakázány.
Tyto zákazy se týkají praktik, které mají významný potenciál manipulovat s osobami prostřednictvím podprahových technik bez jejich vědomí, případně zneužívají zranitelnosti konkrétních zranitelných skupin, jako jsou děti nebo osoby se zdravotním postižením, s cílem podstatně ovlivnit jejich chování způsobem, který by mohl jim nebo jiné osobě způsobit, ať už fyzickou, tak psychickou újmu.
Akt se však v rámci nastavování určitých mantinelů nezabýval pouze podprahovými technikami, ale také stanovil zákaz přidělování sociálního kreditu na základě UI pro obecné účely prováděné orgány veřejné moci, či používání (až na výjimky) biometrické identifikace na dálku „v reálném čase“, kterou jsme se zabývali v našem předchozím článku.
Akt v těchto zákazech ovšem není nekompromisní. Mimo zmíněných výjimek v rámci biometrické identifikace, nebrání ani výzkumu těchto systémů UI pro legitimní účely, avšak za podmínek, že se výzkum nebude zaměřovat na využívání takovéhoto systému ve vztazích člověk-stroj, které vystavuje fyzické osobě újmě, a musí být prováděn v souladu s uznávanými etickými standardy vědeckého výzkumu.
Uvedením na trh to nekončí
Někdo by se mohl domnívat, že splněním všech kladených požadavků a konečným uvedením systému UI na trh je proces u konce. Takováto myšlenka je však mylná. Akt totiž řeší také tuto situaci, a to harmonizací způsobu provádění kontrol ex post, a to pomocí pravidel monitorování trhu a dozoru nad ním. To by mělo vést k tomu, že jakmile bude systém UI uveden na trh, budou mít orgány veřejné moci k dispozici dostatečné pravomoci a zdroje umožňující zasáhnout v případě, že systémy UI způsobí neočekávaná rizika a zaručit tak rychlou reakci.
Účelem nejsou pouze omezení
Je pochopitelné, že se Unie snaží právně zajistit, aby systémy UI, které budou uváděny na unijní trh byly mimo jiné bezpečné. Z Aktu však lze vyčíst, že Unie vnímá rovněž celou řadu výhod, které s sebou přináší a cílem právní úpravy je také zlepšit fungování vnitřního trhu. To lze dovodit zejména z důvodové zprávy, kde je stanoveno, že jedním z cílů Aktu je také usnadnit rozvoj jednotného trhu pro zákonné, bezpečné a důvěryhodné aplikace UI a zamezit jeho roztříštění. Zásadním pomocníkem pro uvádění systémů UI na unijní trh by mělo být chystané regulační pískoviště UI, které bylo představeno v rámci Aktu o umělé inteligenci, a jehož podstatou by měla být právě podpora inovací na základě vytvoření kontrolovaného prostředí.
Závěr
Vzhledem k nevyzpytatelnému vývoji na poli umělé inteligence je hlavním cílem Aktu o umělé inteligenci zabezpečit nejen hodnoty samotné Unie, ale i základní práva jejich obyvatel. Unie tak zakotvila v rámci Aktu nejen určitá pravidla pro uvádění systémů UI na trh a způsobů jejich kontroly ex post, ale rovněž představila pravomoci vnitrostátních orgánů, které budou moct tyto požadavky vymáhat. Samotný Akt však není pouze soubor různých omezení, nýbrž předkládá rovněž nástroje, které by měly pomoct inovacím v oblasti umělé inteligence, které v budoucnu v rámci naší série rovněž pokryjeme.
