Umělá inteligence (AI) přináší revoluci do různých sektorů ekonomiky, od financí po zdravotnictví, a nabízí nevídané možnosti pro automatizaci a optimalizaci procesů. Využití AI však přináší také nové výzvy a otázky, zejména v oblasti compliance a ochrany údajů. Jak mohou jednotlivé sektory efektivně implementovat AI a zároveň dodržovat legislativní a etické normy?
Naše kancelář se aktuálně zabývá právními aspekty implementace umělé inteligence ve specializovaných sektorech. V tomto článku se zaměříme na přínosy a rizika spojená s využitím AI v různých odvětvích a přiblížíme, jaké kroky by společnosti měly podniknout před implementací jakéhokoliv AI systému.
Novinky pro firemní compliance
Akt o umělé inteligenci (Akt), schválený v květnu 2024, představuje nový právní rámec pro vývoj, nasazení a použití AI v EU s cílem zajistit etiku a bezpečnost této technologie. Jak konkrétně však ovlivní firemní compliance? Akt klade důraz mj. na etické používání AI a vyžaduje, aby systémy AI byly transparentní, vysvětlitelné a nediskriminační. Společnosti tak musí zajistit, že systémy umělé inteligence, které budou implementovány, jsou v souladu s těmito požadavky, což může vyžadovat větší důraz na compliance, a to zejména pro níže uvedené specializované sektory.
Energetický sektor
V energetickém sektoru může AI optimalizovat např. provoz energetických zařízení, plánovat výrobu energie na základě poptávky nebo snižovat emise oxidu uhličitého. Regulace by proto měla obsahovat pravidla pro bezpečné nasazení autonomních energetických systémů, a zohledňovat transparentnost dat a kybernetickou bezpečnost.
Akt také považuje systémy AI používané jako bezpečnostní komponenty v rámci řízení a provozu kritické digitální infrastruktury, silniční dopravy nebo dodávek vody, plynu, topení či elektřiny za vysoce rizikové, což vyžaduje splnění zvláštní podmínek dle Aktu.
Finanční sektor
V oblasti financí může AI sloužit mj. k automatické analýze finančních dat, detekci rizikových transakcí, správě investičních portfolií či předpovědi tržních trendů. Je zásadní zajistit, aby systémy AI dodržovaly dosavadní regulace, jako je např. KYC (Know Your Customer) a AML (Anti-Money Laundering), a současně respektovaly etické normy a povinnost transparentnosti.
Zvláštní pozornost je v Aktu věnována etickým aspektům, zejména zamezení jakékoliv formy diskriminace, například při hodnocení úvěruschopnosti klientů bank. Takové systémy jsou považovány za vysoce rizikové a musí splňovat přísné podmínky pro jejich uvedení na trh a následné užívání. Akt rovněž stanovuje, že systémy umělé inteligence užívané ve finančním sektoru se musí řídit také stávající směrnicí (EU) 2013/36, která klade důraz především na komunikaci s Evropským orgánem pro bankovnictví (EBA).
Zdravotnický sektor
Ve zdravotnictví může AI pomoci s analýzou medicínských obrazů, diagnostikou, predikcí chorob a personalizovanou léčbou pacientů. Z důvodu potenciálních rizik zasahujících do základních práv občanů členských států musí regulace zajistit, že systémy AI užívané v tomto sektoru budou bezpečné a přesné.
Akt uvádí, že systémy umělé inteligence spadající pod nařízení (EU) 2017/745, či systémy třídění pacientů jsou považovány za vysoce rizikové, a podléhají tak přísným regulačním podmínkám.
Transparentnost a ochrana dat
Dalším aspektem, který musí společnosti zohlednit při implementaci AI, je ochrana dat. V Evropské unii je tato oblast přísně regulována prostřednictvím GDPR, které stanovuje pravidla pro zpracování osobních údajů a ochranu soukromí jednotlivců, a na které Akt často odkazuje. Akt však povinnost ochrany dat dále rozšiřuje a doplňuje stávající právní regulaci. Jednou z významných povinností v této oblasti je provedení posouzení dopadu vysoce rizikových systémů AI na ochranu osobních údajů.
Systémy AI musí podle Aktu splňovat také povinnost transparentnosti. Společnosti musí být schopny vysvětlit, jak jejich systémy umělé inteligence pracují a jaká data využívají. Tato povinnost pomáhá zajistit, že subjekty mají jasný přehled o tom, jak jsou jejich osobní údaje zpracovávány.
Due dilligence jako nezbytný krok
Due diligence, tedy identifikace a analýza možných rizik, by měla být klíčovým krokem při implementaci AI do jakékoliv společnosti. Tento proces je zvláště důležitý ve finančním, energetickém a zdravotnickém sektoru.
Společnosti by si měly před zavedením systému AI prověřit, zda poskytovatel či distributor daného systému splňuje všechny povinnosti stanovené Aktem, obzvláště u vysoce rizikových systémů umělé inteligence (kterým jsme se blíže věnovali zde). Za porušení těchto povinností mohou být uloženy správní pokuty až do výše 35 milionů eur nebo do výše 7 % celkového celosvětového ročního obratu za předchozí finanční rok.
Důležití jsou také zaměstnanci
Při implementaci AI by společnosti měly myslet i na své zaměstnance. Vzhledem k mnoha povinnostem stanoveným v Aktu a rizikům spojeným s jejich nedodržováním je důležité nastavit jasná pravidla pro správné a efektivní využívání AI.
Pro vytvoření těchto pravidel poslouží vnitřní předpisy, podobně jako u většiny interních pravidel. Tyto předpisy by měly srozumitelně aplikovat legislativu a etické kodexy, aby zaměstnancům usnadnily používání AI a zároveň snížily případná rizika. Zaměstnavatelé by rovněž měli zajistit, že vnitřní předpisy budou mít zákonem stanovené náležitosti, jako je např. písemná forma a přístupnost všem zaměstnancům.
Dalším klíčovým nástrojem mohou být školení, která zaměstnancům nejen vysvětlí podstatu nastavených pravidel, ale také je naučí, jak s AI efektivně pracovat. Školení pomohou zaměstnancům porozumět novým technologiím a zvýší jejich kompetence při práci s AI, což přispěje k celkové efektivitě a bezpečnosti jejího používání.
Závěr
Implementace umělé inteligence přináší nepopiratelné výhody v oblasti automatizace a optimalizace procesů napříč různými ekonomickými sektory. Nicméně s těmito technologickými pokroky přicházejí i nové výzvy, zejména v oblasti compliance a etiky.
Pro společnosti (nejen) ve finančním, energetickém, zdravotnickém je zásadní nejen sledovat a dodržovat aktuální právní úpravu, ale také klást důraz na due diligence při implementaci systémů AI do pracovních procesů, stejně tak jako průběžně školit své zaměstnance či upravovat jejich povinnosti pomocí vnitřních předpisů.
Dodržování těchto principů nejenže snižuje riziko potenciálních sankcí, ale také posiluje důvěru veřejnosti. V konečném důsledku může správně regulovaná a eticky využívaná AI přinést výrazné zlepšení kvality služeb a efektivity, což povede k lepším výsledkům pro společnosti i jejich klienty.
