Ve druhém článku naší série o Aktu o umělé inteligenci jsme blíže zabývali tím, co se myslí zakázanými postupy v oblasti umělé inteligence a jaké sankce případně hrozí za porušení těchto zákazů.
Jak plyne z našeho předchozího článku, jedním ze zakázaných postupů dle Aktu o umělé inteligenci je používání systémů biometrické identifikace na dálku „v reálném čase“ na veřejně přístupných místech pro účely prosazování práva, pokud to není nezbytně nutné pro jeden z cílů dovolených Aktem u umělé inteligenci a jen do té míry, do níž je to nezbytně nutné.
Používání systému biometrické identifikace na dálku „v reálném čase“ na veřejně přístupných místech pro účely prosazování práva je tedy dle Aktu o umělé inteligenci za určitých podmínek dovoleno. V tomto třetím článku naší série o Aktu o umělé inteligenci tak popisujeme definici tohoto systému dle Aktu o umělé inteligenci a bližší podmínky používání systému biometrické identifikace na dálku „v reálném čase“ na veřejně přístupných místech pro účely prosazování práva dle Aktu o umělé inteligenci.
Definice systému biometrické identifikace na dálku „v reálném čase“
Podle Aktu o umělé inteligenci se rozumí „systémem biometrické identifikace na dálku‚ „v reálném čase““[1] systém biometrické identifikace na dálku, kdy zachycení biometrických údajů, porovnání a identifikace probíhá bez významné prodlevy. To zahrnuje nejen okamžitou identifikaci, ale také omezená krátká zpoždění, jejichž cílem je zabránit obcházení systému. Obecně se pak „systémem biometrické identifikace na dálku“ rozumí systém UI pro účely identifikace fyzických osob na dálku na základě porovnání biometrických údajů dané osoby s biometrickými údaji obsaženými v referenční databázi, aniž by uživatel systému UI předem věděl, zda bude daná osoba přítomna a zda ji bude možné identifikovat.
Nutnost zohlednění určitých prvků
Při používání systémů biometrické identifikace na dálku „v reálném čase“ na veřejně přístupných místech pro účely prosazování práva pro dosažení kteréhokoli z Aktem o umělé inteligenci aprobovaných cílů je nutno zohlednit[2] následující prvky:
- povahu situace, která vede k jejich potenciálnímu použití, zejména závažnost, pravděpodobnost a rozsah újmy způsobené v případě, že by systém použit nebyl;
- důsledky používání systému pro práva a svobody všech dotčených osob, zejména závažnost, pravděpodobnost a rozsah těchto důsledků.
Použití systémů biometrické identifikace na dálku „v reálném čase“ na veřejně přístupných místech pro účely prosazování práva pro dosažení kteréhokoli z Aktem o umělé inteligenci aprobovaných cílů musí být navíc v souladu s nezbytnými a přiměřenými zárukami a podmínkami ve vztahu k tomuto použití, zejména pokud jde o časová, zeměpisná a osobní omezení.
Povolení ze strany justičního/správního orgánu
Každé jednotlivé použití systému biometrické identifikace na dálku „v reálném čase“ na veřejně přístupných místech pro účely prosazování práva podléhá předchozímu povolení ze strany justičního orgánu nebo nezávislého správního orgánu[3] členského státu, ve kterém má k tomuto použití dojít, vydanému na základě odůvodněné žádosti a v souladu s podrobnými pravidly vnitrostátního práva. V řádně odůvodněné naléhavé situaci však může být používání systému zahájeno bez povolení a o povolení lze požádat až v průběhu používání nebo po něm.
Příslušný justiční nebo správní orgán udělí povolení pouze v případě, že je na základě objektivních důkazů nebo jednoznačných údajů, které mu byly předloženy, přesvědčen, že použití dotčeného systému biometrické identifikace na dálku „v reálném čase“ je nezbytné a přiměřené k dosažení jednoho z cílů aprobovaných Aktem o umělé inteligenci, který je uveden v žádosti. Při rozhodování o žádosti zohlední příslušný justiční nebo správní orgán prvky, které je nezbytné zohlednit při používání tohoto systému.
[1] Článek 3 Návrhu Nařízení Evropského parlamentu a Rady, kterým se stanoví harmonizované pravidla pro umělou inteligenci (Akt o umělé inteligenci) a mění určité legislativní akty Unie, dostupný na internetové adrese: https://eur-lex.europa.eu/legal-content/CS/ALL/?uri=CELEX%3A52021PC0206
[2] Článek 5 Aktu o umělé inteligenci
[3] Článek 5 Aktu o umělé inteligenci