Jen málokdo z nás může v dnešní době prohlásit, že se nikdy nesetkal s umělou inteligencí. Většina z nás naopak nástroje AI používá na denní bázi, a to třeba při práci, k vyhledávání nových receptů či filmů, k tvorbě zábavného obsahu nebo k prostému psaní si s umělou inteligencí takříkajíc „z nudy“. Rovněž se s AI setkáme v řadě dalších oblastí jako je cestovní ruch, průmysl, zdravotnictví, školství a mnoha dalších.

Jednoduše řečeno je umělá inteligence nezbytnou součástí fungování moderního člověka. Je však bezpečné do tolika aspektů vlastního života pouštět tak mocný nástroj? Kde a jakým způsobem jsou stanoveny hranice umělé inteligence? Velkou řadu pravidel obsahuje evropské nařízení o umělé inteligenci¹ (dále jen „AI akt“ či „Nařízení„), jehož účelem je zlepšit fungování vnitřního trhu stanovením jednotného právního rámce, a to zejména pro vývoj systémů umělé inteligence, její uvádění na trh a do provozu, a to v souladu s hodnotami Evropské unie (dále jen „EU“).

AI akt, který je přímo závazný pro všechny členské státy EU, představuje komplexní právní rámec pro užití umělé inteligence na území EU. Toto Nařízení přináší mj. nové povinnosti pro společnosti jednotlivce s cílem zajistit bezpečné, transparentní a etické využívání umělé inteligence v EU. V souladu s tímto Nařízením navíc připravilo Ministerstvo průmyslu a obchodu návrh adaptačního zákona o umělé inteligenci, jehož účelem je přizpůsobit český právní řád požadavkům závazného a přímo aplikovatelného AI aktu². Navrhovaný zákon by měl, dle slov normotvůrců, zajistit „bezpečné používání umělé inteligence a rovněž vytvořit pro-inovační prostředí pro rozvoj nových systémů AI“. Návrh zákona z konce září tohoto roku je ke dnešnímu dni v připomínkovém řízení.³

Obecně k AI aktu

V předchozím článku⁴ jsme se již problematikou právní regulace umělé inteligence (a tedy okrajově i AI aktu) zabývali, a to dominantně v kontextu umělé inteligence a základních lidských práv a svobod. V tomto článku se věnujeme výhradně AI aktu a českému adaptačnímu zákonu o umělé inteligenci. AI akt vstoupil v platnost dne 1. 8. 2024, přičemž jeho účinnost je rozdělena na několik období, a tedy nastává v jednotlivých fázích. Od 2. 2. 2025 tak je účinná část Nařízení stanovící zákaz systémů s nepřijatelným rizikem a povinnost zajištění AI gramotnosti u provozovatelů či uživatelů AI systémů. Od 2. 8. 2025 je účinná rovněž část Nařízení pojednávající o pravidlech pro řízení a dozor, což pro členské státy obnášelo povinnost určit příslušné orgány a jednotné kontaktní místo. Veškeré tyto, a další, kroky směřují k úplné účinnosti AI aktu, která by měla nastat dne 2. 8. 2027.

AI akt obecně podporuje zavádění výlučně důvěryhodných AI systémů zaměřených na člověka a zajišťujících vysokou úroveň ochrany základních práv zakotvených v Listině základních práv Evropské unie, a to s důrazem na hodnoty demokratického právního státu a ochrany životního prostředí. Úprava v AI aktu se zakládá především na následujících principech:

– přístup založený na míře rizika;

– transparentnost;

– ochrana základních práv;

– lidský dohled nad klíčovými rozhodnutími;

– zajištění kvality a bezpečnosti AI systémů.

Nařízení rovněž reaguje na případné porušení uložených povinností. Uložené sankce mohou dosahovat až do výše 35 milionů eur nebo do výše 7 % celosvětového obratu subjektu porušujícího pravidla AI aktu. Místní působnost AI aktu se vztahuje nejen na evropské subjekty, ale i na veškeré subjekty působících sice mimo EU, avšak které usilují o uvedení vlastního AI systému na trh nebo do provozu v rámci a na území EU.

Adaptační návrh zákona o umělé inteligenci a o změně zákona č. 87/2023 Sb., o dozoru nad trhem s výrobky a o změně některých souvisejících zákonů, ve znění pozdějších předpisů (dále jen „návrh zákona“), s kterým přišlo Ministerstvo průmyslu a obchodu, k AI aktu, by mělo umožnit snadnější a účinnější aplikaci předmětného Nařízení. Úplnou účinností Nařízení a adaptačního zákona dojde k zásadnímu kroku pro rozvoj celého AI systému v České republice, zahrnujícího veškeré technologie, instituce a infrastrukturu požadovanou pro vývoj a bezpečné využívání AI.

Obsah adaptačního návrhu zákona o umělé inteligenci

V prvé řadě je třeba uvést, že návrh zákona o umělé inteligenci je spíše zdrženlivý a pragmatický. Zvláštní je však dle našeho názoru skutečnost, že návrh zákona, jehož účelem a smyslem je upravovat velice komplexní a pro budoucnost podstatnou problematiku, je dosti stručný, když jej tvoří dohromady 10 stran a pouhých 25 paragrafů. Toto specifikum je důvodovou zprávou k návrhu zákona o umělé inteligenci zdůvodněnou povahou AI aktu, kdy přijaté Nařízení má přímý a okamžitý účinek, a proto navrhovaný zákon o umělé inteligence tedy pouze „doplňuje AI akt v oblastech, které jsou ponechány k národní úpravě členskými státy„, přičemž Nařízení ponechává na jednotlivých členských státech zejména úpravu procesních, institucionálních a sankčních aspektů problematiky.

Domníváme se však, že skutečnost, že AI akt výslovně ukládá členským státům povinnost přijmout adaptační právní úpravu ve výše uvedených oblastech, nebrání přijetí širší právní úpravy, a to takové, která by se komplexněji a podrobněji zabývala mj. ochranou základních práv a bezpečnosti při užívání a právním styku s umělou inteligencí. Taková úprava by se přitom měla zaměřit zejména na individuální požadavky české právní a sociální kultury, přičemž výsledkem by bylo dosažení větší právní jistoty a stability v dané, ke dnešnímu dni, stále málo regulované oblasti.

Klíčovou roli dle návrhu zákona o umělé inteligenci sehrají následující dozorové orgány:

– Ministerstvo průmyslu a obchodu;

– Úřad pro technickou normalizaci, metrologii a státní zkušebnictví;

– Česká národní banka;

– Český telekomunikační úřad;

– Úřad pro ochranu osobních údajů;

– Veřejný ochránce práv.

Návrh zákona o umělé inteligenci rovněž stanovuje zvláštní úpravu správních orgánů v případech, kdy by se při realizaci postupů předvídaných AI aktem ukázala úprava správního práva procesního jako nedostatečná. Nedostatkem návrhu zákona je ovšem např. to, že řadu podstatných otázek – včetně např. koordinace výše jmenovaných dozorových orgánů či vymezení fungování regulačního sandboxu – nechává návrh zákona bez odpovědi nebo odkazuje na doposud neexistující dokumenty a vyhlášky. Naopak se návrh zákona zabývá ku příkladu povolením uvedení vysoce rizikového systému AI na trh nebo do provozu či schválení testování takového systému v reálných podmínkách. Návrh zákona uvádí i specifické jazykové požadavky a zakotvuje oznamovací povinnost pro poskytovatele a vybrané subjekty. Dle našeho názoru by stálo návrh zákona o umělé inteligenci dále doplnit o specializovaný rozhodčí soud pro technologické spory, jenž by umožňoval rychlé a odborné rozhodování v této oblasti.

Regulační sandbox

Za zvláštní zmínku stojí i úprava tzv. regulačního sandboxu pro umělou inteligenci. Ten představuje, zjednodušeně řečeno, bezpečné a kontrolované prostředí, ve kterém se může testovat AI, a to v přímé interakci s provozovatelem regulačního sandboxu a skutečnými klienty. Podobné testovací mechanismy se už v zahraničí v hojné míře využívají, a to i v jiných odvětvích, čímž umožňují zkrátit čas potřebný pro uvedení novinek na trh.

Provozovatelem regulačního sandboxu pro umělou inteligenci bude dle návrhu zákona o umělé inteligenci Česká agentura pro standardizaci. Zřízení tohoto instrumentu přináší unikátní příležitost, zejména pro malé a střední podnikatele, provést bezrizikové testování vývoje nového AI systému, jehož výsledkem by měla být vstupní zpráva o splnění podmínek sandboxu, která by, mimo jiné, posloužila k rychlejší registraci nového systému AI a jeho uvedení na trh.

Veškeré detaily a podmínky provozování regulačního sandboxu by, v případě přijetí návrhu zákona o umělé inteligenci v současném znění, byly zveřejněny na internetových stránkách České agentury pro standardizaci. O finální podobě testovacího prostředí lze však v současné době pouze diskutovat na základě poskytnutých informací obsažených v materiálech k návrhu zákona o umělé inteligenci, které jsou bohužel dosti kusé a obecné. Za největší slabinu navržené úpravy se uvádí nedostatek právní ochrany práva duševního vlastnictví, know-how, a dále citlivých a důvěrných informací společností zapojených do regulačního sandboxu, a také nedostatečná garance toho, že dozorové úřady později znalost slabostí AI systémů nevyužijí při kontrolách a k udělování pokut.

Pevně věříme, že tyto slabiny budou v rámci legislativního procesu zachyceny a odstraněny a takové „testovací“ prostředí skutečně vznikne, neboť jeho výhody jsou očividné. Na druhou stranu je potřeba, aby zákonná úprava poskytla osobám zapojeným do regulačního sandboxu potřebnou míru ochrany a ochrany jejich know-how, neboť absence příslušné regulace může nejen řadu osob od účasti v regulačním sandboxu odradit, ale fungování celého testovacího prostředí poškodit.

Důsledky a dopady na práva a povinnosti fyzických a právnických osob

Jaký je ale význam daného návrhu zákona o umělé inteligenci? A je vůbec nutné podobný český zákon přijímat, když zde máme přímo účinné Nařízení EU? Nepřijetí zákona o umělé inteligenci by vyústilo v řadu negativních dopadů. Nepříznivé a dalekosáhle důsledky by se dotkly nejen ekonomiky našeho státu, ale rovněž by se negativním způsobem projevily v právní a institucionální rovině. Co do právní roviny lze konstatovat, že ignorancí včasného přijetí adaptačního zákona by nedošlo ke stanovení jasných podmínek pro zajištění souladu českého právního řádu s AI aktem, což by bylo v rozporu se základní zásadou právní jistoty. Českým subjektům by zároveň hrozilo omezení přístupu na jednotný digitální trh, vývoj nových AI projektů by byl zpožděn nebo úplně zastaven, což by vedlo k přesunu společností věnujících se umělé inteligenci a jejich aktiv do jiných členských zemí. S ohledem na význam vývoje a provozu systémů umělé inteligence pro národní hospodářské ukazatele, by odchod takových společností výrazně zasáhl do ekonomiky našeho státu jako celku.

V souvislosti s návrhem tohoto adaptačního zákona rovněž vyvstává otázka, co konkrétně přinese AI akt ve spojení s tímto návrhem a jakým způsobem zasáhne do práv a povinností daných subjektů?

Obecně lze říci, že dojde k posílení ochrany jednotlivců před škodlivým a nespravedlivým využitím umělé inteligence. Fyzické osoby tedy získají, mimo jiné, následující práva:

– právo na informace (osobě jednající se systémem AI musí být tato skutečnost známa);

– právo na lidský dohled a přezkum (v případě, že systém AI činí rozhodnutí se závažným právním či faktickým dopadem, lze požádat o lidský zásah či přezkum);

– právo na rovné zacházení (AI systémy musí být navrženy a používány nediskriminačně a spravedlivě);

– právo podat stížnost, pokud má daná osoba důvodné obavy, že AI systém jedná v rozporu s pravidly Nařízení nebo způsobí-li újmu.

AI akt se rovněž výrazně dotkne i právnických osob, převážně těch, jejichž činnost spočívá ve vývoji, poskytování či nasazování AI systémů. Mezi nejvýznamnější povinnosti plynoucí z AI aktu se řádí ku příkladu:

– povinnost šíření rizik (posouzení rizik, vedení technické dokumentace, zajištění kvality dat a transparentnost);

– registrace a dohled;

– kategorizace systému podle rizika;

– oznamování incidentů;

– spolupráce s dozorovým orgánem.

Závěr

Regulace umělé inteligence je v současné době skutečně „horkým“ tématem. Existence jasného právního rámce se s ohledem na rapidní vývoj nových systémů a skokový nárůst počtu každodenních uživatelů jeví jako zcela nezbytná. Stanovení přísných pravidel je jediný způsob, jak zabránit zneužití tohoto mocného nástroje a ochránit základní lidská práva jako je právo na respektování soukromého a rodinného života, či zákaz diskriminace. Nezbytné je rovněž s dodatečnou pozorností chránit děti, jakožto lehce zranitelné jedince.

Je nesporné, že AI akt stanovil významný milník v oblasti regulace umělé inteligence. Současným úkolem členských států je připravit své vnitrostátní právní řády na plnou účinnost tohoto Nařízení a přijmout adaptační vnitrostátní zákony, jejichž přijetí Nařízení předvídá a pro naplnění některých částí Nařízení přímo vyžaduje.

Česká republika, která má zájem stát se evropským lídrem v oblasti umělé inteligence, by dle našeho názoru měla přijmout takový zákon, který nejen, že bude v plném rozsahu adaptovat předmětné Nařízení EU, ale bude též upravovat problematiku umělé inteligence v kontextu základních lidských práv a svobod. Věříme, že takový zákon o umělé inteligenci bude do českého právního řádu v brzké době přijat.

Domníváme se totiž, že za účelem skutečného zajištění větší ochrany osob, stability, právní jistoty, ochrany základních práv a bezpečnosti při výzkumu a provozu nových systémů AI musí být současný návrh zákona o umělé inteligenci z dílny Ministerstva průmyslu a obchodu přepracován, a to tak, aby odpovídal a vyhovoval standardům a povinnostem stanoveným pro členské státy v AI aktu, a současně zohledňoval specifika českého právního i kulturního prostředí. Tímto by přitom mělo dojít nejen k nastavení právně souladného a spravedlivého regulativního rámce, který však nebude na osoby klást zbytečnou administrativní zátěž, ale zároveň bude dostatečných způsobem chránit základní lidská práva a svobody nás všech a jehož výsledkem bude vytvoření úspěšného, kvalitního a prosperujícího prostředí pro zdárné a prospěšné fungování inovačního systému AI.

tým AK Sudolská

1. https://eur-lex.europa.eu/eli/reg/2024/1689/oj/eng. ↩︎
2. https://mpo.gov.cz/cz/rozcestnik/pro-media/tiskove-zpravy/mpo-pripravilo-navrh-zakona-o-umele-inteligenci–cilem-je-vytvorit-co-nejlepsi-prostredi-pro-rozvoj-ai-v-cesku–289653/. ↩︎
3. https://odok.gov.cz/portal/veklep/material/KORNDLSJSEUC/. ↩︎
4. https://www.aksudolska.cz/zajimavosti-z-prava/umela-inteligence-ve-svetle-paragrafu/. ↩︎

Další články