Česko hledá cestu, jak se vypořádat s umělou inteligencí

Jednou z disciplín, v níž Česká republika v rámci Evropské unie bezesporu vyniká, je schopnost reagovat na problémy sestavováním odborných grémií či produkcí powerpointových prezentací. Tato schopnost se nyní naplno projevila i ve vztahu k právní reflexi fenoménu umělé inteligence.

Z různých pozičních dokumentů, strategií, barevných knih a dalších výstupů pracovních skupin plyne, že tento fenomén vyžaduje do českého práva zakomponovat především definici umělé inteligence, dále pak novou úpravu odpovědnosti, nový typ právní subjektivity a pak ještě legislativní zakotvení etických principů.

Nemám ambici diskutovat o potřebnosti existence rozsáhlých odborných či odborně-politických poradních a jiných orgánů. Domnívám se však, že má smysl vážně se zabývat otázkou o vhodnosti požadovaných úprav českého právního systému. Debaty různých grémií o čemkoli totiž obvykle, v porovnání se změnami platného práva, nevyžadují takové investice a ani nemají takový potenciál balastního, chaotického, nebo dokonce destruktivního společenského efektu. Jinými slovy: Nekonečné diskuse o nesmrtelnosti brouka nemohou ničemu příliš uškodit − horší je, pokud se nesmrtelnost brouka stane předmětem horečné legislativní aktivity.

Předně si nemyslím, že by cokoliv ze shora provedeného výčtu právních otázek bylo vhodné a potřebné legislativně řešit. I pokud by se to totiž skutečně podařilo kvalitně sepsat a ještě to v patřičné kvalitě protlačit přes obě komory parlamentu, ničemu to nepomůže.

Problém právního prostředí je totiž třeba řešit od účelu, tedy od otázky, k čemu je právo pro autonomní technologie vlastně dobré. Nemám patent na státní perspektivu, ale domnívám se, že základní teleologii mají v tomto případě tvořit na jedné straně investice (včetně výzkumu a vývoje) a na druhé straně spotřeba. K oběma komponentám regulatorní teleologie je přitom třeba přistoupit prostřednictvím pragmatického zhodnocení aktuální situace.

V obecné rovině jsou silnými stránkami Evropy, pokud jde o autonomní technologie, především bezprecedentní diverzita a kvalita dat, jakož i vůle a schopnost veřejného sektoru kreativně investovat. K tomu ještě přistupuje rovněž orientace společenského systému na člověka − rozsah a síla základních práv je poslední dobou chápána jako slabost, ale ve skutečnosti jde o nejdůležitější faktor nejhodnotnějšího evropského zdroje, kterým je kreativita. Specificky pak Česká republika má zajímavé výzkumné kapacity v oboru umělé inteligence a je na evropské špičce v partikulárních oborech, typicky v oblasti kyberbezpečnosti nebo výzkumu různých důsledků stárnutí populace.

Evropa naopak ztrácí oproti hlavním konkurentům, tedy Spojeným státům a Číně, například v otázce regulatorní flexibility, komerčního investičního cyklu (ten není v Evropě na rozdíl od USA kompletní) nebo korporátního investičního potenciálu generovaného datovou ekonomikou. Za těmito faktory je dle mého názoru třeba hledat i důvody, proč žádná z aktuálně dominantních základních autonomních technologií není evropská.

Jistá odpovědnost

Když Evropská komise zpracovávala odpověď na rezoluci Evropského parlamentu ohledně politiky k podpoře autonomních technologií, čekalo se, že ji podnikatelé zasypou požadavky týkajícími se nastavení právní úpravy odpovědnosti a dalších otázek souvisejících s autonomní ekonomikou. Ve skutečnosti se však představitelé průmyslu (toho skutečného − nikoli různých pofiderních asociací) vyjádřili prakticky unisono v tom smyslu, že jim je vlastně jedno, jak bude obecná nebo specifická právní úprava vypadat. Jediný, a o to silnější, požadavek směřoval k jistotě a předvídatelnosti dopadů příslušné regulace, tedy k předvídatelnému a stabilnímu investičnímu prostředí.

Vztáhneme-li tento požadavek na problematiku odpovědnosti za škodu nebo jiné újmy způsobené autonomními systémy, dospíváme k závěru, že nepotřebujeme nějaké nové instituty zakládající odpovědnost jako takovou. Vedle odpovědnosti za vadu výrobku, která bude v praxi na základě dosavadních zkušeností spíš k nepotřebě, totiž máme upravenou obecnou odpovědnost za škodu způsobenou provozem, respektive provozem zvláště nebezpečným.

Druhý jmenovaný institut je spolehlivě schopen pokrýt všechny typy škod, které můžeme za současného stavu poznání autonomních technologií předpokládat. Jeho problém spočívá jen v nejistotě ohledně toho, kdo je vlastně v právním smyslu provozovatelem, respektive který z "provozů" (tedy z různých technologií podílejících se v reálném čase na fungování autonomního systému) způsobil příslušný škodní následek.

Obchodní logika tohoto problému má vztah i k pojištění představujícímu často nutný předpoklad investic. Pokud de iure neoznačíme provozovatele, budeme nutit všechny subjekty, které by bylo možno za provozovatele považovat a činit je potenciálně solidárně odpovědnými, k pořízení pojistek. Nejistota ohledně míry odpovědnosti jednotlivých "provozovatelů" navíc povede k těžkostem při výpočtu pojistných modelů a k vysoké ceně příslušných pojistek.

Prostřednictvím legislativního zásahu samozřejmě nedocílíme nižších cen pojistek, ale můžeme dosáhnout toho, že je nebudou muset platit všichni, kdo by se teoreticky mohli za současného právního stavu dostat pod rozsah právní odpovědnosti.

Sektorová regulace

Regulatorní pozornost vyžadují též specifické správní podmínky pro vývoj a provoz autonomních technologií. Vzhledem k rozsáhlé škále oborů, v nichž předpokládáme nástup autonomních technologií, není vhodné zabývat se nějakou obecnou regulací. Namísto toho je třeba uvažovat o sektorové regulaci tam, kde je to pragmaticky vhodné a potřebné. Přitom je třeba rozlišovat mezi podmínkami pro aplikovaný a experimentální vývoj a spotřebitelským provozem.

Typicky u autonomních vozidel nemá dnes smysl řešit jejich spotřebitelský provoz na veřejných komunikacích prostě proto, že v dohledné době se žádná skutečně autonomní vozidla v komerčním provozu neobjeví. Má však smysl zabývat se podmínkami pro experimentální provoz, které umožní investorům jednoduše definovat technologické požadavky a vypočítat náklady na dosažení souladu s pravidly výzkumu a vývoje. Z nich se pak koneckonců dá podstata regulace zakomponovat do stávajícího režimu užívání pozemních komunikací.

Práva k datům

V neposlední řadě je třeba k vytvoření stabilního investičního prostředí řešit právní dostupnost dat. Evropský investor totiž nemůže využít bohatství evropských dat bez toho, aniž by řešil právní soulad s pravidly v různých členských státech. Vedle obsahového bohatství dat se totiž v Evropě potýkáme i s jejich bezprecedentní ochranou různými právy.

Neměli bychom ale za účelem rozvoje autonomní ekonomiky příslušná práva oslabovat − to by logicky vedlo ke snížení civilizačního standardu, kterého, aniž si to obvykle uvědomujeme, nedosahuje žádná jiná světová kultura. Namísto toho je potřeba soustředit se tam, kde je to politicky možné, na sjednocení právního režimu ochrany v rámci společného trhu, tak aby příslušný investor musel řešit právní soulad pouze s jedním právním řádem a nikoli s 28, respektive 27 odlišnými.

Typickým příkladem bezdůvodné fatální rozdílnosti regulace je ochrana dat autorskými právy a právy sui generis, kde se doposud kvůli různým partikulárním zájmům nepodařilo (a v dohledné době ani nepodaří) de iure vytvořit společný trh. Pozitivním příkladem je naopak ochrana osobních údajů, kde došlo k nahrazení, byť nikoli úplnému, původního roztříštěného režimu jednotnou právní úpravou.

Toto legislativní zadání samozřejmě není řešitelné na úrovni jednotlivého členského státu. Vysoké náklady na právní compliance se však dají řešit i tím, že členské státy budou investovat (namísto nesmyslné legislativy nebo jiného řešení nesmrtelnosti brouka) do vývoje konkrétních typických právních nástrojů určených investorům a fungujících v režimu aktuálně účinné právní úpravy. Namísto toho, aby si investor musel najímat pro každý členský stát profesionální službu k zajištění práv k příslušným datům, bude moci vyjít z hotových typových řešení. V tomto směru se jako vhodný model jeví třeba komplexní datové trusty (v Česku by šlo zřejmě o datové společnosti bez právní subjektivity) nebo datová družstva.

Certifikace a shoda

Zvláštní oblastí vyžadující legislativní ošetření částečně na úrovni Evropské unie a částečně na úrovni členských států pak je otázka shody respektive certifikace. Z pohledu investora jde především o oficiální uznání souladu jeho produktu s místní právní úpravou, z pohledu spotřebitele pak jde o to, aby podmínky pro prohlášení o shodě nebo pro vydání certifikátu pokud možno co nejvíce odpovídaly reálným požadavkům na bezpečnost příslušných produktů.

Příkladem národních řešení, jejichž model je obecně použitelný i pro oblast autonomních technologií, jsou třeba známky důvěry podle obecného nařízení o ochraně osobních údajů. Evropský rozměr budou mít například čerstvě schválená certifikační schémata dle Aktu o kybernetické bezpečnosti, která se rovněž mohou stát předobrazem certifikačního mechanismu pro autonomní ekonomiku.

Pokud už lze nějak definovat etické principy pro autonomní technologie a pokud se mají na základě politické objednávky stát předmětem právní úpravy (přičemž o ani jednom z těchto předpokladů nejsem úplně přesvědčen), domnívám se, že jejich adekvátní začlenění do platného práva může proběhnout pouze prostřednictvím performativních pravidel směřujících specificky k subjektům provádějícím vývoj a k příslušným provozovatelům. Performativní model regulace je totiž jako jediný schopen obsáhnout etické principy a nepůsobit přitom fatální neefektivitu. O konkrétních pravidlech chování totiž rozhoduje každý regulovaný subjekt autonomně v návaznosti na svou konkrétní situaci.

Drobná legislativa bez ohňostroje

Z výše uvedeného plyne, že oblastí, kde má smysl zabývat se za účelem rozvoje autonomní ekonomiky národní právní úpravou, není mnoho a nejsou nikterak rozsáhlé. Současně se nejedná o oblasti, kde by se příslušné legislativní výstupy, mají-li mít smysl, daly pompézně mediálně prezentovat nebo prodat jako výstup integrovaného operačního programu. Namísto toho jde o konkrétní zadání vyžadující vysokou míru odbornosti a hodinářskou legislativní přesnost, tedy vlastnosti, které se u mnohočetných odborných grémií poskládaných ze zástupců všech možných institucí vyskytují jen výjimečně. Dokonce se domnívám, že se může se shora popsanými výzvami lépe vypořádat malý anonymní tým specializovaných ministerských referentů spíše než stočlenná pracovní skupina složená z věhlasných náměstků, akademiků, zástupců různých unií, lig, sdružení a čert ví, koho ještě.

Konkrétně vzato: problematika jednoznačného určení provozovatele autonomní technologie je řešitelná drobným legislativním experimentem, který nemusí ani směřovat do občanského práva − příkladně u automobilů je tato otázka již dnes uspokojivě řešena prostřednictvím správní regulace. Podmínky pro experimentální a spotřebitelský provoz mohou být řešeny zákonným, nebo dokonce podzákonným právem (či dokonce jen technickou normalizací) v jednotlivých oblastech, kde předpokládáme vývoj nebo spotřebitelské nasazení autonomních technologií a současně máme důvod se obávat, že zde riziko odpovědnosti přirozeně nepovede k jejich adekvátnímu zabezpečení.

Systematicky totožné, tedy sektorové a správní, pak může být i případné řešení implementace etických pravidel. Pro sektory, kde to bude vyžadovat nedostatečná motivace odpovědnostními riziky (včetně rizik vycházejících například z hromadných žalob), tedy lze pro vývojáře a provozovatele autonomních technologií upravit obecné performativní povinnosti, které se následně projeví v jejich interních organizačních procesech.

Jedinou regulatorní oblastí, která může vyžadovat nový obecný přístup, je certifikace, respektive shoda. Tato rovněž správní agenda totiž může být pojata sektorově (jako ve výše uvedených případech, tedy například pro oblast silniční nebo letecké dopravy), ale může být řešena i v rámci jiného obecného sektoru (aktuálně ochrany osobních údajů nebo kybernetické bezpečnosti) nebo může vytvořit zcela nový obecný sektor. Těžké je nyní usuzovat, který z uvedených modelů je více či méně vhodný, a těžké je též jednoznačně určit, zda by byl vhodnější spíše společný celoevropský přístup, nebo autonomní řešení na úrovni jednotlivých členských států. V tomto případě tedy nezbývá než se spolehnout na autonomní politické rozhodnutí a doufat, že bude správné.

Namísto pozitivního závěru ohledně světlé budoucnosti České republiky v oblasti autonomních technologií dovolím si ještě pár pragmatických subjektivních postřehů z dosavadního legislativního vývoje. Obecné nařízení o ochraně osobních údajů, které upravuje jeden ze základních institutů budoucí autonomní ekonomiky, jsme do českého práva implementovali tři roky po jeho přijetí, téměř rok po mandatorní lhůtě. Navíc za hloupého povyku nemajícího s reálnými problémy nařízení nic společného a v extrémně nekvalitní formě. Možností, které nám nařízení dává k průmyslem tak žádané konkretizaci regulatorního prostředí − například ohledně procesů uplatnění subjektivních práv nebo ohledně známek důvěry −, jsme přitom vůbec nevyužili.

Při projednávání směrnice o autorském právu pak česká vláda prostřednictvím ministerstva kultury překvapivě na poslední chvíli vystoupila proti ustanovení, které má − opět z důvodu právní jistoty průmyslu − explicitně upravit možnost užití autorských děl pro strojové učení a omezit tím shora zmíněnou nákladnost na právní compliance při vývoji autonomních technologií. Nic závažného se v tomto případě naštěstí nestalo, protože se náš originální postoj při obraně před autonomními technologiemi nesetkal s pochopením ostatních členských států.

Oba tyto legislativní zábrusy mohou samozřejmě být ojedinělými epizodami. Ve spojení se skutečností, že reálná penetrace autonomními technologiemi je u nás hluboko pod evropským průměrem, se však nelze ubránit dojmu, že jediná oblast, kde můžeme v našem právním prostředí něco hodnotného nabídnout, je právě ona velmi specifická disciplína tvorby odborných nebo odborně politických orgánů a produkce strategických a pozičních dokumentů.

Článek byl publikován v magazínu Právní rádce.