Pravidla pro umělou inteligenci

6. 2. 2024 Obec a finance Veřejná správa online

Česká republika na jednání Výboru stálých zástupců Coreper I podpořila Akt o umělé inteligenci. Ten stanovuje pravidla pro využívání umělé inteligence v EU z hlediska zvýšení ochrany zdraví, bezpečí a základních práv. Zamezí třeba tzv. social scoringu, tedy hlídání občanů kamerami ve veřejném prostoru a jejich hodnocení podle prohřešků.

Nebude také možné, aby docházelo k biometrické kategorizaci občanů s cílem vyvodit jejich politické názory, rasu nebo např. náboženskou víru či sexuální orientaci. Stejně tak nebude možné až na velmi úzké výjimky využívat systémy umělé inteligence na pracovišti nebo ve vzdělávacích institucích pro rozpoznávání emocí a další. Členské státy Unie v pátek 2. února podpořily předběžnou politickou dohodu jednohlasně, tu se podařilo uzavřít mezi Radou a Evropským parlamentem začátkem prosince 2023.

„Dnešní hlasování je klíčovým momentem ve vyjednávání, který nás posouvá o krok blíže k nastavení celoevropských pravidel pro používání systémů umělé inteligence. Finální dohoda nastavuje důležité záruky pro využívání umělé inteligence tak, aby byla dobrým sluhou, ne špatným pánem. Ačkoliv finální dohoda není zcela perfektní, jde po měsících složitého vyjednávání o vyvážený kompromis. Jsem rád, že ČR během našeho předsednictví zásadním způsobem napomohla posunu ve vyjednávání tohoto důležitého návrhu, kdy se nám s mým týmem podařilo dojednat konsensus mezi 27 státy EU. Nyní nás čeká práce na přípravě implementace na národní úrovni tak, aby reálné provádění pravidel nebylo příliš těžkopádné a administrativně náročné,“ uvedl vicepremiér pro digitalizaci Ivan Bartoš.

Akt o umělé inteligenci je klíčový z hlediska zvýšení ochrany zdraví, bezpečí a základních práv. Zamezí např. případům, kdy by systémy umělé inteligence mohly hlídat občany ve veřejném prostoru, hodnotit je podle prohřešků a vyvozovat důsledky i v jiných nesouvisejících oblastech. Zároveň až na zcela výjimečné a úzce definované situace nebude možné využívat vzdálenou biometrickou identifikaci v reálném čase (plošně zjišťovat totožnost lidí pomocí kamer). U systémů, které sice nejsou zakázané, ale představují vysoké riziko, akt o umělé inteligenci nastavuje celou řadu dalších pravidel proto, aby bylo minimalizováno riziko jejich zneužití.

Schválení finální dohody členskými státy je dalším milníkem a posunem k tomu, aby EU jako první na světě pokročila v zajištění právní jistoty a nastavení pravidel, která zjednoduší vývoj, provoz a volný pohyb AI služeb a produktů na vnitřním trhu EU. V době rapidního růstu využívání systémů a aplikací založených na umělé inteligenci zároveň sehraje klíčovou roli v zajištění dodržování ochrany základních práv a principů EU.

O finální dohodě budou v průběhu února hlasovat také výbory Evropského parlamentu. Paralelně s tímto procesem budou probíhat finální jazykové a právní úpravy textu před tím, než by měl být finálně schválen na plénu Evropského parlamentu a na ministerské Radě v první polovině tohoto roku. Finální dohoda Aktu o umělé inteligenci počítá s postupným náběhem povinností vyplývajících z jednotlivých částí návrhu – první povinnosti, které jsou svázané s úplným zákazem některých praktik umělé inteligence, by mohly začít platit už koncem tohoto roku.

Česká republika v rámci vyjednávání nařízení prosazovala zejména proinovační přístup k této přelomové technologii. Finální text nařízení obsahuje nástroje na podporu inovací, jako je např. testování v reálných podmínkách trhu nebo zřízení regulatorních sandboxů. Nicméně ani to není jistou zárukou udržení konkurenceschopnosti českých a evropských společností na světovém trhu. V této souvislosti ČR oceňuje doplňující iniciativu, tzv. AI inovační balíček, který zveřejnila Evropská komise 24. ledna 2024 a který se zaměřuje na způsoby, jak posílit výzkumnou infrastrukturu a kapacity v oblasti vývoje umělé inteligence pro menší a začínající podniky. Důležitá bude také připravovaná revize Národní strategie pro umělou inteligenci, na které pracuje Ministerstvo průmyslu a obchodu a která má přispět k maximálnímu využití potenciálu umělé inteligence pro ekonomiku a společnost v ČR.

Karolína Sadílková, Kabinet místopředsedy vlády pro digitalizaci