Umělá inteligence ve službách obcí
Evropská unie schválila v roce 2024 tzv. Akt o umělé inteligenci, oficiálně Nařízení (EU) 2024/1689, které představuje první ucelený právní rámec pro vývoj, nasazování a používání systémů umělé inteligence (AI) napříč členskými státy. Toto nařízení dopadá i na každodenní chod městských a obecních úřadů, které se čím dál více spoléhají na automatizaci, datovou analytiku a digitální nástroje.
Obce a města využívají AI především v těchto oblastech:
- Zpracování a třídění elektronických podání (např. třídění došlé pošty v rámci spisové služby, žádosti o nájem obecních bytů, granty, místní poplatky, automatizované vyřizování podnětů občanů),
- Komunikace s občany prostřednictvím chatbotů a digitálních asistentů,
- Chytrá správa majetku a infrastruktury (prediktivní údržba, sledování poruch, optimalizace veřejného osvětlení),
- Městské plánování a analýzy dat (využití území, doprava, veřejné investice, školství),
- Krizové řízení a predikce událostí (např. monitoring hlášení poruch nebo výstražných systémů).
Právě zde však nařízení klade důraz na rozlišení mezi běžným využitím AI a případy, kdy systémy AI přímo ovlivňují práva, povinnosti nebo přístup k veřejným službám – tedy takzvané vysoce rizikové systémy. Tyto vyžadují zvláštní dohled, dokumentaci a transparentnost.
Nová odpovědnost: školit zaměstnance
Od února 2025 vstoupila v platnost první část uvedeného nařízení, ze které vyplývá mj. povinnost pro zaměstnavatele zajistit gramotnost v oblasti umělé inteligence pro všechny své zaměstnance, kteří nástroje AI využívají. Jednou z méně viditelných, ale naprosto zásadních novinek je požadavek na zvýšení tzv. AI gramotnosti ve veřejné správě.
Podle článku 4 nařízení mají instituce, včetně měst a obcí, povinnost zajistit, že jejich zaměstnanci rozumějí:
- tomu, jak AI systémy fungují a jak vznikají jejich výstupy,
- jejich omezením a rizikům,
- způsobům, jak výstupy AI přezkoumat a případně opravit,
- pravidlům ochrany osobních údajů v souvislosti s používáním AI.
Tato školení se mají týkat nejen pracovníků, kteří systémy přímo obsluhují, ale i těch, kdo AI výstupy používají při rozhodování, připravují podklady pro vedení obce nebo komunikují s občany.
Jak může vypadat kvalitní školení?
Nařízení sice neurčuje přesný formát školení, ale jeho obsah by měl odpovídat míře využití AI na daném úřadě. Prakticky může jít například o:
- interní workshopy vedené dodavatelem AI systému nebo ICT oddělením,
- e-learningové kurzy zaměřené na AI v samosprávě,
- semináře pořádané ministerstvem, DIGI agenturou či krajem,
- nebo kombinované formáty školení a testů pro ověření pochopení rizik a povinností.
Při zavádění nového AI systému by mělo být školení součástí implementace. Doporučuje se také vytvoření vnitřního školícího plánu a vzorové směrnice, která jasně určí, kdo se má školit, kdy a v jakém rozsahu.
Přehled, informovanost, důvěryhodnost
Obecní úřady mají podle nařízení rovněž povinnost informovat občany, pokud jejich žádost nebo jiná agenda je zpracovávána pomocí AI systému. Občan má mít možnost:
- dozvědět se, že výstup byl generován AI,
- požádat o lidské přezkoumání,
- získat vysvětlení použitých kritérií.
Zároveň musí úřad vést záznamy o fungování AI systémů, aby bylo možné rozhodnutí zpětně vysvětlit a přezkoumat.
Inovace s důvěrou
Akt o umělé inteligenci vytváří prostor pro odpovědnou digitalizaci veřejné správy. Nezakazuje inovace, ale vyžaduje, aby probíhaly v souladu s principy transparentnosti, bezpečnosti a lidského dohledu. Města a obce mají nyní nejen technickou, ale i vzdělávací výzvu: připravit své úředníky na práci s novými technologiemi, které budou stále více ovlivňovat správní procesy.
Tím, že obce investují do kompetencí svých lidí, zajišťují si nejen právní jistotu, ale především důvěru občanů v moderní veřejnou službu.