24.08.2026

Umělá inteligence ve veřejné správě: bezpečné využívání nové technologie a role ČTÚ

Umělá inteligence (AI) patří v posledních letech mezi nejdiskutovanější technologická témata. Ve veřejném prostoru bývá tato technologie vnímána velmi rozdílně. Na jedné straně je představována jako nástroj, který může zásadně zefektivnit řadu oblastí lidské činnosti, zjednodušit práci a přinést nové možnosti využití. Na straně druhé vyvolává otázky spojené s bezpečností, ochranou práv jednotlivců nebo možnými negativními dopady jejího nekontrolovaného využívání.

Méně pozornosti už někdy získává skutečnost, že Evropská unie současně vytváří právní rámec, jehož cílem je nastavit jasná pravidla pro bezpečné a odpovědné využívání umělé inteligence. Dohledem nad dodržováním této regulace v České republice bude pověřen také Český telekomunikační úřad (ČTÚ).

Úlohou ČTÚ nebude bránit rozvoji technologií, ale naopak přispět k tomu, aby umělá inteligence mohla bezpečně rozvíjet svůj potenciál a přinášet užitek občanům, veřejné správě i soukromému sektoru. Cílem je podporovat takové využívání AI, které bude efektivní, odpovědné a v souladu s právními požadavky.

Většina lidí si dnes pod pojmem umělá inteligence pravděpodobně představí především chatovací nástroje dostupné prostřednictvím internetového prohlížeče. Právě s touto podobou AI se veřejnost v současnosti setkává nejčastěji. Umělá inteligence však zahrnuje mnohem širší oblast využití – od automatizace opakujících se činností přes analýzu dat až po podporu rozhodovacích procesů. Své místo může mít také ve veřejné správě a samosprávě.

ČTÚ chce být partnerem veřejné správy při zavádění systémů umělé inteligence tak, aby jejich využívání přispívalo ke zkvalitnění poskytovaných služeb a současně probíhalo bezpečným a transparentním způsobem. Potřeby jednotlivých úřadů se však mohou výrazně lišit, a proto není možné doporučit jeden konkrétní nástroj vhodný pro všechny. ČTÚ může pomoci zejména s orientací v oblasti regulace AI, vysvětlováním požadavků vyplývajících z nové legislativy a podporou bezpečného využívání těchto technologií.

Co je AI Act? Regulace jako nástroj pro bezpečné využívání AI

Regulace, na jejímž základě bude ČTÚ vykonávat svou úlohu v oblasti dohledu nad umělou inteligencí, vychází z evropského nařízení známého jako AI Act. Jeho cílem je vytvořit jednotná pravidla pro bezpečné využívání systémů umělé inteligence v Evropské unii.

AI Act patří mezi další evropské předpisy, které reagují na rozvoj digitálního prostředí, podobně jako například obecné nařízení o ochraně osobních údajů (GDPR). Nejde však pouze o další soubor povinností, které by měly organizacím komplikovat práci. Smyslem AI Actu je především vytvořit předvídatelné prostředí a stanovit pravidla, která umožní využívat výhody umělé inteligence při zachování odpovídající úrovně ochrany uživatelů.

Pokud budou subjekty využívající AI dodržovat stanovené požadavky, měl by AI Act přispět k posílení důvěry společnosti v nové technologie a současně pomoci omezit rizika spojená s jejich zneužitím. Mezi tato rizika patří například vytváření falešného obsahu prostřednictvím technologií typu deepfake nebo další formy podvodného využívání umělé inteligence.

Základním principem AI Actu je přístup založený na míře rizika. Čím vyšší riziko může konkrétní využití umělé inteligence představovat, tím přísnější požadavky na něj regulace klade. Nařízení proto neřeší pouze samotnou technologii, ale především způsob jejího použití a možné dopady na jednotlivce i společnost.

Z tohoto důvodu rozděluje AI Act systémy umělé inteligence do několika kategorií. Některé způsoby využití jsou zcela zakázané, u dalších je možné systémy používat pouze za předpokladu splnění stanovených podmínek. Tento přístup umožňuje nastavit hranice mezi využitím, které je přijatelné, a oblastmi, kde mohou vznikat nepřiměřená rizika.

AI Act tak nemusí být vnímán pouze jako soubor omezení, ale také jako určité vodítko pro bezpečné hledání možností využití umělé inteligence. Například příloha III AI Actu vymezuje oblasti, ve kterých mohou systémy AI představovat vyšší riziko, ale současně mohou být přínosné. Pro jejich využití proto stanovuje konkrétní požadavky, které musí být splněny před jejich bezpečným zavedením.

V jaké roli mohou být obce při využívání AI?

AI Act vymezuje jednotlivé role subjektů, které mohou být do využívání systémů umělé inteligence zapojeny, a stanovuje pro ně odpovídající práva a povinnosti. Samosprávné celky budou v praxi nejčastěji vystupovat v roli tzv. zavádějících subjektů, tedy subjektů, které systém umělé inteligence využívají pro vlastní činnost nebo při poskytování služeb občanům.

Konkrétní povinnosti obcí se budou odvíjet především od účelu, pro který bude daný systém AI využíván, a od jeho zařazení podle AI Actu. Pokud by například obec využívala nástroj umělé inteligence pro komunikaci s obyvateli, například prostřednictvím automatizovaného asistenta odpovídajícího na dotazy, musí být občané informováni o tom, že komunikují se systémem AI, nikoliv přímo s člověkem.

Odlišná situace nastane u systémů, které mohou představovat vyšší riziko a spadají do některé z kategorií uvedených v příloze III AI Actu. Příkladem může být systém využívaný při náboru zaměstnanců nebo při správě zaměstnaneckých vztahů. V takovém případě mohou vzniknout další povinnosti, například potřeba zajistit odpovídající lidský dohled nebo proškolení osob, které se systémem pracují.

Je také důležité rozlišovat mezi pouhým využíváním systému AI a jeho vlastním vývojem nebo zásadní úpravou. Pokud by obec vyvíjela vlastní systém umělé inteligence, vystupovala by podle AI Actu v roli tzv. poskytovatele. Tato role s sebou přináší výrazně širší rozsah povinností než samotné zavedení již existujícího systému.

Stejná situace může nastat i v případě, kdy obec významně upraví systém, který původně vytvořil jiný subjekt. Pokud by změny ovlivnily jeho fungování nebo účel použití natolik, že by se jednalo o podstatnou úpravu systému, mohla by obec rovněž získat postavení poskytovatele se souvisejícími povinnostmi.

Role obcí však nemusí spočívat pouze v praktickém zavádění systémů umělé inteligence. Obce mohou sehrát významnou úlohu také v oblasti vzdělávání a podpory technologické gramotnosti svých obyvatel. Mohou například zprostředkovávat informace o možnostech bezpečného využívání AI, pořádat vzdělávací aktivity nebo upozorňovat občany na dostupné kurzy a další zdroje.

Veřejná správa tak může přispět nejen k vlastnímu efektivnějšímu fungování díky využívání nových technologií, ale také k tomu, aby se občané dokázali v prostředí rychle se rozvíjející umělé inteligence lépe orientovat.

Bezpečné používání AI v prostředí úřadů

Vedle plánovaného a řízeného zavádění systémů umělé inteligence je potřeba věnovat pozornost také situacím, kdy zaměstnanci úřadů začnou využívat veřejně dostupné AI nástroje samostatně. Často tak činí proto, že jim tyto nástroje mohou usnadnit každodenní práci, například při tvorbě textů, shrnování dokumentů nebo vyhledávání informací.

Takové využívání však může přinášet bezpečnostní a právní rizika, zejména pokud zaměstnanci do veřejně dostupných nástrojů vkládají citlivé nebo neveřejné informace. Bez jasně nastavených pravidel může být obtížné zajistit, aby byly tyto nástroje používány způsobem, který odpovídá požadavkům na ochranu informací a další právní povinnosti úřadu.

ČTÚ proto doporučuje obcím věnovat pozornost vzdělávání zaměstnanců v oblasti bezpečného využívání veřejně dostupných AI nástrojů. Součástí tohoto vzdělávání by mělo být zejména vysvětlení, v jakých situacích může být využití AI přínosné, kdy je nutné postupovat obezřetně a jaké informace není vhodné do těchto nástrojů zadávat.

Kdo může obcím pomoci s orientací v oblasti AI?

ČTÚ si uvědomuje, že orientace v nové evropské legislativě a současně v rychle se vyvíjející technologické oblasti může být pro mnoho organizací náročná. Proto chce upozornit na dostupné zdroje podpory a místa, kde mohou veřejné instituce získat informace, inspiraci nebo praktickou pomoc.

V současnosti je prováděcí zákon k AI Actu stále v legislativním procesu, a možnosti ČTÚ jsou proto do určité míry omezené. Po přijetí příslušné právní úpravy se však ČTÚ stane plnohodnotným dozorovým orgánem a hlavním kontaktním místem pro oblast AI Actu v České republice. Organizace, které budou potřebovat vysvětlení jednotlivých požadavků nebo praktických dopadů regulace, se proto budou moci obracet právě na ČTÚ a samozřejmě tak mohou činit i nyní, požadavkům se samozřejmě budeme věnovat a pokusíme se být co nejvíce nápomocni.

Vedle ČTÚ budou pravděpodobně dalšími orgány dozoru také Úřad pro ochranu osobních údajů, zejména v oblastech souvisejících s ochranou osobních údajů a základních práv, a Česká národní banka v oblasti finančních služeb.

Ve veřejné správě bude možné využít také podporu dalších institucí a iniciativ. Obce mohou například sledovat činnost vládního zmocněnce pro AI Mgr. Lukáše Kačenu nebo využívat materiály Digitální informační agentury (DIA), která připravuje podklady k využívání umělé inteligence ve veřejném sektoru.

Jedním ze základních materiálů, který může pomoci při prvních krocích v oblasti bezpečného využívání AI, je Desatero etického a odpovědného využívání AI. Pro zájemce z veřejné správy může být přínosný také kurz eAkademie DIA s názvem „Průvodce pro etické a odpovědné využívání AI ve veřejné správě“.

Zkušenosti s vývojem a zaváděním systémů umělé inteligence na míru může sdílet také Centrum pro regionální rozvoj. Pokud by obec měla pochybnosti, zda některý systém AI nezasahuje nepřiměřeně do základních práv občanů, bude možné využít také možnosti obrátit se na kancelář ombudsmana, který by měl daný systém ve spolupráci s ČTÚ posoudit.

Další zdroje a inspirace pro obce

Vedle veřejnoprávních institucí mohou obce využívat také řadu zdrojů ze soukromého sektoru nebo z odborných komunit, které se problematice umělé inteligence věnují. Tyto zdroje mohou pomoci nejen při hledání konkrétních možností využití AI, ale také při sdílení zkušeností a příkladů dobré praxe.

Příkladem takového materiálu je například elektronická publikace Nástroje AI ve veřejné správě od České asociace umělé inteligence (ČAUI), která se zaměřuje přímo na možnosti využití umělé inteligence ve veřejném sektoru. Významnou roli mohou sehrát také odborné organizace a komunity, které propojují odborníky, veřejnou správu a další subjekty zabývající se rozvojem AI. Patří mezi ně například ČAUI, prg.AI, Brno.AI nebo konference Černá.AI.

Pro zájemce o širší přehled možností využití umělé inteligence mohou být přínosné také konference Dny AI nebo další vzdělávací aktivity zaměřené na praktické využití této technologie. Základní znalosti o fungování umělé inteligence lze získat například prostřednictvím kurzu Elements of AI, který je dostupný také v českém jazyce. Pokud obec využívá prostředí Microsoft 365, může využít také vzdělávací materiály zaměřené na nástroj Copilot a možnosti využití velkých jazykových modelů v kancelářském prostředí.

Pokud si obec není jistá, v jakých oblastech by pro ni mohlo být využití umělé inteligence přínosné, může využít také specializované přehledy a katalogy příkladů dobré praxe, například na stránkách www.ai-obce.cz. Významným zdrojem zkušeností však zůstává také samotná komunita samospráv. Jednotlivé obce budou při zavádění AI řešit obdobné otázky, a proto může být vzájemné sdílení zkušeností velmi cenné.

K základnímu propojení zájemců z veřejné správy může sloužit například Platforma pro AI ve veřejné správě vzniklá pod záštitou ČAUI. Další příležitostí pro výměnu zkušeností a navazování kontaktů je konference AI ve veřejné správě.

Vzhledem k rychlému vývoji v oblasti umělé inteligence je důležité průběžně sledovat nové informace a příklady využití. Pokud bude mít obec zájem o systematičtější sledování novinek, může využít například odborné newslettery jednotlivých organizací nebo sledovat veřejné profily odborníků, kteří se oblasti AI dlouhodobě věnují.

Závěr: AI jako nástroj, který vyžaduje odpovědný přístup

Jak již bylo uvedeno, AI Act nepředstavuje komplexní návod na veškeré využívání umělé inteligence. Jeho hlavním účelem je vymezit základní pravidla a hranice, v jejichž rámci se mohou organizace v Evropské unii při vývoji a používání AI pohybovat.

Příkladem praktického využití umělé inteligence ve veřejné správě může být například digitální dvojče starosty ve městě Ratiboř, označované také jako AI starosta, které pomáhá zjednodušit základní komunikaci obyvatel s místním úřadem. Možnosti využití umělé inteligence ve veřejném sektoru jsou však výrazně širší a budou se s dalším vývojem technologií dále rozšiřovat.

ČTÚ chce podporovat veřejný i soukromý sektor v odpovědném experimentování s umělou inteligencí a pomáhat hledat způsoby, jak tuto technologii využít bezpečně a efektivně. Cílem je být partnerem samosprávám při jejich inovačních aktivitách a poskytovat podporu v oblastech, které spadají do působnosti úřadu.

Návrh možných prvních kroků pro obce při zavádění AI

Při přípravě na využívání umělé inteligence mohou obce postupovat například podle následujících kroků:

1. Určete v rámci úřadu osobu nebo tým, který se bude tématu AI dlouhodobě věnovat.
2. Zmapujte současné využívání AI nástrojů na úřadě.
3. Zjistěte, v jakých oblastech zaměstnanci očekávají od AI největší přínos.
4. Identifikujte procesy a činnosti vhodné pro využití AI.
5. Vyhodnoťte přínosy, náklady a rizika jednotlivých možností využití AI.
6. Stanovte pravidla pro používání AI v rámci úřadu.
7. Vyberte vhodný případ využití AI a otestujte jej v rámci pilotního projektu.
8. Zajistěte pravidelné vzdělávání zaměstnanců v oblasti bezpečného a efektivního využívání AI.
9. Vyhraďte pravidelný čas pro diskusi o využívání AI.
10. Průběžně zvažujte, jakým způsobem může AI pomoci při každodenní práci.
    
    

Zdroj: ČTÚ