Nasazení umělé inteligence ve firmách roste exponenciálně. Podle průzkumu McKinsey z roku 2025 využívá AI nástroje 72 % organizací celosvětově — oproti 55 % o rok dříve. V Česku je situace podobná: generativní AI už používá většina zaměstnanců ve středních a velkých firmách, často bez vědomí vedení.
S rozšířením přichází i rizika. Nebezpečí AI pro firmu nespočívá v samotné technologii, ale v tom, jak je nasazena — bez pravidel, bez proškolení, bez kontroly. Firmy, které rizika AI neřeší systematicky, se vystavují finančním ztrátám, regulatorním sankcím a poškození reputace.
À retenir
- Rizika AI lze rozdělit do čtyř kategorií: provozní, regulatorní, bezpečnostní a etická
- Největší hrozbu představuje nekontrolované používání AI bez interních pravidel (shadow AI)
- AI Act EU vyžaduje od firem aktivní řízení rizik spojených s umělou inteligencí
- Systematický přístup ke governance AI výrazně snižuje pravděpodobnost incidentů
Čtyři kategorie rizik AI
1. Provozní rizika
Provozní rizika vznikají, když AI nástroje produkují chybné výstupy, které ovlivňují rozhodování firmy.
Halucinace jsou nejčastějším problémem. Jazykové modely generují text, který vypadá přesvědčivě, ale obsahuje fakticky nesprávné informace. V právním, finančním nebo zdravotnickém kontextu může jediná halucinace způsobit vážné škody — od chybných smluv po nesprávná daňová přiznání.
Další provozní rizika:
- Závislost na jediném poskytovateli AI (vendor lock-in)
- Výpadky služeb třetích stran (ChatGPT, Copilot)
- Nekonzistentní výstupy při opakovaném použití
- Ztráta know-how, když zaměstnanci přestanou rozvíjet vlastní odbornost
62 %
firem zaznamenalo alespoň jeden incident způsobený halucinací AI v roce 2025
Source : Gartner AI Risk Survey, 2025
2. Bezpečnostní rizika
Bezpečnostní rizika AI se prolínají s kybernetickou bezpečností. NÚKIB v roce 2025 upozornil na rostoucí využívání AI útočníky i na rizika spojená s neřízeným nasazením AI v organizacích.
Hlavní bezpečnostní hrozby:
- Únik důvěrných dat: Zaměstnanci zadávají interní dokumenty, finanční údaje nebo osobní data zákazníků do veřejných AI nástrojů
- Prompt injection: Útočníci mohou manipulovat AI systémy prostřednictvím škodlivých vstupů
- Shadow AI: Neautorizované používání AI nástrojů zaměstnanci mimo kontrolu IT oddělení
- Deepfakes a sociální inženýrství: AI generované hlasové a video podvrhy pro phishingové útoky
Shadow AI — neřízené používání AI nástrojů zaměstnanci — je podle analytiků Gartner přítomné v 75 % organizací. Zaměstnanci používají bezplatné verze ChatGPT, přepisovací služby a překladače bez vědomí IT oddělení. Data, která do těchto nástrojů zadávají, mohou být použita k trénování modelů.
3. Regulatorní rizika
Evropský Akt o umělé inteligenci (AI Act) přináší firmám konkrétní povinnosti. Jejich nesplnění znamená riziko pokut, které mohou dosáhnout až 35 milionů EUR nebo 7 % ročního obratu.
Klíčové regulatorní povinnosti:
- Článek 4 (AI literacy): Všichni zaměstnanci pracující s AI musí mít odpovídající úroveň znalostí — platí od srpna 2025
- Klasifikace rizik: Firma musí vyhodnotit, zda její využití AI spadá do kategorie vysoce rizikových systémů
- GDPR: Zpracování osobních údajů prostřednictvím AI podléhá standardním pravidlům ochrany dat — ÚOOÚ aktivně kontroluje soulad
- Dokumentace: Firma musí být schopna prokázat, jaké AI systémy používá a jak řídí související rizika
4. Etická rizika
Etická rizika jsou často podceňována, ale mohou mít závažné dopady na reputaci firmy.
- Předpojatost (bias): AI modely mohou reprodukovat a zesilovat diskriminační vzorce z trénovacích dat — například v náborových procesech nebo při hodnocení klientů
- Transparentnost: Zákazníci a zaměstnanci mají právo vědět, kdy komunikují s AI
- Odpovědnost: Kdo nese odpovědnost za rozhodnutí učiněná s pomocí AI?
- Dopad na zaměstnance: Nezvládnuté zavedení AI může vyvolat odpor, nejistotu a pokles důvěry v organizaci
Jak rizika AI identifikovat
Identifikace rizik vyžaduje strukturovaný přístup. Doporučujeme tříkrokový postup:
Krok 1: Zmapujte aktuální využití AI
Zjistěte, jaké AI nástroje vaši zaměstnanci skutečně používají. Zkušenost ukazuje, že realita se výrazně liší od oficiálních předpokladů vedení. Proveďte interní audit — anonymní dotazník doplněný analýzou síťového provozu a licencí.
Krok 2: Klasifikujte rizika podle dopadu
Pro každý identifikovaný nástroj a způsob využití vyhodnoťte:
- Pravděpodobnost nežádoucího incidentu (nízká / střední / vysoká)
- Dopad na firmu v případě incidentu (finanční, reputační, regulatorní)
- Kategorie rizika podle AI Act (minimální / omezené / vysoké / nepřijatelné)
Krok 3: Prioritizujte
Zaměřte se nejprve na rizika s vysokým dopadem a vysokou pravděpodobností. V praxi českých firem to typicky znamená: shadow AI, únik dat do veřejných nástrojů a nesoulad s Článkem 4 AI Actu.
15 mil. €
maximální pokuta za nesplnění požadavků Článku 4 AI Actu na znalost AI u zaměstnanců
Source : Nařízení EU 2024/1689, Článek 99
Jak rizika AI řídit: governance framework
Řízení rizik AI není jednorázový projekt — je to průběžný proces, který vyžaduje jasný governance rámec.
1. Stanovte interní pravidla pro AI
Každá firma, která používá AI, potřebuje interní předpis (politiku), který definuje:
- Které nástroje AI jsou schváleny k použití
- Jaká data lze do AI nástrojů zadávat (a jaká ne)
- Kdo schvaluje nasazení nových AI nástrojů
- Jak se dokumentuje využití AI
2. Proškolte zaměstnance
Proškolení je nejúčinnější nástroj pro snížení rizik AI. Zaměstnanci, kteří rozumí tomu, jak AI funguje, jaká jsou její omezení a jaká pravidla platí, dělají méně chyb a efektivněji využívají potenciál technologie.
Podle dat McKinsey proškolení zaměstnanci způsobí o 40 % méně bezpečnostních incidentů spojených s AI než neproškolení kolegové. To se přímo promítá do celkové připravenosti firmy na práci s AI.
3. Zavedete technická opatření
- DLP (Data Loss Prevention): Blokování odesílání citlivých dat do neautorizovaných AI služeb
- Podnikové verze AI nástrojů: ChatGPT Enterprise, Copilot for Microsoft 365 — s garancí, že data nebudou použita k trénování modelů
- Logování a monitoring: Sledování využití AI nástrojů pro účely auditu
- Přístupová oprávnění: Omezení přístupu k AI nástrojům na základě role a potřeby
4. Pravidelně revidujte
Rizika AI se vyvíjejí rychle — nové nástroje, nové schopnosti, nová regulace. Doporučujeme revizi governance rámce minimálně jednou za čtvrtletí.
NÚKIB a ÚOOÚ doporučují české firmám provádět pravidelné posouzení rizik AI minimálně jednou ročně. Pro firmy spadající pod zákon o kybernetické bezpečnosti platí přísnější požadavky. Inspirovat se můžete metodikou NIST AI Risk Management Framework přizpůsobenou českým podmínkám.
AI Act a české regulatorní prostředí
Český regulatorní rámec pro AI se skládá z několika vrstev:
| Předpis | Oblast | Dozorový orgán |
|---|---|---|
| AI Act (EU 2024/1689) | Nasazení a vývoj AI systémů | Bude určen (pravděpodobně NÚKIB) |
| GDPR + zákon 110/2019 Sb. | Ochrana osobních údajů | ÚOOÚ |
| Kybernetický zákon | Bezpečnost informačních systémů | NÚKIB |
| Zákoník práce | Dopady AI na zaměstnance | MPSV / inspektorát práce |
Pro většinu českých firem jsou nejurgentnější dva kroky: splnit požadavky Článku 4 AI Actu na proškolení zaměstnanců a zajistit, že využití AI je v souladu s GDPR. Obojí vyžaduje kombinaci organizačních opatření, technických kontrol a — především — vzdělaných zaměstnanců.
Začněte řídit rizika AI s Brain
Brain je platforma pro přípravu zaměstnanců na práci s umělou inteligencí. Naše moduly pokrývají nejen efektivní využití AI, ale také rozpoznávání a řízení rizik — od halucinací přes ochranu dat po soulad s AI Actem.
Co nabízíme:
- Moduly zaměřené na rizika AI: Halucinace, prompt injection, ochrana dat, shadow AI
- Soulad s Článkem 4 AI Actu: Dokumentace a certifikáty pro regulatorní audit
- Přizpůsobení odvětví: Finance, právo, zdravotnictví, veřejná správa — každé odvětví má specifická rizika
- Měřitelné výsledky: Skóre připravenosti týmu s konkrétními doporučeními pro zlepšení
Rizika AI nezmizí, pokud je budete ignorovat. Ale s proškolenými zaměstnanci a jasným governance rámcem je můžete efektivně řídit. Začněte proškolením vašeho týmu.
Související články
Shadow AI ve firmě: 5 kroků k odhalení a řízení
Naučte se detekovat shadow AI ve firmě. Průvodce s doporučeními NÚKIB, vazbou na AI Act a kroky ke governance neautorizované AI.
AI pro firmy: 7 kroků k úspěšnému nasazení (2026)
Nasaďte AI ve firmě od prvních quick wins po škálování. Praktický průvodce pro české podniky včetně governance a AI Act.
AI ve zdravotnictví: průvodce pro nemocnice (2026)
Diagnostika, klinické rozhodování a administrativa s AI. Průvodce pro české nemocnice včetně AI Act a vysokorizikových systémů.