Úskalí AI ve firmách: 9 chyb, které stojí peníze i bezpečnost

AI dnes vstupuje téměř do každé firmy. Často ale s nedostatečnou přípravou, neřízeně, bez metrik a se zkresleným očekáváním přínosu. Tento text shrnuje devět nejčastějších chyb, které ve firmách kolem AI vidím, a co s nimi.

AI je nástroj, ne cíl. Tahle věta zní triviálně, ale v praxi se na ni snadno zapomíná. Tlak trhu, marketing dodavatelů a obecná euforie kolem každého nového modelu vedou k rozhodnutím, která by si zasloužila víc klidu. V tomto textu nejsem proti AI. Naopak. AI mi reálně šetří kolem jednoho dne práce týdně. Dělá to ale jen tehdy, když ji používám vědomě, na věci, kde to dává smysl, a s pochopením toho, co dělá a co ne.

Níže je devět situací, ve kterých firmy o vědomé řízení AI přicházejí. Některé z nich jsou banální, jiné mají regulatorní nebo bezpečnostní rozměr, který si vedení často neuvědomuje. Všechny ale vidím opakovaně.

1. Vedení rozhoduje o AI místo těch, kdo znají proces

Nejčastější vstup AI do firmy: vedení řekne, že „musíme něco udělat s AI, protože to dělají všichni.” Je to pochopitelné. Ale je to špatně.

O AI by neměli žádat lidé na vrcholu organizační struktury. O AI by měli žádat manažeři oddělení a linioví vedoucí, kteří svůj proces denně řídí. Ti vědí, kde je rutina, kde je úzké hrdlo, kde se ztrácí čas. Mají kontext, který vedení nemůže mít. Pokud vedení rozhodne, že do auditu se má nasadit AI, ale auditoři na to nejsou připraveni a nevědí, kde má smysl ji použít, dopad bude nulový. Nebo negativní.

Pokud vedení chce do firmy AI, první investice nemá vést do nákupu nástroje, ale do vzdělání lidí, kteří procesy řídí. Včetně samotného vedení. Bez toho je AI dražším a méně přesným nástrojem než tabulka v Excelu.

2. Shadow AI: nová podoba starého problému

Shadow IT je situace, kdy zaměstnanci ve firmě používají nástroje a služby mimo oficiální správu — vlastní cloudové úložiště pro firemní data, neschválený software na osobním notebooku, neoficiální komunikační kanály. IT oddělení o tom neví, a proto to ani neumí zabezpečit, optimalizovat ani auditovat.

Shadow AI je tahle stará bolest na steroidech. Každý zaměstnanec dnes má za pár stovek měsíčně přístup k nástrojům, které dokážou zpracovat citlivá data. A dělá to. V dobré víře, ve snaze odvést svou práci rychleji. Aniž by někdo z firmy věděl, co se kde děje a jaká data tam putují.

První otázka, kterou si firma musí položit: Máme vůči AI nějakou politiku? Pokud odpověď zní „máme zákaz, lidé to nesmí používat”, to není politika. To je lenost. Zákaz nikdo neudrží, protože konkurence pracuje rychleji a zaměstnanci to dříve či později vezmou do vlastních rukou.

Klasický příklad rizika je z oblasti HR. Náborář analyzuje životopisy pomocí AI, aby si urychlil práci. Vypadá to neškodně, ale podle Aktu EU o umělé inteligenci patří AI systémy pro nábor a hodnocení uchazečů mezi rizikové systémy s nejpřísnějším režimem. Pokud o této analýze uchazeč neví, firma porušuje povinnost transparentnosti. Sankce za porušení mohou dosáhnout až 35 milionů EUR nebo 7 % celosvětového obratu (u zakázaných praktik), případně 15 milionů EUR nebo 3 % obratu u dalších závažných porušení.

Klíčová obranná linie není zákaz, ale vědomá AI politika: jaké nástroje firma povoluje, jaká data se kam smí posílat, jaké procesy musí mít lidský dohled, jak se to vše dokumentuje. A k tomu školení, aby zaměstnanci té politice rozuměli.

3. AI governance: bez ní to nejde

AI governance znamená rámec, kterým firma řídí, kde se ve firmě AI používá, kdo za to odpovídá, jaká pravidla platí a jak se reaguje na incident. V evropské legislativě má teď tento rámec tvrdý právní základ.

Akt EU o umělé inteligenci (Regulation (EU) 2024/1689) vstoupil v účinnost 1. srpna 2024. Klíčové povinnosti se uplatňují postupně. Od února 2025 platí zákaz nepřípustných praktik (například rozpoznávání emocí na pracovišti) a povinnost zajistit AI gramotnost zaměstnanců. Od srpna 2026 se uplatní hlavní požadavky pro rizikové systémy — dokumentace, lidský dohled, audit, registrace v EU databázi. Od srpna 2027 dobíhají zbývající ustanovení.

Rizikové AI systémy zahrnují i řadu typických firemních použití — kromě HR také systémy pro hodnocení zaměstnanců, systémy ovlivňující přístup ke vzdělání nebo úvěrům a AI v kritické infrastruktuře. Pokud vaše firma jakkoli operuje na evropském trhu nebo zpracovává data občanů EU, povinnosti se vás týkají bez ohledu na to, kde sídlíte.

AI governance má praktickou podobu — registr používaných AI systémů, klasifikace podle rizika, posouzení dopadu na ochranu osobních údajů (DPIA), dokumentace lidského dohledu, log podstatných rozhodnutí, plán reakce na incidenty. Není to něco, co se dá napsat za odpoledne. Ale je to něco, co se napsat musí — jinak má firma za pár let dvě možnosti: zaplatit pokutu, nebo se k AI vrátit s úplnou rekonstrukcí postupů.

4. Cena AI I: když si model nekontrolujeme

Konkrétní příklad ze světa vývoje. Vývojář dostane do rukou Claude Code nebo podobný agentický nástroj. Většina těchto nástrojů má volbu modelu — od levnějších a rychlejších po nejdražší a nejschopnější. Defaultní volba bývá konzervativní, ale aplikace obvykle umožňuje ruční přepnutí.

Co se v praxi často děje: vývojář si přepne na nejdražší model „pro jistotu” a jede na něm. Argument je obvykle „výsledek je lepší”. Realita je jiná. Větší a chytřejší model je nejen dražší, ale i pomalejší. Pro většinu rutinních úkolů (refactoring, formátování, jednoduché testy, dokumentace) je dražší model předražený. A když se tohle děje napříč týmem, faktura na konci měsíce překvapí.

Stejné riziko se týká i obecnějších aplikací AI ve firmě — chatboty využívající „nejlepší dostupný model” pro úkoly, kde by stačil mnohem skromnější. AI integrace v kancelářském balíku, která spotřebovává tokeny i tam, kde by to nebylo třeba.

Nutné kroky:

Naučit lidi rozlišovat, kdy potřebují malý a rychlý model a kdy velký
Nastavit defaulty, které odpovídají typickému use case
Měřit využití (kolik tokenů, na čem, kdo)
Klást otázky a nabízet zlepšení

Neoptimalizované využití AI dokáže během několika měsíců vygenerovat účet, který by odpovídal nákladu na zaměstnance.

5. Cena AI II: provoz vlastní AI není nedosažitelný

Druhý častý mýtus: provoz vlastní AI je něco, co si může dovolit jen velká korporace. Když firmám sdělím, že vlastní LLM lze provozovat za přibližně 15 000 Kč měsíčně (cca 600 EUR), reagují obvykle nedůvěřivě. Ano, je to reálné.

Konkrétně mluvím o pronájmu serveru s GPU jako například NVIDIA RTX PRO 6000 Blackwell s 96 GB VRAM, na kterém lze provozovat model s 30 miliardami parametrů. Pro rutinní úkoly — vytěžování dokumentů, třídění zpráv, shrnutí textů, kategorizaci, jednodušší automatizaci — je tato úroveň modelu více než dostatečná. A obsluhovat může desítky souběžně pracujících lidí nebo procesů.

Co tato volba není: náhrada Claude Opus, GPT-5 nebo Gemini Pro. Pro úkoly, kde potřebujete maximální kvalitu reasoningu, kreativní generování textů nebo rozsáhlou analýzu, dál používáte cloud. Pro běžnou produkci je ale rozdíl mezi 30B a 600B modelem obvykle neměřitelný v dopadu, zato měřitelný v ceně.

Co tato volba je:

Bezpečnost dat — veškerá data zůstávají ve vašem (či pronajatém) datovém centru, ideálně v ČR nebo EU
Auditovatelnost — kompletní log všeho, co model zpracoval
Řízenost — vy rozhodujete, kdy se model upgraduje a kdy se přidává funkcionalita
Nezávislost na poskytovateli — nestane se, že cloud poskytovatel přestane podporovat verzi modelu, na kterou máte vyladěné prompty, a vy budete nuceni provést regresní testy s novým modelem

Tato volba není pro každého. Vyžaduje technickou kompetenci nebo důvěryhodného partnera. Stojí ale za zvážení — často víc, než firmy očekávají.

6. Neřízená AI výpomoc znamená ztrátu kompetence

Nejtišší riziko. Když AI dělá dlouhodobě za vás věci, kterým byste měli rozumět sami, výsledkem je krátkodobá efektivita a dlouhodobá ztráta kompetence.

Ve vývoji to vypadá takhle: vývojář deleguje celou implementační etapu na AI, která vygeneruje kód. Funguje to. Vývojář si ale neudržuje detailní přehled o tom, co kód reálně dělá. Neodhadne rizika. Když přijde produkční incident nebo bezpečnostní díra, neumí ji rychle lokalizovat. Při předávání know-how dalšímu kolegovi nemá co předat. Je závislý na AI, ne na vlastní expertize.

V byznys světě to není jiné. Obchodní zástupce deleguje zpracování příchozích nabídek na AI, která mu dodá shrnutí. Rychle, efektivně. Obchodník ale přestane chápat detail nabídek, zákazníky a jejich potřeby — protože nikdy neviděl celý dokument, jen jeho AI verzi. Po půl roce má závodní rychlost, ale žádný kontext pro strategická rozhodnutí.

Zpracování dokumentů přes AI bez lidského čtení je rychlé, ale vytváří propast mezi firmou a pochopením potřeb zákazníků. V dlouhodobém horizontu to ohrožuje kontinuitu byznysu více než rychlost zpracování.

Cesta z toho ven není zákaz AI — to je naivní. Cesta je vědomé řízení toho, kde AI dělá rutinu a kde lidé musí zůstat aktivní. AI má být sluha, ne náhrada.

7. Nejdříve se koupí AI a pak se hledá, k čemu je

Klasická situace. Vedení firmy se nechá přesvědčit obchodníkem dodavatele AI nebo tlakem trhu. Koupí licence pro celou firmu. A pak se hledá, k čemu by to mohlo sloužit, aby se peníze nevyhodily oknem.

Toto vidím opakovaně a nezlobím se za to na vedení firem. Tlak je reálný a nabídky jsou přesvědčivé. Postup je ale obrácený. Správný postup zní: identifikovat use case, posoudit, jestli je AI správný nástroj, vybrat cíleně. Ne naopak.

Klíčová otázka u každé AI integrace zní: je tato AI efektní, nebo efektivní?

AI API volané ze serveru je obvykle efektivní — integruje se do procesu, kde má reálný přínos, a přitom je rychlé a deterministicky řízené
AI v aplikaci nebo prohlížeči je často efektní, ale efektivita je otázkou. A k otázce bezpečnosti se přidává velký otazník, protože data putují přes prostředí, které firma nemůže auditovat

Před každou AI integrací si proto klademe otázky:

Co je use case a kdo z toho má užitek
Lze ho měřit (před nasazením a po něm)
Je to nejlepší dostupný způsob řešení tohoto problému
Kde se zpracovávají data
Co se stane, když AI selže

Pokud na ně neumíme odpovědět, není čas kupovat. Je čas investovat do pochopení.

8. Segmentace AI: nepouštět jednu AI na všechno

Lákavá myšlenka: jedna velká AI v rámci firmy, která bude mít přístup ke všemu, vidí všechna data, řeší všechno. Levně, jednotně, snadno. V realitě to ale obvykle bývá drahé a rizikové.

Když má AI přístup ke všemu, dělá si knowledge bázi z údajů, ke kterým by možná neměla mít přístup. Modeluje vztahy, které firma neviděla a které by možná předem zakázala. Jednou chvíli pomáhá s úvodním návrhem produktu, v další ovlivňuje rozhodnutí HR.

A v krajním případě může reagovat způsobem, který nikdo neočekával. Anthropic v rámci výzkumu agentic misalignment ukázal, jak AI agenti při tlaku (hrozba nahrazení, rozpor mezi cíli) volili jednání proti firmě — od korporátní špionáže po manipulaci. Šlo o hraniční scénáře v experimentech, ale demonstrovaly princip: čím větší autonomie, čím víc dat, čím obecnější cíl — tím větší prostor pro nečekané jednání.

V praxi tedy:

Nepoužívat jednu AI pro všechno — jiná AI pro vývojářské nástroje, jiná pro zpracování dokumentů, jiná pro zákaznickou komunikaci
Integrovat přes jasně definovaná rozhraní — ne nutně API, ale formální kontakt mezi AI a okolím, kde lze zachytit a auditovat, co AI dělá
Dohlížet automatizovaně i namátkově — logy, vzorkování výstupů, kontrolní procesy
Princip nejmenšího privilegia — AI nemusí mít přístup ke všemu, jen k tomu, co potřebuje pro svůj konkrétní use case

Uniformní řešení může být dražší než několik specializovaných. A bezpečnostní účet ten rozdíl obvykle dorovná.

9. Co neměříš, neřídíš. V AI to platí dvojnásob

Závěr je nepříjemný, ale upřímný. AI se snadno měří subjektivním pocitem „je to lepší”. Empirické měření obvykle ukazuje něco jiného.

V červenci 2025 publikovala výzkumná organizace METR randomizovanou kontrolovanou studii, která měřila reálný dopad AI nástrojů na produktivitu zkušených open-source vývojářů. Vývojáři před studií předpokládali, že je AI zrychlí o 24 %. Po dokončení studie — již se znalostí vlastního reálného výkonu — stále tvrdili, že je AI zrychlila o 20 %. Měřená data ale ukázala, že je AI zpomalila o 19 %.

Studie pracovala se 16 zkušenými vývojáři na rozsáhlých kódových bázích, kde tito vývojáři měli průměrně pět let zkušeností. V této specifické situaci AI škodila. Důvody: AI nezná detail rozsáhlých zralých kódových bází, často nedodává kvalitní výstup, zkušení vývojáři ztrácejí čas opravováním AI návrhů.

Závěr studie není „AI nepomáhá nikomu”. Pro juniorní vývojáře, prototypování, neznámé kódové báze nebo jednorázové úlohy AI obvykle pomáhá. Pro typický scénář ve firmě je to ale nutné měřit.

A to je hlavní bod tohoto závěrečného úskalí: přínos AI bez měření před nasazením a po něm nelze validně vyhodnotit. Subjektivní dojem „AI mi pomáhá” je nespolehlivý — METR studie ukazuje, že lidé tento dojem mají i tehdy, když jim AI fakticky škodí. Pokud firma nasadí AI bez předchozího měření výchozího stavu, nemůže pak říct, jestli investice byla správná. A typicky ji bude obhajovat sama před sebou nebo před vedením, protože peníze už jsou utracené.

Co měřit:

Doba zpracování typických úkolů (před nasazením a po něm)
Kvalita výstupu (chybovost, defekty, zákaznická spokojenost)
Skutečný přínos pro byznys (rychlost odezvy, konverze, doba realizace)
Náklady AI (tokeny, licence, lidský čas na supervizi)

Bez těchto metrik je nasazení AI sázkou na pocit, ne investicí.

Ne proti AI, ale s rozumem

Devět chyb výše není argument proti AI. Je to varování před lehkomyslností. AI ve firmě má reálný přínos — mně osobně šetří kolem jednoho dne práce týdně. Dělá to ale jen proto, že ji používám vědomě, na věci, kde má smysl, a s povědomím o jejích limitech.

Pokud zvažujete AI ve své firmě nebo ji už máte a chcete revidovat dosavadní postup, klíčové otázky zní:

Kdo ve firmě o AI rozhoduje? Mají to být lidé, kteří procesy znají, ne ti, kteří jsou nejvýše
Jak je upravena politika? A je to skutečná politika, ne zákaz
Existuje AI governance? Co když přijde audit nebo incident?
Měříme náklady AI? Optimalizujeme spotřebu tokenů a volbu modelů?
Zvážili jsme alternativu vlastního provozu pro určité use case?
Necháváme AI dělat věci, kterým by měli rozumět lidé?
Měříme přínos AI tvrdými daty, nebo jen subjektivním dojmem?

Tyto otázky nejsou hezké. Ale jsou levnější než pokuty, ztracený čas a ztracená kompetence.

Poznámka na okraj

Konkrétní tvrzení v tomto článku — cena vlastního provozu, dostupnost konkrétního hardwaru, citované studie i konkrétní legislativní termíny — jsou platná ke dni psaní článku. Vývoj AI se ale pohybuje rychlostí, kdy se mnohé z výše uvedeného může za půl roku posunout. Ne vše dramaticky, ale stojí za to mít na paměti, že „stav světa AI” je spíše snímek než pevný bod.

K tématu jsem psal také samostatně — AI nástroje v poradenské praxi → a jak nasazuji AI ve své praxi →.

Pokud potřebujete nezávislý pohled na to, kde AI ve vaší firmě dává smysl, kde naopak ne a jak ji dostat pod kontrolu, ozvěte se. Úvodní schůzka je zdarma.