Téma ochrany dat v souvislosti s AI mě dělá trochu mrzutým. Je to další postřeh z říjnové konference AI transformace zdravotnictví. Bojíme se něčeho, co se v praxi skoro neděje, přehlížíme, co se dít může, a nevidíme, o co přicházíme.
Pořád dokola se omílá riziko, že se citlivá data stanou součástí znalostí modelu a někdo je z něj vytáhne. Tahle obava je diskutabilní. Na jazykový model se dá dívat jako na ztrátovou kompresi: konkrétní data z něj jedna ku jedné vytáhnout jde jen výjimečně a speciálním útokem.
V „našich cloudových laboratořích“ — čti: na jednom virtuálu — jsme to 25. října 2026 zkusili s modelem Llama 3 8B. Bez chatovací šablony, s teplotou nastavenou na nulu, aby šel výsledek zopakovat.
Nejdřív jsme modelu dali začátek věty z americké Deklarace nezávislosti, textu, který je na internetu v nespočtu kopií. Doplnil ho doslova, slovo od slova, všech 48 slov. Pak začátek Máchova Máje, slavného u nás, ale v globálních datech mnohem vzácnějšího. Nedopsal ho. Pokračoval po svém: po „první máj“ přišlo „první červen – první červenec“. Nakonec začátek vymyšlené propouštěcí zprávy, kterou model nikdy nemohl vidět. Diagnózu si vymyslel a pak se zacyklil na jednom datu.
Není to náhoda. Meta u Llamy 3 uvádí přes 15 bilionů trénovacích tokenů; váhy osmimiliardového modelu mají kolem 16 GB, o tři řády méně, než kolik by zabral samotný text. Většinu doslovné informace proto musí zahodit. Není to důkaz, že si model nic nepamatuje. Je to ukázka. Doslova si vybaví hlavně to, co viděl mnohokrát. Unikátní záznam nezopakuje, vymyslí si vlastní — a to je jiné riziko, protože výstup může vypadat jako skutečný dokument. Cílené útoky v literatuře dokázaly z modelů vytáhnout i vzácnější texty, někdy včetně osobních údajů.
Větším rizikem je proto samotný tok dat a jejich krátkodobé uložení u poskytovatele, pokud by u něj došlo k průniku a úniku.
Jenže podnikové služby velkých poskytovatelů na datech zákazníků běžně netrénují a uchovávání dat jde smluvně omezit, u řady služeb až na nulu. Právě proto, aby minimalizovali rizika a tlumili obavy zákazníků. Provozovat modely lokálně se může zdát jako řešení. Ale kdo z nás má vlastní bezpečnostní tým, záplatuje nonstop a hlídá přístupy líp než Microsoft nebo Google? Podle zprávy IBM Cost of a Data Breach 2026 se 30 % úniků týkalo dat ve vlastní infrastruktuře firem, ve veřejném cloudu 23 %. Vlastní infrastruktura tedy automaticky bezpečnější není.
Co ztrácíme, když AI nepoužíváme
Přál bych si, aby se debata vedla směrem, jak zmapovat a využít možnosti, které už v podniku nejspíš máme — typicky Microsoft Azure, Google Vertex nebo AWS — nebo jak najít a nasmlouvat AI služby na enterprise úrovni. Pomohlo by začít otázkou, co ztrácíme, když AI nepoužíváme, a ne jen tím, co všechno nám hrozí.
Každý den, kdy AI nemáme nebo mít nemůžeme, z ní totiž někdo jiný v našem oboru profituje. Podle Eurostatu v roce 2025 používalo alespoň jednu AI technologii 17,6 % podniků s 10 a více zaměstnanci v Česku a 42 % v Dánsku (datová sada isoc_eb_ai). Přitom platí stejné GDPR. Mezi firmami v EU, které AI zvažovaly, ale nepoužívají ji, uvádí obavy o ochranu dat a soukromí 52,7 %. V lepším případě tak nerozvíjíme svůj potenciál, v horším nás to může časem stát existenci.
A jakmile je něco užitečného jako AI k dispozici, lidé si stejně najdou cestu, jak z toho profitovat. Pak je tu shadow AI jak vyšitá.
Kam která data patří
Nemusí to být složité. Spíš tři úrovně a jasné pravidlo, co do které smí.
Do veřejné služby, typicky na soukromý účet v prohlížeči, nepatří osobní údaje pacientů nebo zákazníků, výrobní tajemství, přístupové údaje ani citlivé interní dokumenty. Obecný popis problému nebo veřejný text už často ano. Tohle je přesně prostor, kam lidé sáhnou, když firma jiný nenabídne.
Podniková služba v cloudu, ideálně s úložištěm v EU, smluvně bez trénování na datech zákazníka a s krátkým nebo nulovým uchováním, už unese běžnou interní práci: koncepty, analýzy, shrnutí. Pořád do ní nepatří všechno. Ale je to místo, kde jde riziko toku dat ošetřit smlouvou a nastavením, ne zákazem.
Lokální model na vlastním stroji nebo ve vlastní síti má smysl tam, kde data vůbec nemají opustit podnik. Ne proto, že by byl automaticky bezpečnější, ale proto, že data neputují ven. Za záplatování, přístupy a provoz pak ručíme sami.
K tomu patří i dohoda, kdo výsledek zkontroluje, než se začne používat naostro. Odpovědnost zůstává na člověku, ne na modelu.
Otázka tedy není, jestli se dat bát, ale jak je při práci s AI třídit.
Obligátní otázka na závěr zůstává stejná: řešíte u vás spíš „jestli vůbec AI“, nebo už „jakou a za jakých podmínek“?
Kratší verzi jsem zveřejnil 29. října 2026 na LinkedInu.