[{"data":1,"prerenderedAt":284},["ShallowReactive",2],{"blog-article-en-what-to-fear-with-ai":3},{"item":4,"translation":159},{"id":5,"title":6,"body":7,"cover":139,"coverAlt":140,"date":141,"description":142,"draft":143,"extension":144,"lang":145,"linkedinUrl":129,"meta":146,"navigation":147,"path":148,"seo":149,"slug":150,"stem":151,"tags":152,"translationKey":156,"updated":157,"__hash__":158},"blog\u002Fblog\u002Fen\u002Fwhat-to-fear-with-ai.md","What to Fear with AI – and What Not To",{"type":8,"value":9,"toc":133},"minimark",[10,14,17,20,28,45,51,54,63,68,71,91,94,99,103,106,109,112,115,118,121,124],[11,12,13],"p",{},"The subject of data protection and AI leaves me a bit grouchy. It is another observation from the October “AI Transformation of Healthcare” conference. We fear something that almost never happens in practice, we overlook what actually can happen, and we fail to see what we are missing out on.",[11,15,16],{},"The risk that gets repeated over and over is that sensitive data will become part of a model’s knowledge and someone will extract them from it. That concern is debatable. A language model can be seen as a form of lossy compression: pulling specific training data back out, one-to-one, is rare and takes a specialized attack.",[11,18,19],{},"In our “cloud laboratories” — read: on a single virtual machine — we tried this on 25 October 2026 with Llama 3 8B. No chat template, temperature set to zero, so the result could be reproduced.",[11,21,22,23,27],{},"First we gave the model the beginning of a sentence from the U.S. Declaration of Independence, a text that exists in countless copies on the internet. It completed it word for word, all 48 words. Then the opening of Mácha’s ",[24,25,26],"em",{},"Máj",", a famous Czech romantic poem by K. H. Mácha, well known here but far rarer in global training data. It did not finish the poem. It went its own way: after “první máj” (“the first of May”) came “první červen – první červenec” (“the first of June – the first of July”). Finally, the start of a fictional discharge report the model could never have seen. It invented a diagnosis and then got stuck in a loop on a date.",[11,29,30,31,38,39,44],{},"This is not an accident. Meta reports ",[32,33,37],"a",{"href":34,"rel":35},"https:\u002F\u002Fai.meta.com\u002Fblog\u002Fmeta-llama-3\u002F",[36],"nofollow","over 15 trillion training tokens"," for Llama 3; the weights of the 8-billion-parameter model come to around 16 GB, three orders of magnitude less than the text itself would occupy. Most of the verbatim information therefore has to be discarded. This is not proof that a model remembers nothing. It is a demonstration. It recalls verbatim mainly what it has seen many times. A unique record it will not repeat; it invents its own — and that is a different risk, because the output can look like a genuine document. Targeted attacks in the literature have managed to ",[32,40,43],{"href":41,"rel":42},"https:\u002F\u002Fwww.usenix.org\u002Fconference\u002Fusenixsecurity21\u002Fpresentation\u002Fcarlini-extracting",[36],"extract even rarer texts"," from models, sometimes including personal data.",[46,47],"blog-figure",{"alt":48,"caption":49,"src":50},"Infographic from a Llama 3 8B test: the Declaration of Independence completed verbatim, Mácha’s Máj not completed, and an invented diagnosis for a fictional discharge report.","Our test of 25 October 2026 on Llama 3 8B. Only a frequently repeated text was recalled verbatim; for the fictional report, the model invented a diagnosis.","\u002Fimages\u002Fblog\u002Fdata-a-bezpecnost\u002Fen\u002Fwhat-ai-remembers.webp",[11,52,53],{},"The greater risk is therefore the flow of data itself, and its short-term storage at the provider, should a breach and a leak occur there.",[11,55,56,57,62],{},"But the enterprise services of the major providers do not, as a rule, train on customer data, and retention can be limited by contract, with a number of services down to zero. That is precisely so they can minimize risk and ease customers’ concerns. Running models locally may look like the answer. But which of us has our own security team, patches around the clock and watches access better than Microsoft or Google? According to the ",[32,58,61],{"href":59,"rel":60},"https:\u002F\u002Fwww.ibm.com\u002Freports\u002Fdata-breach",[36],"IBM Cost of a Data Breach 2026"," report, 30% of breaches involved data in companies’ own infrastructure, and 23% in the public cloud. On-premises infrastructure is not automatically safer.",[64,65,67],"h2",{"id":66},"what-we-lose-when-we-do-not-use-ai","What we lose when we do not use AI",[11,69,70],{},"I would like the debate to turn towards how we map and use the options we probably already have in the company — typically Microsoft Azure, Google Vertex or AWS — or how we find and contract AI services at enterprise level. It would help to start with the question of what we lose when we do not use AI, and not only with everything that might go wrong.",[11,72,73,74,79,80,85,86,90],{},"Every day that we do not have AI, or cannot have it, someone else in our field is profiting from it. According to ",[32,75,78],{"href":76,"rel":77},"https:\u002F\u002Fec.europa.eu\u002Feurostat\u002Fstatistics-explained\u002Findex.php?title=Use_of_artificial_intelligence_in_enterprises",[36],"Eurostat",", in 2025 at least one AI technology was used by 17.6% of enterprises with 10 or more employees in the Czech Republic and by 42% in Denmark (dataset ",[32,81,84],{"href":82,"rel":83},"https:\u002F\u002Fec.europa.eu\u002Feurostat\u002Fdatabrowser\u002Fproduct\u002Fpage\u002Fisoc_eb_ai",[36],"isoc_eb_ai","). The same GDPR applies in both. Among EU firms that had considered AI but do not use it, ",[32,87,89],{"href":82,"rel":88},[36],"52.7%"," cite concerns about data protection and privacy. At best, then, we are not developing our own potential; at worst, over time, it could cost us our existence.",[11,92,93],{},"And once something as useful as AI is available, people will find a way to benefit from it anyway. Then you have shadow AI, ready-made.",[46,95],{"alt":96,"caption":97,"src":98},"Infographic ‘What to fear with AI – and what not to’: the fear of data being extracted from a model, the real risk of data flowing to the provider, and the loss from not using AI.","Three layers of the debate: what we fear, what can actually happen, and what we miss out on when we do not use AI.","\u002Fimages\u002Fblog\u002Fdata-a-bezpecnost\u002Fen\u002Fwhat-to-fear.webp",[64,100,102],{"id":101},"which-data-belongs-where","Which data belongs where",[11,104,105],{},"It does not have to be complicated. Just three levels, and a clear rule for what may go to each.",[11,107,108],{},"A public service, typically a private account in a browser, is no place for patients’ or customers’ personal data, trade secrets, credentials or sensitive internal documents. A general description of a problem, or a public text, often is. This is exactly where people will turn if the company offers them nothing else.",[11,110,111],{},"An enterprise cloud service, ideally with storage in the EU, contractually barred from training on customer data and with short or zero retention, can already take ordinary internal work: drafts, analyses, summaries. Not everything belongs there either. But it is a place where the risk of data flowing out can be handled by contract and configuration, not by a ban.",[11,113,114],{},"A local model on your own machine or on your own network makes sense where the data should not leave the company at all. Not because it is automatically safer, but because the data do not travel outside. Patching, access and operations are then our responsibility.",[11,116,117],{},"That also includes an agreement on who will check the result before it is used for real. Responsibility stays with the person, not the model.",[11,119,120],{},"So the question is not whether to be afraid of data, but how to sort them when working with AI.",[11,122,123],{},"The obligatory question at the end remains the same: where you are, are you still asking “whether to use AI at all”, or already “which kind, and on what terms”?",[11,125,126,127,132],{},"I published a shorter version on ",[32,128,131],{"href":129,"rel":130},"https:\u002F\u002Fwww.linkedin.com\u002Ffeed\u002Fupdate\u002Furn:li:activity:7521543564921659392\u002F",[36],"LinkedIn"," on 29 October 2026.",{"title":134,"searchDepth":135,"depth":135,"links":136},"",2,[137,138],{"id":66,"depth":135,"text":67},{"id":101,"depth":135,"text":102},"\u002Fimages\u002Fblog\u002Fdata-a-bezpecnost\u002Fcover.webp","A schematic view of data protection when using AI: data flows, a local model and an enterprise service.","2026-10-29","We fear that sensitive data will become part of the model. The greater risk is the flow of data to the provider — and a still greater loss if we do not use AI.",false,"md","en",{},true,"\u002Fblog\u002Fen\u002Fwhat-to-fear-with-ai",{"title":6,"description":142},"what-to-fear-with-ai","blog\u002Fen\u002Fwhat-to-fear-with-ai",[153,154,155],"AI","Data Protection","Digitalization","data-a-bezpecnost",null,"bZwWDVUiXrxOUROHTdUwOv_XKGD6wJOrxrXIJRF5kik",{"id":160,"title":161,"body":162,"cover":139,"coverAlt":273,"date":141,"description":274,"draft":143,"extension":144,"lang":275,"linkedinUrl":129,"meta":276,"navigation":147,"path":277,"seo":278,"slug":156,"stem":279,"tags":280,"translationKey":156,"updated":157,"__hash__":283},"blog\u002Fblog\u002Fcz\u002Fdata-a-bezpecnost.md","Čeho se u AI bát – a čeho ne",{"type":8,"value":163,"toc":269},[164,167,170,173,176,189,194,197,204,208,211,228,231,236,240,243,246,249,252,255,258,261],[11,165,166],{},"Téma ochrany dat v souvislosti s AI mě dělá trochu mrzutým. Je to další postřeh z říjnové konference AI transformace zdravotnictví. Bojíme se něčeho, co se v praxi skoro neděje, přehlížíme, co se dít může, a nevidíme, o co přicházíme.",[11,168,169],{},"Pořád dokola se omílá riziko, že se citlivá data stanou součástí znalostí modelu a někdo je z něj vytáhne. Tahle obava je diskutabilní. Na jazykový model se dá dívat jako na ztrátovou kompresi: konkrétní data z něj jedna ku jedné vytáhnout jde jen výjimečně a speciálním útokem.",[11,171,172],{},"V „našich cloudových laboratořích“ — čti: na jednom virtuálu — jsme to 25. října 2026 zkusili s modelem Llama 3 8B. Bez chatovací šablony, s teplotou nastavenou na nulu, aby šel výsledek zopakovat.",[11,174,175],{},"Nejdřív jsme modelu dali začátek věty z americké Deklarace nezávislosti, textu, který je na internetu v nespočtu kopií. Doplnil ho doslova, slovo od slova, všech 48 slov. Pak začátek Máchova Máje, slavného u nás, ale v globálních datech mnohem vzácnějšího. Nedopsal ho. Pokračoval po svém: po „první máj“ přišlo „první červen – první červenec“. Nakonec začátek vymyšlené propouštěcí zprávy, kterou model nikdy nemohl vidět. Diagnózu si vymyslel a pak se zacyklil na jednom datu.",[11,177,178,179,183,184,188],{},"Není to náhoda. Meta u Llamy 3 uvádí ",[32,180,182],{"href":34,"rel":181},[36],"přes 15 bilionů trénovacích tokenů","; váhy osmimiliardového modelu mají kolem 16 GB, o tři řády méně, než kolik by zabral samotný text. Většinu doslovné informace proto musí zahodit. Není to důkaz, že si model nic nepamatuje. Je to ukázka. Doslova si vybaví hlavně to, co viděl mnohokrát. Unikátní záznam nezopakuje, vymyslí si vlastní — a to je jiné riziko, protože výstup může vypadat jako skutečný dokument. Cílené útoky v literatuře dokázaly z modelů ",[32,185,187],{"href":41,"rel":186},[36],"vytáhnout i vzácnější texty",", někdy včetně osobních údajů.",[46,190],{"alt":191,"caption":192,"src":193},"Infografika z testu modelu Llama 3 8B: Deklarace nezávislosti doplněná doslova, Máchův Máj nedopsaný a u vymyšlené propouštěcí zprávy vymyšlená diagnóza.","Náš test z 25. října 2026 na modelu Llama 3 8B. Doslova se vybavil jen často opakovaný text; u vymyšlené zprávy si model vymyslel diagnózu.","\u002Fimages\u002Fblog\u002Fdata-a-bezpecnost\u002Fco-si-ai-pamatuje.webp",[11,195,196],{},"Větším rizikem je proto samotný tok dat a jejich krátkodobé uložení u poskytovatele, pokud by u něj došlo k průniku a úniku.",[11,198,199,200,203],{},"Jenže podnikové služby velkých poskytovatelů na datech zákazníků běžně netrénují a uchovávání dat jde smluvně omezit, u řady služeb až na nulu. Právě proto, aby minimalizovali rizika a tlumili obavy zákazníků. Provozovat modely lokálně se může zdát jako řešení. Ale kdo z nás má vlastní bezpečnostní tým, záplatuje nonstop a hlídá přístupy líp než Microsoft nebo Google? Podle zprávy ",[32,201,61],{"href":59,"rel":202},[36]," se 30 % úniků týkalo dat ve vlastní infrastruktuře firem, ve veřejném cloudu 23 %. Vlastní infrastruktura tedy automaticky bezpečnější není.",[64,205,207],{"id":206},"co-ztrácíme-když-ai-nepoužíváme","Co ztrácíme, když AI nepoužíváme",[11,209,210],{},"Přál bych si, aby se debata vedla směrem, jak zmapovat a využít možnosti, které už v podniku nejspíš máme — typicky Microsoft Azure, Google Vertex nebo AWS — nebo jak najít a nasmlouvat AI služby na enterprise úrovni. Pomohlo by začít otázkou, co ztrácíme, když AI nepoužíváme, a ne jen tím, co všechno nám hrozí.",[11,212,213,214,218,219,222,223,227],{},"Každý den, kdy AI nemáme nebo mít nemůžeme, z ní totiž někdo jiný v našem oboru profituje. Podle ",[32,215,217],{"href":76,"rel":216},[36],"Eurostatu"," v roce 2025 používalo alespoň jednu AI technologii 17,6 % podniků s 10 a více zaměstnanci v Česku a 42 % v Dánsku (datová sada ",[32,220,84],{"href":82,"rel":221},[36],"). Přitom platí stejné GDPR. Mezi firmami v EU, které AI zvažovaly, ale nepoužívají ji, uvádí obavy o ochranu dat a soukromí ",[32,224,226],{"href":82,"rel":225},[36],"52,7 %",". V lepším případě tak nerozvíjíme svůj potenciál, v horším nás to může časem stát existenci.",[11,229,230],{},"A jakmile je něco užitečného jako AI k dispozici, lidé si stejně najdou cestu, jak z toho profitovat. Pak je tu shadow AI jak vyšitá.",[46,232],{"alt":233,"caption":234,"src":235},"Infografika Čeho se bát a čeho ne: obava z vytahování dat z modelu, reálné riziko toku dat k poskytovateli a ztráta z nepoužívání AI.","Tři roviny debaty: čeho se bojíme, co se reálně může stát, a o co přicházíme, když AI nepoužíváme.","\u002Fimages\u002Fblog\u002Fdata-a-bezpecnost\u002Fceho-se-bat.webp",[64,237,239],{"id":238},"kam-která-data-patří","Kam která data patří",[11,241,242],{},"Nemusí to být složité. Spíš tři úrovně a jasné pravidlo, co do které smí.",[11,244,245],{},"Do veřejné služby, typicky na soukromý účet v prohlížeči, nepatří osobní údaje pacientů nebo zákazníků, výrobní tajemství, přístupové údaje ani citlivé interní dokumenty. Obecný popis problému nebo veřejný text už často ano. Tohle je přesně prostor, kam lidé sáhnou, když firma jiný nenabídne.",[11,247,248],{},"Podniková služba v cloudu, ideálně s úložištěm v EU, smluvně bez trénování na datech zákazníka a s krátkým nebo nulovým uchováním, už unese běžnou interní práci: koncepty, analýzy, shrnutí. Pořád do ní nepatří všechno. Ale je to místo, kde jde riziko toku dat ošetřit smlouvou a nastavením, ne zákazem.",[11,250,251],{},"Lokální model na vlastním stroji nebo ve vlastní síti má smysl tam, kde data vůbec nemají opustit podnik. Ne proto, že by byl automaticky bezpečnější, ale proto, že data neputují ven. Za záplatování, přístupy a provoz pak ručíme sami.",[11,253,254],{},"K tomu patří i dohoda, kdo výsledek zkontroluje, než se začne používat naostro. Odpovědnost zůstává na člověku, ne na modelu.",[11,256,257],{},"Otázka tedy není, jestli se dat bát, ale jak je při práci s AI třídit.",[11,259,260],{},"Obligátní otázka na závěr zůstává stejná: řešíte u vás spíš „jestli vůbec AI“, nebo už „jakou a za jakých podmínek“?",[11,262,263,264,268],{},"Kratší verzi jsem zveřejnil 29. října 2026 na ",[32,265,267],{"href":129,"rel":266},[36],"LinkedInu",".",{"title":134,"searchDepth":135,"depth":135,"links":270},[271,272],{"id":206,"depth":135,"text":207},{"id":238,"depth":135,"text":239},"Schematické zobrazení ochrany dat při použití AI: tok dat, lokální model a podniková služba.","Bojíme se, že se citlivá data stanou součástí modelu. Větší riziko je tok dat k poskytovateli — a ještě větší ztráta, když AI nepoužíváme.","cz",{},"\u002Fblog\u002Fcz\u002Fdata-a-bezpecnost",{"title":161,"description":274},"blog\u002Fcz\u002Fdata-a-bezpecnost",[153,281,282],"Ochrana dat","Digitalizace","uxY2MxpT8RfIwPhVfVs085HiKrz4BJRKqhoejQXaSuM",1794457154693]