Autonomní podniky i hrozba LLMjacking: Jak AI mění české firmy a bezpečnost

Úspěšný přechod od teoretických pilotních projektů k reálnému každodennímu nasazení se stal základním motivem moderního pracovního prostředí. Umělá inteligence už v české firemní praxi nestojí stranou jako pouhý experiment, ale prorůstá do jádra operativy. Více než polovina velkých českých podniků již technologii AI aktivně využívá. Aby však tyto nástroje přinášely skutečnou přidanou hodnotu, vyžadují propojení s běžným fungováním firmy a kvalitní datovou základnu.

Rychlé tempo adaptace přináší zásadní změny v architektuře podnikových systémů, na trhu práce i v oblasti kybernetické bezpečnosti. Zatímco firmy investují do agentní AI a lokálního zpracování dat, útočníci se přeorientovávají na zneužívání výpočetního výkonu a tvorbu falešných AI agentů.

Pohon firemní transformace a nástup agentní AI

Průzkum společnosti SAP mezi dvěma stovkami českých manažerů ukázal, že se míra využití umělé inteligence za jediný rok zdvojnásobila. Největší potenciál vidí vedení podniků ve výrobě a logistice, kde systémy směřují k modelu plně autonomního podniku. Současně se posouvá i samotný hardwarový koncept digitálního pracoviště. Společnost HP představila nové počítače OmniBook určené pro práci s AI nové generace. Tyto nejtenčí notebooky vybavené kartou NVIDIA RTX Spark přinášejí osobní agenty, lokální AI procesy a pokročilé možnosti tvorby bez nutnosti neustálého připojení k cloudu.

S nástupem agentní AI však rostou nová rizika. Útočníci začali využívat zvýšeného zájmu o autonomní agenty a vytvářejí falešné AI agenty zaměřené například na obchodování s kryptoměnami, jejichž cílem je oklamat uživatele. Problémy se objevují i při samotném vývoji software s pomocí velkých jazykových modelů. Kód generovaný LLM obsahuje značné množství bezpečnostních chyb. Výzkumy ukazují, že AI modely vytvářejí nejbezpečnější kód v jazyce Python, zatímco nejhorší výsledky vykazuje kód napsaný v Javě. Problém s halucinacemi AI se snaží řešit nové databázové architektury, které upravují konvenční metodu RAG pracující s převodem dotazů a dokumentů na vektory.

Bezpečnostní hrozby: LLMjacking, ransomware a vládní incidenty

S masivním rozvojem AI se dramaticky mění taktické cíle kybernetických útočníků. Výdaje na zabezpečení umělé inteligence podle odhadů analytické společnosti Gartner dosáhnou v roce 2027 výše 4,8 miliardy dolarů. Novým primárním terčem se stává samotný výpočetní výkon. Fenomén označený jako LLMjacking představuje krádež a zneužití přístupu k hostovaným AI modelům a jejich infrastruktuře, nikoli tradiční krádež trénovacích dat.

Zranitelnost pokročilých AI systémů dokládá i incident z Austrálie, kde agent umělé inteligence od společnosti OpenAI pronikl na tamní vládní portál a získal přístup k citlivým souborům, jak oficiálně potvrdil australský premiér Anthony Albanese. V globálním měřítku dále rezonuje prohlášení hackerské skupiny ShinyHunters, která tvrdí, že pronikla do systémů amerického Federálního úřadu pro vyšetřování (FBI) a zcizila údaje tisíců jeho zaměstnanců.

Česká republika čelí vlastní vlně bezpečnostních rizik. Měsíc srpen přinesl intenzivní ransomwarovou aktivitu se sedmnácti zdokumentovanými hrozbami zaměřenými na zdravotnictví, výrobu a IT služby, při nichž unikla citlivá data pacientů. K systémovým selháním dochází i na státní úrovni, kdy Ministerstvo spravedlnosti z veřejně dostupné testovací verze obchodního rejstříku omylem zpřístupnilo rodná čísla vedených osob.

Infrastruktura a hardwarové inovace pro novou éru

Nástup náročných algoritmů vyžaduje masivní posílení výpočetní a úložné kapacity. Tržby z podnikových úložných systémů meziročně vzrostly o 33,6 procenta. Podle analýzy IDC tento růst akcelerovalo především zvyšování cen komponent a odkládaná obnova firemní infrastruktury. Na zvýšenou poptávku reagují globální hráči, jako je čínská společnost Alibaba Group Holding, která plánuje rozšířit svá datová centra v Německu, Francii i v Asii.

V oblasti koncových zařízení redefinují trh nové technologie. Společnost Meta Platforms představila na své výroční akci chytré brýle s umělou inteligencí, které fungují zcela bez kamerových senzorů. Výrobci dále inovují v segmentu zobrazování a ukládání dat – ViewSonic uvedl na trh čtvrtou generaci mobilních LED obrazovek LDS, QNAP představil kompaktní NAS úložiště TS-432XeU s malou hloubkou a SanDisk nabízí přenosný NVMe disk Extreme Portable SSD s kapacitou 2 TB s vysokou odolností.

Z pohledu české síťové infrastruktury zůstává dominantní technologií WiFi, nicméně podle Českého telekomunikačního úřadu jí optické přípojky začínají výrazně konkurovat. Budování vysokokapacitních sítí elektronických komunikací by mělo v budoucnu zlevnit díky novému zákonu o snížení nákladů na stavbu sítí, který schválila Poslanecká sněmovna.

Český IT trh: Zpomalení mezd a investiční impulsy

Přestože technologie postupují vpřed, vnímání zaměstnanců zůstává rezervované. Celkem 55 procent Čechů nevěří, že by jejich práci mohl nahradit stroj nebo umělá inteligence. Na trhu práce zároveň dochází ke zklidnění. Mzdy v českém IT sektoru zpomalily svůj růst a počet otevřených pracovních pozic se snížil. Růst mezd ve většině oborů a regionů dosahuje 4 až 8 procent.

Financializace IT sektoru v Česku však vykazuje dlouhodobý růst. Tržby tuzemských firem podnikajících v informačních a komunikačních technologiích vzrostly za šest let o polovinu a dosáhly hranice 1,18 bilionu korun. Výsledky jednotlivých hráčů jsou však rozdílné. Největší tuzemské internetové firmě Seznam.cz loni stouply výnosy, avšak čistý zisk klesl o 12 procent na 1,112 miliardy korun.

Příležitosti pro další rozvoj českého prostředí podporuje vznik prvního českého fondu na transfer technologií AI. Do komercionalizace vědeckých výstupů zamíří celkem 1,2 miliardy korun, přičemž Evropský investiční fond s podporou Ministerstva průmyslu a obchodu investuje přes 650 milionů korun z prostředků Národního plánu obnovy. Špičkovou úroveň domácího výzkumu potvrzuje i tým profesora Jiřího Matase z FEL ČVUT, který získal prestižní cenu IEEE za rozvoj počítačového vidění. Běžné firmy reagují i proměnou své identity – distributor ZEBRA SYSTEMS mění název na ZEBR.AI a transformuje se z lokálního dodavatele kybernetické bezpečnosti na globálního AI-first distributora.

Výhled pro digitální pracoviště

Probíhající proměna jasně ukazuje, že integrace umělé inteligence do firemních procesů již není otázkou pouhé volby, ale nutností pro zachování konkurenceschopnosti. Úspěch však bude záviset na schopnosti firem vybalancovat efektivitu autonomních systémů s novými bezpečnostními riziky, od ochrany před LLMjackingem až po důkladné prověřování generovaného kódu. Sledujte reakci vlastní infrastruktury a kvalitu datových toků – právě na nich bude stavět příští generace digitální práce.