Umelá inteligencia prestáva byť len nástrojom na pozadí firemných procesov či generátorom odpovedí na bežné otázky. Zo dňa na deň vykazuje obrovský pokrok, a to hlavne v profesionálnej sfére. Stáva sa aktívnym členom pracovnej sily, teda rozhoduje, koná a ovplyvňuje výsledky organizácií. Táto transformácia prináša pre lídrov celého sveta mnohé výhody, ale jedno z najzásadnejších riadiacich dilem posledných desaťročí, respektíve ako efektívne spravovať pracovnú silu, ktorá nie je ľudská.
Hovoríme o takzvanej agentickej AI, respektíve systémoch schopných nielen vykonávať vopred definované úlohy, ale aj interpretovať dáta, prijímať rozhodnutia a prispôsobovať svoje správanie kontextu.
Podľa analytickej spoločnosti Gartner bude do roku 2028 agentická AI súčasťou až 33 percent podnikových softvérových aplikácií, pričom ešte v roku 2024 išlo o menej ako jedno percento. Tento rok je podľa odborníkov obdobím, keď firmy prechádzajú od pilotných projektov k plnohodnotnému nasadeniu týchto systémov, píše Business 2.0.
Keď AI agent spraví chybu, kto nesie zodpovednosť?
Agentická AI sa od tradičnej automatizácie líši v jednom zásadnom aspekte, a to konkrétne v tom, že nekoná len podľa pevne daných pravidiel, ale vyhodnocuje situácie a koná samostatne. Triedi požiadavky zákazníkov, optimalizuje dodávateľské reťazce, generuje kód alebo robí finančné odporúčania; a robí to bez priameho dohľadu človeka v každom okamihu.
Práve táto autonómia je zdrojom nového rizika. Keď AI agent prijme rozhodnutie, ktoré spôsobí finančnú škodu, regulačný problém alebo reputačnú ujmu, otázka zodpovednosti je zásadne nejasná. Bez jasne definovaných línií zodpovednosti sa firmy ocitajú v právnej a etickej neistote.
Portál TechRadar upozorňuje, že autonómne systémy majú často vysokú úroveň prístupu k citlivým dátam a firemným procesom, a ak sú zle nakonfigurované alebo kompromitované, môžu sa správať ako vysoko privilegované vnútorné hrozby.
Medzera v riadení
Prieskum analytickej spoločnosti Forrester z roku 2026, realizovaný na vzorke 500 podnikov, ktoré nasadzujú AI agentov, zistil, že až 71 percent z nich nemá formálny rámec riadenia pre autonómnych agentov, a to aj napriek tomu, že 64 percent z tých istých firiem plánuje v priebehu najbližších 12 mesiacov ešte zvýšiť autonómiu svojich AI systémov.
Portál ITECS pritom uvádza, že 68 percent zamestnancov v súčasnosti používa AI nástroje bez vedomia oddelenia IT, čo predstavuje obrovské bezpečnostné riziko.
Len 20 percent organizácií má zrelý model riadenia AI akéhokoľvek druhu, upozorňuje iEnable. Regulačné prostredie na túto medzeru reaguje hlavne zvonka. Nariadenie EÚ o umelej inteligencii, ktoré nadobúda účinnosť v auguste 2026, a dobrovoľný rámec britského Inštitútu pre bezpečnosť AI zavádzajú konkrétne požiadavky na riadenie autonómnych AI systémov.
Aby toho nebolo málo, podľa barometra rizík spoločnosti Allianz, na ktorý upozornil portál Peniaze.sk, sa umelá inteligencia v roku 2026 posunula na druhé miesto v rebríčku globálnych podnikateľských rizík, pričom zaznamenala najväčší skok v histórii tohto hodnotenia.
Hlavné riziká autonómnej AI vo firmách
Odborníci identifikujú niekoľko konkrétnych hroziacich rizík. Prvým je zodpovednostná medzera. Keď AI agent spôsobí škodu, nie je jasné, kto za ňu nesie zodpovednosť: vlastník systému, vývojár, alebo firma ako celok. Druhým rizikom je správanie podobné internej hrozbe: autonómne systémy s rozsiahlymi prístupovými právami môžu pri zle nastavených parametroch alebo pri kompromitácii konať deštruktívne zvnútra organizácie.
Neprehliadnite
Tretím problémom je takzvaný konfiguračný drift. Keď firma nasadí viacero AI agentov v rôznych oddeleniach bez centrálneho dohľadu, ich správanie sa môže postupne odchýliť od pôvodného zámeru. ESET v predikcii kybernetických hrozieb pre rok 2026 prirovnáva túto situáciu k továrni plnej nových pracovníkov, kde chýbajú manažéri kontrolujúci nielen kvalitu práce, ale aj to, či zamestnanci nekonajú škodlivo.
Štvrtým rizikom je erózia dôvery, teda skutočnosť, že zamestnanci, zákazníci a regulátori sa čoraz viac zaujímajú o to, ako AI systémy rozhodujú, a nedostatočná transparentnosť môže podkopať ich dôveru.
Riadenie ako priorita
Odpoveďou na tieto výzvy je prístup, ktorý odborníci nazývajú governance-first mindset. To znamená, že riadenie autonómnych systémov nie je delegované na IT oddelenie, ale stáva sa strategickou prioritou vedenia firmy.
Server EW Solutions, ktorý sa špecializuje na riadenie agentickej AI, odporúča presun od statických dokumentárnych politík k dynamickému, identitne orientovanému riadeniu. Každý AI agent musí mať priradené identity, prístupy a oprávnenia rovnako, ako ich majú ľudskí zamestnanci, s princípom minimálnych potrebných prístupových práv a kontinuálnym monitoringom.
Podľa thinking.inc, ktorý publikoval rámec riadenia AI agentov len minulý mesiac, by firmy mali zaviesť jasné eskalačné cesty a rozhodovacie hranice pre každý AI systém, pravidelný audit správania agentov a systémy pozorovateľnosti umožňujúce ľudský zásah v každom okamihu. Rovnako dôležité je zabezpečiť, aby každý AI agent mal identifikovaného ľudského vlastníka zodpovedného za jeho výstupy a správanie.
Konkurenčná výhoda
Firmy, ktoré si tieto princípy osvoja, nebudú len lepšie chránené pred rizikami, môžu z nich tiež vyťažiť reálnu konkurenčnú výhodu. Podľa expertov budú organizácie organizácie s efektívnym riadením agentickej AI v tomto roku schopné nasadzovať autonómnych agentov rýchlejšie a s väčšou dôverou, zatiaľ čo ich konkurenti budú viazaní manuálnymi kontrolami a obavami z regulačného súladu.
Svetové ekonomické fórum na svojom výročnom stretnutí v Davose v januári 2026 identifikovalo ako kľúčovú podmienku dôvery v AI tri princípy, a to transparentnosť, konzistentnosť a zodpovednosť. Analytická spoločnosť IDC zároveň varuje, že do roku 2030 môže až pätina veľkých firiem čeliť regulačným postihom, súdnym sporom alebo odvolaniu riaditeľov zodpovedných za digitálnu transformáciu v dôsledku nedostatočného riadenia digitálnych agentov. Budúcnosť práce zrejme bude hybridná. A tí, ktorí to dnes pochopia, budú mať zajtra náskok.
