Pokiaľ aktívne sledujete aktuálne dianie v technologickom svete, iste vašej pozornosti neušla nová čínska umelá inteligencia (AI) s názvom DeepSeek. Nový model sa dopracoval na titulné stránky technologických magazínov po celom svete, a to aj u nás na Slovensku. Ohúril pritom nielen svojimi kapacitami, ale hlavne pomeru medzi nimi a finančnými prostriedkami, ktoré boli vynaložené na jeho vývoj. Pozitívne recenzie však rýchlo preťala jedna dôležitá otázka – je táto AI bezpečná?
Ako informuje server PCMag, odpoveď sa po novom pokúsil zistiť výskumný tím spoločnosti Cisco. Vykonal sériu testov na modeli DeepSeek R1, pričom využil techniku tzv. algoritmického jailbreaku – prekračovanie bezpečnostných obmedzení. Testy boli vykonané na vzorke 50 náhodných podnetov zo súboru HarmBench, ktorý obsahuje otázky z oblastí kybernetickej kriminality, šírenia dezinformácií, nelegálnych aktivít a iných škodlivých činov.
Výsledky správy prinášajú priam alarmujúce zistenia. DeepSeek R1 mal 100-percentnú úspešnosť útokov, čo znamená, že nezablokoval ani jeden škodlivý podnet. Tento výsledok tak ostro kontrastuje s inými poprednými AI modelmi, ktoré dokázali odolať podobným útokom aspoň čiastočne. Napríklad model o1 (ChatGPT) od spoločnosti OpenAI dokázal zablokovať väčšinu škodlivých podnetov.
Šetrilo sa na bezpečnosti
Odborníci z Cisco v tejto súvislosti poukázali na kľúčovú črtu modelu, ktorá ho dostala do pozornosti širokej verejnosti – nízku nákladovosť v porovnaní s konkurenciou. Práve tú vidia ako možnú príčinu slabých bezpečnostných mechanizmov. Peniaze vynaložené na vývoj DeepSeek dosiahli ohromujúco nízku sumu, no očividne kvôli nedostatočnému dôrazu na bezpečnosť a ochranu pred zneužitím.
Pre lepšie pochopenie, autori modelu tvrdia, že vývoj stál približne len 6-miliónov dolárov (5,8-milióna eur), čo je výrazne menej v porovnaní s nákladmi vynaloženými na vývoj konkurenčných jazykových modelov. Napríklad 6 mesiacov dlhý tréning GPT-5, ktorý zatiaľ nebol oficiálne uvedený, môže podľa zistení The Wall Street Journal stáť až 500-miliónov dolárov (484-miliónov eur), a to len na výpočtových zdrojoch.
Hoci je teda DeepSeek ekonomicky efektívny, nízke náklady sa preukázateľne odrazili na nižšej úrovni bezpečnosti.
Neprehliadnite
Cenzúra je však silná
Na čom vývojári veľmi nešetrili, je cenzúra. DeepSeek má prísne obsahové obmedzenia, najmä pokiaľ ide o politicky citlivé témy týkajúce sa Číny. Na otázku ohľadne situácie Ujgurov, čo je moslimská menšina v Číne, ktorú Organizácia Spojených národov (OSN) označuje za perzekvovanú, model odpovedal, že táto otázka je mimo jeho dosahu. Následne vyzval, aby sa konverzácia vybrala iným smerom.
Podobná odpoveď nasledovala aj pri otázkach o masakri na námestí Tiananmen v roku 1989, keď čínska vláda brutálne potlačila študentské protesty. Model jednoducho odmietol odpovedať na tieto témy, čo naznačuje prísnu cenzúru v oblasti čínskej politiky.
DeepSeek napriek tomu rastie
Otázkou zostáva, či problémy s bezpečnosťou alebo cenzúrou ovplyvnia popularitu DeepSeek. Doterajšie údaje pritom naznačujú obrovský nárast záujmu o tento model. Podľa analytickej platformy Similarweb je návštevnosť DeepSeek na rapídnom vzostupe. Zatiaľ čo v počiatočných fázach mal model len 300-tisíc návštevníkov denne, dnes je to už 6-miliónov denne.
Taktiež stojí za zmienku, že viaceré americkí giganti, ako sú Microsoft či Perplexity, už integrujú DeepSeek do svojich systémov, nakoľko ide o open-source model a umožňuje voľný prístup k svojim schopnostiam.
DeepSeek teda na jednej strane ponúka lacnejšiu alternatívu k popredným jazykovým modelom, no zároveň vyvoláva otázky ohľadom bezpečnosti a kontroly obsahu.
