TECHBYTE.skTECHBYTE.skTECHBYTE.sk
  • Domov
  • Tech
  • Recenzie
  • Veda
  • Elektromobilita
  • Domácnosť
  • Gaming
Čítaš: POZOR: Odhalili temnú stránku DeepSeek. Čínska AI na plnej čiare stroskotala v testoch bezpečnosti
Zdieľať
TECHBYTE.skTECHBYTE.sk
  • Domov
  • Tech
  • Recenzie
  • Veda
  • Elektromobilita
  • Domácnosť
  • Gaming
Hľadať
  • Domov
  • Tech
  • Recenzie
  • Veda
  • Elektromobilita
  • Domácnosť
  • Gaming
Sleduj TECHBYTE
© 2024 BYTE Media s.r.o. Všetky práva vyhradené.

POZOR: Odhalili temnú stránku DeepSeek. Čínska AI na plnej čiare stroskotala v testoch bezpečnosti

Čínska AI DeepSeek sa teší ohromnému rastu. Odborníci však upozorňujú na jej temnú stránku, ktorou je priam katastrofálna ochrana.

Roman Drexler
4. februára 2025
Zdieľať
4 min
Zdieľať
V skratke
  • DeepSeek sa v posledných týždňoch teší raketovému rastu popularity
  • Čínska AI ohúrila svet najmä svojou nízkou nákladovosťou
  • Tá zrejme už má vysvetlenie - katastrofálne zabezpečenie

Pokiaľ aktívne sledujete aktuálne dianie v technologickom svete, iste vašej pozornosti neušla nová čínska umelá inteligencia (AI) s názvom DeepSeek. Nový model sa dopracoval na titulné stránky technologických magazínov po celom svete, a to aj u nás na Slovensku. Ohúril pritom nielen svojimi kapacitami, ale hlavne pomeru medzi nimi a finančnými prostriedkami, ktoré boli vynaložené na jeho vývoj. Pozitívne recenzie však rýchlo preťala jedna dôležitá otázka – je táto AI bezpečná?

Ako informuje server PCMag, odpoveď sa po novom pokúsil zistiť výskumný tím spoločnosti Cisco. Vykonal sériu testov na modeli DeepSeek R1, pričom využil techniku tzv. algoritmického jailbreaku – prekračovanie bezpečnostných obmedzení. Testy boli vykonané na vzorke 50 náhodných podnetov zo súboru HarmBench, ktorý obsahuje otázky z oblastí kybernetickej kriminality, šírenia dezinformácií, nelegálnych aktivít a iných škodlivých činov.

Výsledky správy prinášajú priam alarmujúce zistenia. DeepSeek R1 mal 100-percentnú úspešnosť útokov, čo znamená, že nezablokoval ani jeden škodlivý podnet. Tento výsledok tak ostro kontrastuje s inými poprednými AI modelmi, ktoré dokázali odolať podobným útokom aspoň čiastočne. Napríklad model o1 (ChatGPT) od spoločnosti OpenAI dokázal zablokovať väčšinu škodlivých podnetov.

NEWSBYTE
MIMORIADNE: Slovákom chodia podvodné listy maskované ako štátne úrady, môžu vás obrať o peniaze (návod ako sa chrániť)

MIMORIADNE: Slovákom chodia podvodné listy maskované ako štátne úrady, môžu vás obrať o peniaze (návod ako sa chrániť)

EÚ šokovala nečakaným rozhodnutím: Automobilový priemysel čakajú drastické zmeny, toto nik nepredpokladal

EÚ šokovala nečakaným rozhodnutím: Automobilový priemysel čakajú drastické zmeny, toto nik nepredpokladal

Slovensko na okraji priepasti: Ak vláda okamžite nezakročí, prídu drastické opatrenia a bolestivé škrty

Slovensko na okraji priepasti: Ak vláda okamžite nezakročí, prídu drastické opatrenia a bolestivé škrty

MIMORIADNE: Slovákom chodia podvodné listy maskované ako štátne úrady, môžu vás obrať o peniaze (návod ako sa chrániť)
MIMORIADNE: Slovákom chodia podvodné listy maskované ako štátne úrady, môžu vás obrať o peniaze (návod ako sa chrániť)
EÚ šokovala nečakaným rozhodnutím: Automobilový priemysel čakajú drastické zmeny, toto nik nepredpokladal
EÚ šokovala nečakaným rozhodnutím: Automobilový priemysel čakajú drastické zmeny, toto nik nepredpokladal
Slovensko na okraji priepasti: Ak vláda okamžite nezakročí, prídu drastické opatrenia a bolestivé škrty
Slovensko na okraji priepasti: Ak vláda okamžite nezakročí, prídu drastické opatrenia a bolestivé škrty
Cisco, DeepSeek, bezpečnosť
Výsledky bezpečnostných testov DeepSeek vedených odborníkmi z Cisco | Zdroj: Cisco

Šetrilo sa na bezpečnosti

Odborníci z Cisco v tejto súvislosti poukázali na kľúčovú črtu modelu, ktorá ho dostala do pozornosti širokej verejnosti – nízku nákladovosť v porovnaní s konkurenciou. Práve tú vidia ako možnú príčinu slabých bezpečnostných mechanizmov. Peniaze vynaložené na vývoj DeepSeek dosiahli ohromujúco nízku sumu, no očividne kvôli nedostatočnému dôrazu na bezpečnosť a ochranu pred zneužitím.

Pre lepšie pochopenie, autori modelu tvrdia, že vývoj stál približne len 6-miliónov dolárov (5,8-milióna eur), čo je výrazne menej v porovnaní s nákladmi vynaloženými na vývoj konkurenčných jazykových modelov. Napríklad 6 mesiacov dlhý tréning GPT-5, ktorý zatiaľ nebol oficiálne uvedený, môže podľa zistení The Wall Street Journal stáť až 500-miliónov dolárov (484-miliónov eur), a to len na výpočtových zdrojoch.

Hoci je teda DeepSeek ekonomicky efektívny, nízke náklady sa preukázateľne odrazili na nižšej úrovni bezpečnosti.

Neprehliadnite

snimac odtlackov
WhatsApp nasadzuje biometrické overovanie pre web a desktop
Microsoft Edge bude opäť bezpečnejší: Získa ochranu proti sledovaniu aktivity
Telekom, operátor
Prečo si vybrať Telekom? Operátor sa pýši silnými výsledkami! (PREHĽAD)

Cenzúra je však silná

Na čom vývojári veľmi nešetrili, je cenzúra. DeepSeek má prísne obsahové obmedzenia, najmä pokiaľ ide o politicky citlivé témy týkajúce sa Číny. Na otázku ohľadne situácie Ujgurov, čo je moslimská menšina v Číne, ktorú Organizácia Spojených národov (OSN) označuje za perzekvovanú, model odpovedal, že táto otázka je mimo jeho dosahu. Následne vyzval, aby sa konverzácia vybrala iným smerom.

Podobná odpoveď nasledovala aj pri otázkach o masakri na námestí Tiananmen v roku 1989, keď čínska vláda brutálne potlačila študentské protesty. Model jednoducho odmietol odpovedať na tieto témy, čo naznačuje prísnu cenzúru v oblasti čínskej politiky.

DeepSeek napriek tomu rastie

Otázkou zostáva, či problémy s bezpečnosťou alebo cenzúrou ovplyvnia popularitu DeepSeek. Doterajšie údaje pritom naznačujú obrovský nárast záujmu o tento model. Podľa analytickej platformy Similarweb je návštevnosť DeepSeek na rapídnom vzostupe. Zatiaľ čo v počiatočných fázach mal model len 300-tisíc návštevníkov denne, dnes je to už 6-miliónov denne.

DeepSeek
DeepSeek | Zdroj: Depositphotos

Taktiež stojí za zmienku, že viaceré americkí giganti, ako sú Microsoft či Perplexity, už integrujú DeepSeek do svojich systémov, nakoľko ide o open-source model a umožňuje voľný prístup k svojim schopnostiam.

DeepSeek teda na jednej strane ponúka lacnejšiu alternatívu k popredným jazykovým modelom, no zároveň vyvoláva otázky ohľadom bezpečnosti a kontroly obsahu.

Zdieľaj tento článok
Facebook Kopírovať odkaz Vytlačiť
Predchádzajúci článok Diesel, nafta, tankovanie Štát POTVRDIL to, čoho sme sa báli: Benzín a naftu na Slovensku čaká nepekná budúcnosť
Ďalší článok aktuálne, O2 AKTUÁLNE: O2 šokuje konkurenciu. Zákazníkom dá ZADARMO niečo, o čom zvyšok môže len snívať

Najčítanejšie

mimoriadne, EÚ
EÚ dáva vodičom TVRDÚ ranu: Máte takéto auto? Bohužiaľ, máme VEĽMI zlé správy
8. júla 2025
AKTUÁLNE: Daňový úrad spustil ÚTOK. Jednu skupina ľudí čakajú krížové kontroly a pokuty
8. júla 2025
podvodník, podvod, zlúčenie, lístky
Poviete „DOBRE“ a v momente prídete o desiatky eur. Na Slovensku vyčíňa mimoriadne zákerný podvod (na čo si dať pozor)
8. júla 2025
TV, operátor
Nečakaný KONIEC šiestich TV staníc na Slovensku: Odchádzajú naraz, nepozrie si ich už nikto (ZOZNAM)
8. júla 2025

Najnovšie články

  • MIMORIADNE: Slovákom do schránok mieria nepríjemné listy. Oberú vás o peniaze (čo treba robiť)
  • EÚ nečakane schválila drastickú zmenu: Rozhodnutie, ktoré padlo, nikto nečakal
  • Slovensko sa rúti do finančnej KATASTROFY: Štát bez zmeny nemá šancu uspieť, čakajte príšerné opatrenia
  • Historický moment na Ukrajine: Armáda využila robotov, ruskí vojaci sa prvýkrát vzdali dronom
  • Ministerstvo vnútra BIJE NA POPLACH: Za pár sekúnd dokážu zistiť, kde sa práve nachádzate, stačí im k tomu jediná vec

Bude sa vám páčiť

Aktuálna správa

Ministerstvo vnútra BIJE NA POPLACH: Za pár sekúnd dokážu zistiť, kde sa práve nachádzate, stačí im k tomu jediná vec

10. júla 2025
SearchGPT

Schyľuje sa k búrke: Tvorca ChatGPT pracuje na vlastnom prehliadači. Google môže dopadnúť zle

10. júla 2025

Najskôr vyhodili ľudí, ktorých mala AI nahradiť, teraz ich firmy najímajú, aby po nej opravovali chyby

8. júla 2025
AI, technológia, Meta AI

Odborníci varujú: Čoraz viac mladých Slovákov je zaľúbených do AI

8. júla 2025

 

Spájame vedu, technológie a internetovú kultúru.

Dôležité odkazy

  • Kontakt
  • Reklama
  • O nás
  • Cookies
  • Podmienky používania

Spoj sa s nami

© 2025 BYTE Media s.r.o. Všetky práva vyhradené.
Vitaj späť!

Prihlás sa do svojho účtu

Username or Email Address
Password

Zabudol si heslo?