Spoločnosť Nvidia spolu s ďalšími technologickými gigantmi, ako sú Microsoft, SpaceX či Palantir, spúšťa novú iniciatívu s názvom Open Secure AI Alliance. A čo je jej cieľom? Zameriava sa na bezpečnosť umelej inteligencie a otvorené, respektíve transparentné modely. Táto iniciatíva reaguje na nedávny kybernetický útok modelov od OpenAI na platformu Hugging Face, kde uzatvorené komerčné systémy zlyhali pri sebaobrane práve kvôli prísne nastaveným bezpečnostným mantinelom.
Aliancia presadzuje presvedčenie, že kybernetickí obrancovia potrebujú voľne dostupné a upraviteľné (open-weight) AI modely, aby vedeli zvádzať efektívny boj proti útokom v reálnom čase, píše CNBC.
Vznik aliancie de facto podčiarkuje zásadný spor v technologickom sektore. Jeho podstatou je to, že kým uzatvorené komerčné systémy v krízovej situácii zlyhali, voľne dostupné otvorené modely pomohli útok zastaviť.
Mohlo by vás zaujímať
Lekcia z útoku na Hugging Face
Keď startup Hugging Face minulý týždeň čelil kybernetickému útoku, v prvej línii sa pokúsil na svoju obranu nasadiť popredné americké komerčné systémy (tzv. frontier models). Nastala však nečakaná situácia. Zabudované bezpečnostné mantinely (guardrails) uzavretých modelov nedokázali správne rozlíšiť medzi útočníkom a obrancom. Výsledok? Zablokovali vykonávanie obranných či forenzných úkonov.
Hugging Face bol preto nútený siahnuť po otvorenom modeli GLM 5.2, ktorý bol hostovaný na vlastnej infraštruktúre, bez podliehania reštrikciám uzatvorených platforiem. Vďaka tomu dokázal analyzovať tisíce operácií a útok úspešne neutralizovať.
„Nedávny bezpečnostný incident v Hugging Face priniesol jasné varovanie. V kybernetike na sebaobranu treba otvorené, pokročilé agentické systémy,“ uviedla Nvidia vo svojom oficiálnom stanovisku. „Keď obrancovia nemôžu kontrolovať, upravovať a prevádzkovať pokročilú AI na vlastnej infraštruktúre, ich schopnosť reagovať je obmedzená presne v momente, kedy na rýchlosti záleží najviac.“
Giganti spájajú sily. Bez OpenAI
A práve preto vzniká Open Secure AI Alliance. Medzi jej zakladajúcich členov patria popri Nvidii aj giganti ako Microsoft, SpaceX, Palantir, IBM či CrowdStrike, ako aj desiatky ďalších technologických firiem z USA a Európy.
Na rozdiel od vývojárov uzavretých modelov, ako sú Anthropic či OpenAI (ku ktorým je možné pristupovať len prostredníctvom špecifickej infraštruktúry a API) otvorené modely je možné voľne stiahnuť, upravovať a prevádzkovať na vlastných serveroch. Hlavnou úlohou aliancie teda bude hľadať, opravovať a transparentne zverejňovať zraniteľnosti s využitím otvorených technológií.
Tlak z Washingtonu
Navyše, táto iniciatíva vzniká v čase, kedy americkí zákonodarcovia čoraz častejšie riešia otázku, ako obmedziť rastúcu popularitu čínskych AI modelov, z ktorých mnohé fungujú práve na otvorenom princípe. Americké úrady obviňujú čínske firmy z takzvaného „destilačného“ extrahovania dát a know-how z lepšie natrénovaných systémov amerického pôvodu.
Už minulý týždeň americký minister financií Scott Bessent hrozil sankciami voči čínskym subjektom, ktoré sa dopúšťajú takýchto praktík. Analytik Chris McGuire z think-tanku Council on Foreign Relations naznačil, že americká vláda by mohla zaviesť prísne reštrikcie na transakcie a cloudové hostovanie čínskych modelov.
Pripravované regulácie však vyvolávajú obavy v celom sektore. Keďže veľká časť najschopnejších otvorených modelov pochádza práve od čínskych vývojárov, plošné zákazy by mohli vážne poškodiť výskum a následný pokrok.
Viac ako 20 významných technologických spoločností (vrátane Nvidie, Microsoftu či Mety) preto v spoločnom liste vyzvalo politikov, aby sa vyhli „predčasným reštrikciám“ na otvorené AI modely, ktoré by mohli potlačiť konkurenciu a vytlačiť inovácie do zahraničia. Nová aliancia má byť dôkazom, že otvorenosť v AI nie je hrozbou, ale naopak kľúčovým štítom pre kybernetickú obranu.
