Americká vláda spravila krok, ktorý môže výrazne zmeniť prístup k najvýkonnejším AI modelom. Spoločnosť Anthropic musela po novom nariadení obmedziť prístup k modelom Fable 5 a Mythos 5 pre všetkých cudzincov. Keďže takúto kontrolu nevie jednoducho zabezpečiť pri každom používateľovi, modely dočasne vypla globálne.
Na prípad upozornil portál BleepingComputer. Samotný Anthropic vo svojom vyjadrení uvádza, že americká vláda vydala exportné nariadenie, ktoré zakazuje prístup k modelom Fable 5 a Mythos 5 všetkým osobám, ktoré nie sú občanmi USA, a to bez ohľadu na to, či sa nachádzajú mimo Spojených štátov alebo priamo v nich.
Pravidlo sa má vzťahovať dokonca aj na zahraničných zamestnancov samotnej spoločnosti Anthropic. Firma preto tvrdí, že na zabezpečenie súladu s nariadením musí „náhle vypnúť“ Fable 5 a Mythos 5 pre všetkých zákazníkov. Ostatné modely Anthropic tým dotknuté byť nemajú.
USA sa boja zneužitia AI
Dôvodom majú byť obavy z národnej bezpečnosti. Podľa agentúry Reuters americké úrady upozorňujú najmä na možnosť, že by sa model Fable 5 dal obísť cez takzvaný jailbreak a použiť na hľadanie softvérových zraniteľností. Inak povedané, vláda sa bojí, že by sa podobný model mohol stať príliš silným nástrojom pre hackerov.
Anthropic však s rozhodnutím nesúhlasí. Tvrdí, že vláda firme neposkytla konkrétny technický dôkaz, ktorý by ukazoval jedinečné alebo mimoriadne riziko práve pri Fable 5 a Mythos 5. Podľa spoločnosti mali úrady hovoriť skôr o úzkej a neúplnej metóde obchádzania ochrany, ktorá sa podľa Anthropic podobá problémom známejším aj pri iných veľkých AI modeloch.
Modely vyšli len nedávno
Fable 5 a Mythos 5 patria medzi najpokročilejšie modely Anthropic. Firma ich na svojej stránke opisuje ako systémy schopné dlhšie pracovať autonómne, riešiť komplexné úlohy, pomáhať pri programovaní, práci s dokumentmi, vizuálnymi vstupmi a výskume.
Práve tieto schopnosti sú zároveň dôvodom, prečo podobné modely vzbudzujú čoraz väčší záujem regulátorov. Silnejšia AI vie pomôcť programátorom, vedcom a firmám, no v nesprávnych rukách môže urýchliť aj vyhľadávanie chýb v softvéri, automatizáciu útokov alebo prípravu škodlivého kódu. Pre Anthropic je situácia nepríjemná aj obchodne. Modely boli dôležitou novinkou a firma ich teraz musí vypnúť práve v momente, keď sa okolo nich začal tvoriť najväčší záujem.
Anthropic tvrdí, že pracuje na riešení a chce prístup obnoviť. Otázkou však je, za akých podmienok. Ak sa z najvýkonnejších AI modelov stane technológia s prísnou kontrolou prístupu, internetové predplatné umelej inteligencie začne vyzerať oveľa menej globálne, než sme si doteraz zvykli.
