Svet technológií napreduje doslova raketovým tempom. Nie je tomu až tak dávno, čo väčšina populácie používala tlačidlové telefóny a pojem umelá inteligencia (AI) bol otázkou ďalekej budúcnosti. Tá budúcnosť však prišla skôr, ako mnohí očakávali. Umelá inteligencia dnes dokáže rôzne divy, nad ktorými odborníci len žasnú, pričom problém im nerobí ani vytvorenie vlastného jazyka.
Profesionáli, ktorí pracujú so strojovým učením, často nevedia, aké spôsoby umelá inteligencia využije na riešenie určitých úloh. Exemplárnym príkladom môže byť AI Facebooku (dnes známeho ako Meta), ktorá začala komoliť slová a vytvorila si niečo, ako vlastný jazyk, ktorému ľudia nedokázali porozumieť.
Podobná situácia sa teraz odohrala pri generátore textov na obrázky známeho ako DALLE-2. Ako píše server IFLScience, doktorand informatiky, Giannis Daras, si všimol, že systém, ktorý vytvára obrázky na základe vstupu vo forme textu, za určitých okolností premieňa časti textu na nezmyselné slová.
„Známym obmedzením systému DALLE-2 je, že má problémy s textom,“ napísal v článku, ktorý bol zverejnený serverom Arxiv. „Napríklad textové výzvy, ako napr: „Obrázok slova lietadlo“ často vedú k vygenerovaniu obrázkov, ktoré zobrazujú skomolený text.“
„Zistili sme, že tento vytvorený text nie je náhodný, ale skôr odhaľuje skrytý slovník, ktorý si model zrejme vytvoril interne. Napríklad, keď je model kŕmený týmto skomoleným textom, frekventovane produkuje lietadlá.“
Inými slovami, DALLE-2 si podľa všetkého prekladá textové vstupy do vlastnej podoby, s ktorou ďalej pracuje. Napríklad slovo vtáci si preložil ako „Apoploe vesrreaitais“, pričom chrobáky a škodcov preložil ako „Contarra ccetnxniams luryca tanniounons“.
Samozrejme, Daras sa po odhalení tejto skutočnosti začal báť, aké bude mať tajný jazyk dôsledky na faktor bezpečnosti. „Prvý bezpečnostný problém súvisí s používaním týchto blábolivých výziev ako zadných dverí nepriateľských útokov alebo spôsobov obchádzania filtra,“ napísal v článku. „V súčasnosti systémy spracovania prirodzeného jazyka filtrujú textové výzvy, ktoré porušujú pravidlá politiky, a skomolené výzvy sa môžu použiť na obídenie týchto filtrov.“
Len náhoda?
Niektorí odborníci však Darasove tvrdenia spochybňujú. Jedným z nich je aj analytik Benjamin Hilton, ktorý požiadal generátor, aby zobrazil dve veľryby, ktoré sa rozprávajú o jedle aj s titulkami. Po tom, čo niekoľko prvých výsledkov nevrátilo rozlúštiteľný text, pokračoval, kým neboli pokusy úspešné.
„Čo si myslím?“ napísal Hilton v príspevku na Twitteri. „“Evve waeles“ je buď nezmysel, alebo je to skomolenina slova „whales“ (v preklade veľryby). Giannis mal šťastie, keď jeho veľryby povedali „Wa ch zod rea“ a náhodou to vygenerovalo obrázky jedla.“
Taktiež stojí za zmienku, že ak sa k príkazom pridá napríklad spojenie ako „3D render“, systém vygeneruje rôzne výsledky, čo znamená, že skomolené slová zrejme neznamenajú vždy to isté. Niečo však na Darasovom tvrdení naozaj bude, nakoľko vyššie spomenutý výraz „Apoploe vesrreaitais“ vraj naozaj zakaždým vygeneruje obrázky vtákov.
