TECHBYTE.skTECHBYTE.sk
    Facebook Twitter Instagram
    TECHBYTE.skTECHBYTE.sk
    Facebook Twitter Instagram
    • Domov
    • Tech
    • Recenzie
    • Veda
    • Elektromobilita
    • Domácnosť
    • Zábava
    TECHBYTE.skTECHBYTE.sk

    Odborníci si lámu hlavu: Táto umelá inteligencia si zrejme vytvorila vlastný tajný jazyk!

    Roman Drexler‍ Roman Drexler7. júna 2022

    Svet technológií napreduje doslova raketovým tempom. Nie je tomu až tak dávno, čo väčšina populácie používala tlačidlové telefóny a pojem umelá inteligencia (AI) bol otázkou ďalekej budúcnosti. Tá budúcnosť však prišla skôr, ako mnohí očakávali. Umelá inteligencia dnes dokáže rôzne divy, nad ktorými odborníci len žasnú, pričom problém im nerobí ani vytvorenie vlastného jazyka.

    Profesionáli, ktorí pracujú so strojovým učením, často nevedia, aké spôsoby umelá inteligencia využije na riešenie určitých úloh. Exemplárnym príkladom môže byť AI Facebooku (dnes známeho ako Meta), ktorá začala komoliť slová a vytvorila si niečo, ako vlastný jazyk, ktorému ľudia nedokázali porozumieť.

    Podobná situácia sa teraz odohrala pri generátore textov na obrázky známeho ako DALLE-2. Ako píše server IFLScience, doktorand informatiky, Giannis Daras, si všimol, že systém, ktorý vytvára obrázky na základe vstupu vo forme textu, za určitých okolností premieňa časti textu na nezmyselné slová.

    “Známym obmedzením systému DALLE-2 je, že má problémy s textom,” napísal v článku, ktorý bol zverejnený serverom Arxiv. “Napríklad textové výzvy, ako napr: “Obrázok slova lietadlo” často vedú k vygenerovaniu obrázkov, ktoré zobrazujú skomolený text.”

    “Zistili sme, že tento vytvorený text nie je náhodný, ale skôr odhaľuje skrytý slovník, ktorý si model zrejme vytvoril interne. Napríklad, keď je model kŕmený týmto skomoleným textom, frekventovane produkuje lietadlá.”

    Inými slovami, DALLE-2 si podľa všetkého prekladá textové vstupy do vlastnej podoby, s ktorou ďalej pracuje. Napríklad slovo vtáci si preložil ako “Apoploe vesrreaitais”, pričom chrobáky a škodcov preložil ako “Contarra ccetnxniams luryca tanniounons”.

    DALLE-2 has a secret language.
    "Apoploe vesrreaitais" means birds.
    "Contarra ccetnxniams luryca tanniounons" means bugs or pests.

    The prompt: "Apoploe vesrreaitais eating Contarra ccetnxniams luryca tanniounons" gives images of birds eating bugs.

    A thread (1/n)🧵 pic.twitter.com/VzWfsCFnZo

    — Giannis Daras (@giannis_daras) May 31, 2022

    Samozrejme, Daras sa po odhalení tejto skutočnosti začal báť, aké bude mať tajný jazyk dôsledky na faktor bezpečnosti. “Prvý bezpečnostný problém súvisí s používaním týchto blábolivých výziev ako zadných dverí nepriateľských útokov alebo spôsobov obchádzania filtra,” napísal v článku. “V súčasnosti systémy spracovania prirodzeného jazyka filtrujú textové výzvy, ktoré porušujú pravidlá politiky, a skomolené výzvy sa môžu použiť na obídenie týchto filtrov.”

    Len náhoda?

    Niektorí odborníci však Darasove tvrdenia spochybňujú. Jedným z nich je aj analytik Benjamin Hilton, ktorý požiadal generátor, aby zobrazil dve veľryby, ktoré sa rozprávajú o jedle aj s titulkami. Po tom, čo niekoľko prvých výsledkov nevrátilo rozlúštiteľný text, pokračoval, kým neboli pokusy úspešné.

    None of these pictures really have transcribable text, so I asked DALL-E to generate more whales until there was an image with text to copy. This is the first one DALL-E gave me.

    (11/15) pic.twitter.com/6o5tb91JPx

    — Benjamin Hilton (@benjamin_hilton) May 31, 2022

    “Čo si myslím?” napísal Hilton v príspevku na Twitteri. “”Evve waeles” je buď nezmysel, alebo je to skomolenina slova “whales” (v preklade veľryby). Giannis mal šťastie, keď jeho veľryby povedali “Wa ch zod rea” a náhodou to vygenerovalo obrázky jedla.”

    Taktiež stojí za zmienku, že ak sa k príkazom pridá napríklad spojenie ako “3D render”, systém vygeneruje rôzne výsledky, čo znamená, že skomolené slová zrejme neznamenajú vždy to isté. Niečo však na Darasovom tvrdení naozaj bude, nakoľko vyššie spomenutý výraz “Apoploe vesrreaitais” vraj naozaj zakaždým vygeneruje obrázky vtákov.

    AI DALLE-2 umelá inteligencia vlastný jazyk
    PredchádzajúciPOZOR: Objavila sa nová hrozba. Cez SMS vám potichu stiahnu desiatky eur!
    Ďalší Historický moment: Nová liečba zničila rakovinu vo všetkých testovaných pacientoch!
    Najnovšie články
    Geomagnetická búrka

    Zem dnes zasiahne geomagnetická búrka: Pozor na výpadky signálu

    6. júla 2022
    WhatsApp offline

    Chcete skryť svoj online stav? WhatsApp predstavil zaujímavú funkciu

    6. júla 2022
    Vysoké pokuty

    Čakajú Google, Apple či Facebook vysoké pokuty? EÚ schválila prelomové pravidlá!

    6. júla 2022

    Xiaomi 12S, 12S Pro a 12S Ultra OFICIÁLNE: Nádherné displeje, špičkový výkon a foťáky Leica!

    4. júla 2022

    Pád je nevyhnutný: Mobilný trh prechádza transformáciou, záujem prudko klesá

    4. júla 2022
    TECHBYTE.sk
    Facebook Twitter Instagram YouTube TikTok
    • Kontakt
    • Reklama
    • O nás
    • Cookies
    • Podmienky používania
    © 2022 BYTE Media s.r.o. Všetky práva vyhradené.

    Napíšte niečo a stlačte Enter pre spustenie hľadania. Stlačte Esc pre zrušeniel.