TECHBYTE.skTECHBYTE.skTECHBYTE.sk
  • Domov
  • Tech
  • Recenzie
  • Veda
  • Elektromobilita
  • Domácnosť
  • Gaming
Čítaš: Umelú inteligenciu od OpenAI oklamal jednoduchý nápis, jablko označila za iPod
Zdieľať
TECHBYTE.skTECHBYTE.sk
  • Domov
  • Tech
  • Recenzie
  • Veda
  • Elektromobilita
  • Domácnosť
  • Gaming
Hľadať
  • Domov
  • Tech
  • Recenzie
  • Veda
  • Elektromobilita
  • Domácnosť
  • Gaming
Sleduj TECHBYTE
© 2024 BYTE Media s.r.o. Všetky práva vyhradené.

Umelú inteligenciu od OpenAI oklamal jednoduchý nápis, jablko označila za iPod

9. marca 2021 10:26
Roman Drexler
9. marca 2021
Zdieľať
3 min
Zdieľať

Experti na strojové učenie zo spoločnosti OpenAI narazili na nepríjemný problém. Ich systém dokáže oklamať kombinácia dvoch veľmi bežných predmetov – pera a papiera. Na novinku upozornila publikácia The Verge.

Softvér môže byť oklamaný jednoduchým ručným nápisom na kuse papiera, čo dokazuje aj snímka pod týmto odsekom. Spočiatku objekt vyhodnotil správne, teda ako jablko. Akonáhle sa však do záberu pridal malý kúsok papiera s nápisom, systém mal veľký problém – jablko označil za iPod.

OpenAI
Zdroj: OpenAI/The Verge

Väčšine, pochopiteľne, sa to zdá úsmevné, no v skutočnosti ide o nevinný príklad toho, ako jednoducho a efektívne dokážu byť takéto systémy oklamané či zneužité.

Výskumníci dokonca ukázali, že je možné oklamať aj softvér v autonómnych vozidlách spoločnosti Tesla, a to tak, aby bez akéhokoľvek varovania menili jazdné pruhy. Ako? Stačili k tomu špecifické nálepky na ceste. Táto nedokonalosť tak môže viesť k závažnému zneužitiu mnohých iných aplikácií postavených na AI. Môže sa teda týkať rôznych oblastí, dokonca aj zdravotníctva či armády.

V tejto chvíli však už trochu predbiehame. Predmetný softvér od OpenAI, CLIP, je zatiaľ len experiment, a tak nie je zavedený v žiadnom skutočnom produkte.

CLIP trénoval na 400 miliónoch párov obrázkov a textov

Úlohou tohto softvéru je skúmať, ako sa AI systémy dokážu naučiť identifikovať objekty pomocou objemnej databázy párov tvorených obrázkami a textami. OpenAI pri CLIP použila približne 400 miliónov takýchto párov.

Výskumníci z OpenAI taktiež tento mesiac učinili nový objav, ktorý pomenovali „multimodálne neuróny“. Reč je o komponentoch v sieti strojového učenia, ktoré dokážu reagovať nielen na obrázky, ale aj kresby či karikatúry. Ide o skutočne veľký pokrok, nakoľko to znamená, že systém dokáže reagovať na jednotlivé podnety podobne ako ľudský mozog.

Projekt je však stále len v plienkach, nakoľko ho, ako ste si mohli všimnúť, dokáže oklamať jednoduchý text. Ide o veľmi zaujímavý paradox, keďže túto slabinu spôsobuje tá istá schopnosť, ktorá systému umožňuje spájať dokopy slová a texty.

Neprehliadnite

AI psychóza
Šíri sa AI psychóza: ChatGPT spôsobuje vážne psychické problémy, odborníci vydali prvé varovania
Meta
Meta má zarobené na ŠKANDÁL: Svoju AI trénuje na fotkách, ktoré ste nezverejnili
Mimoriadne, Android, Gemini, AI
Google začne čítať vaše SÚKROMNÉ správy. Všetky ich bude posielať na server (+ dátum spustenia)

OpenAI čaká ešte dlhá cesta

CLIP sa dokonca podarilo oklamať aj pri motorovej píle. Stačilo pár znakov amerického dolára a systém si myslel, že sa pozerá na pokladničku.

OpenAI
Zdroj: OpenAI/The Verge

Niet pochýb, že AI za posledné roky výrazne pokročila, no stále má pred sebou veľmi dlhú cestu, než jej budeme môcť naplno dôverovať. Aký je váš pohľad na umelú inteligenciu? Vedeli by ste si ju predstaviť ako bežnú súčasť vášho života?

Zdieľaj tento článok
Facebook Kopírovať odkaz Vytlačiť
Predchádzajúci článok rychle nabijanie OnePlus potvrdzuje: Smartfóny OnePlus 9 prídu aj s nabíjačkou, toto sú očakávané špecifikácie
Ďalší článok AKTUÁLNE: 4ka spúšťa predaj eSIM, stojí 8 €, objednať sa dá už dnes
3 komentáre 3 komentáre
  • Peter Naďo píše:
    9. marca 2021 o 21:22

    Našťastie AI chýba a vždy bude chýbať zopár vecí ktoré má len jeden nám známy druh vo vesmíre známom : dôvtip spojený s umom a tou možnosťou premýšlať na celkom inej úrovni ako všetky tie blbé neterminátorské AI :))))))
    Akože, keď to ich AI oklame nápis fixou, tak to je tak 0.00000001% rozumné :))))))))))))) možno ani to nie…lebo aj malé decko čo nevie rozprávať to dokáže odlíšiť…a aj „sprosté“ a neAI zvieratá !!!!!! A budeme radi ak to tak zostane čo najdlhšie ! Pretože ak AI začne rozlišovať na úrovni aspoň šimpanza, tak to nebude ďaleko od uvedomenia si toho čím vlastne samo AI „je“…a potom čauko kakauko :))))))))))))))))))))

    Prihláste sa pre odoslanie odpovede
  • Betpas giriş píše:
    9. júna 2022 o 10:49

    Betpas Bahis Sitesi. Betpas Giriş İçin Tıklayın. Türkiye bahis siteleri içinde en iyiler listesinin ilk sıralarında kendisine yer bulmayı başaran

    Prihláste sa pre odoslanie odpovede

Pridaj komentár Zrušiť odpoveď

Prepáčte, ale pred zanechaním komentára sa musíte prihlásiť.

Najčítanejšie

Nová dopravná značka
POZOR: Začala platiť nová dopravná značka. Kto ju nepozná, dostane pokutu takmer 150 €!
29. júna 2025
EÚ trvá na svojom: Vznikne nová povinnosť, ak ju nesplníte, vezme vám vodičský preukaz
29. júna 2025
daň, peniaze, peňaženka, Slovensko, dôchodky
Ministerstvo potvrdilo to, čoho sa všetci obávali. Veľká časť Slovákov zaplače (čo sa deje)
1. júla 2025
euro, peniaze, bankovky, mince, daň, poplatok, štát, povinnosť, DPH, príspevok, ekonomika, štipendium
Kupujte, kým sa dá: Slováci majú jedinečnú príležitosť, za základnú vec sa čochvíľa nedoplatia
30. júna 2025

Najnovšie články

  • Je to OFICIÁLNE: ZSE a VSE sa spojili. Klientom oddnes hrozí, že prídu o peniaze (čo sa deje)
  • Slováci získajú 3 kódované TV stanice ÚPLNE zadarmo. TAKTO sa k nim dostanete
  • Nothing Headphone (1) OFICIÁLNE: Sú toto vlajkové slúchadlá? Cena 299 € hovorí jasne
  • Nothing Phone (3) OFICIÁLNE: Konečne vlajková loď!
  • MIMORIADNE: Slovenská pošta môže ZANIKNÚŤ. Toto sa stane s prevádzkami! (prehľad)

Bude sa vám páčiť

Apple, pozor

Apple chce KONEČNE dobehnúť konkurenciu. Zvažuje preto akvizíciu známej AI firmy

25. júna 2025
AI, technológia, Meta AI

Tento skrytý trik, ako od AI dostať presne to, čo potrebujete, skoro NIKTO nepozná (toto spravte)

25. júna 2025
Peniaze, euro, aktuálne, štát

Nástup NOVEJ ÉRY: Slovenské banky hlásia MASÍVNE zmeny, týkajú sa všetkých (čo treba vedieť)

24. júna 2025
Google, Slovensko, smartfón, vyhľadávanie

POZOR: Google ÚPLNE mení, ako vyhľadávame. Slováci si musia zvykať na TÚTO zmenu

21. júna 2025

 

Spájame vedu, technológie a internetovú kultúru.

Dôležité odkazy

  • Kontakt
  • Reklama
  • O nás
  • Cookies
  • Podmienky používania

Spoj sa s nami

© 2025 BYTE Media s.r.o. Všetky práva vyhradené.
Vitaj späť!

Prihlás sa do svojho účtu

Username or Email Address
Password

Zabudol si heslo?