Experti na strojové učenie zo spoločnosti OpenAI narazili na nepríjemný problém. Ich systém dokáže oklamať kombinácia dvoch veľmi bežných predmetov – pera a papiera. Na novinku upozornila publikácia The Verge.
Softvér môže byť oklamaný jednoduchým ručným nápisom na kuse papiera, čo dokazuje aj snímka pod týmto odsekom. Spočiatku objekt vyhodnotil správne, teda ako jablko. Akonáhle sa však do záberu pridal malý kúsok papiera s nápisom, systém mal veľký problém – jablko označil za iPod.
Väčšine, pochopiteľne, sa to zdá úsmevné, no v skutočnosti ide o nevinný príklad toho, ako jednoducho a efektívne dokážu byť takéto systémy oklamané či zneužité.
Výskumníci dokonca ukázali, že je možné oklamať aj softvér v autonómnych vozidlách spoločnosti Tesla, a to tak, aby bez akéhokoľvek varovania menili jazdné pruhy. Ako? Stačili k tomu špecifické nálepky na ceste. Táto nedokonalosť tak môže viesť k závažnému zneužitiu mnohých iných aplikácií postavených na AI. Môže sa teda týkať rôznych oblastí, dokonca aj zdravotníctva či armády.
V tejto chvíli však už trochu predbiehame. Predmetný softvér od OpenAI, CLIP, je zatiaľ len experiment, a tak nie je zavedený v žiadnom skutočnom produkte.
CLIP trénoval na 400 miliónoch párov obrázkov a textov
Úlohou tohto softvéru je skúmať, ako sa AI systémy dokážu naučiť identifikovať objekty pomocou objemnej databázy párov tvorených obrázkami a textami. OpenAI pri CLIP použila približne 400 miliónov takýchto párov.
Výskumníci z OpenAI taktiež tento mesiac učinili nový objav, ktorý pomenovali “multimodálne neuróny”. Reč je o komponentoch v sieti strojového učenia, ktoré dokážu reagovať nielen na obrázky, ale aj kresby či karikatúry. Ide o skutočne veľký pokrok, nakoľko to znamená, že systém dokáže reagovať na jednotlivé podnety podobne ako ľudský mozog.
Projekt je však stále len v plienkach, nakoľko ho, ako ste si mohli všimnúť, dokáže oklamať jednoduchý text. Ide o veľmi zaujímavý paradox, keďže túto slabinu spôsobuje tá istá schopnosť, ktorá systému umožňuje spájať dokopy slová a texty.
OpenAI čaká ešte dlhá cesta
CLIP sa dokonca podarilo oklamať aj pri motorovej píle. Stačilo pár znakov amerického dolára a systém si myslel, že sa pozerá na pokladničku.
Niet pochýb, že AI za posledné roky výrazne pokročila, no stále má pred sebou veľmi dlhú cestu, než jej budeme môcť naplno dôverovať. Aký je váš pohľad na umelú inteligenciu? Vedeli by ste si ju predstaviť ako bežnú súčasť vášho života?