Spoločnosť sa pomaly snaží vnímať umelú inteligenciu ako niečo naozaj veľmi múdre. Niektorí jej veria viac, niektorí menej. AI sa dá ale tiež oklamať.
Nachádzame sa v dobe samojazdiacich áut a technika neustále napreduje. Napriek tomu, že naše nové systémy strojového videnia sú veľmi ostražité, majú ďaleko od bezchybnosti. Veriť očiam umelej inteligencie viac, ako očiam ľudským, je v tomto prípade teda veľmi zlá voľba. Len sa pozrite na túto korytnačku.
Vyzerá ako korytnačka, pravdaže? Bohužiaľ, umelá inteligencia od Googlu, ktorá je určená pre identifikáciu objektov, ktoré vídame každý deň, si myslí niečo iné. Zelená korytnačka vytlačená 3D tlačiarňou sa jej totiž podobá na pištoľ.
Všetko to zapríčiňuje kontrastný obraz
V AI svete sú takéto obrazy vytvárané pre zavádzanie počítačového videnia. Obsahujú špeciálne vzory, ktoré vlastne zapríčiňujú poruchu AI systému. Predstavte si to ako optickú ilúziu nie pre človeka, ale pre počítač. Keď teda aplikujeme na obrázok takýto kontrastný vzor, človek zmenu neuvidí, pretože to bude len jeho neviditeľná vrstva. No pre AI to znamená, že namiesto lampy vidí stožiar.
Nie je to však dokonalý spôsob ako AI oklamať. Ak obrázok otočíte alebo ho jemne priblížite, počítač bude schopný vidieť cez vzorec a identifikovať vec správne. 3D vytlačená korytnačka je významná preto, lebo neukazuje ako to funguje len na obrázku, ale aj v 3D svete. Poblázniť systém umelej inteligencie sa dá aj pri pohľade z viacerých uhlov.
Labix, tím študentov z MIT, publikoval výskum, v ktorom sa vyjadril takto: „Toto v podstate znamená, že je pravdepodobné, že keby niekto vytvoril kontrastnú značku predaja, ktorá sa ľudskému oku javí ako úplne obyčajná, okoloidúcim autonómnym autám by sa mohla javiť ako chodec, ktorý sa náhle objavil vedľa ulice“.
Labix nevytvoril len korytnačku, ktorá vyzerá ako puška. Taktiež sa im podarilo vytvoriť bejzbalovú pálku, ktorú si AI mýli s espressom. Tieto ich akési výrobky testovali proti klasifikátoru obrazu vytvoreným spoločnosťou Google, zvaným Inception-v3.
Aj keď by nám takéto niečo v dnešnej dobe ešte nemalo spôsobiť problémy, je veľmi dôležité, aby sa táto situácia vyriešila. Nespoliehame sa v každodennom živote príliš na strojové videnie, a tak by nám nikto nejakým kontrastným obrázkom alebo 3D vytlačenou vecou ujmu nespôsobil. Ak sa však tieto problémy nevyriešia teraz, mohli by viesť k omnoho väčším v budúcnosti.