Google učí svoju umelú inteligenciu nedať sa oklamať upravenými obrázkami

Spomínate si na korytnačku, ktorú umelá inteligencia od Google identifikovala ako zbraň? Výskum, ktorý Google spustil, by mal takýmto chybám zabrániť a AI by sa už nemala nechať tak rýchlo obalamutiť.

Spomínate si na korytnačku, ktorú umelá inteligencia od Google identifikovala ako zbraň? Výskum, ktorý Google spustil, by mal takýmto chybám zabrániť a AI by sa už nemala nechať tak rýchlo obalamutiť.

Umelá inteligencia je najväčším pokrokom dnešnej technológie a taktiež základom niektorých zariadení. Nachádza sa dokonca aj v autonómnych autách, ktoré čoskoro budú brázdiť cesty bez akejkoľvek pomoci. Čo sa však stane, ak si autopilot auta pomýli biely kamión s oblakom?

Aby sme sa vyhli takýmto tragédiám, budeme potrebovať omnoho múdrejšie počítače. Vedci z oblasti AI sa snažia pochopiť podstatu takýchto nehôd. Cieľom je podľa všetkého to, aby počítač neoklamalo to, čo neoklame ani nás. Preto sa Google rozhodol preskúmať ľudský mozog a neurónové siete. Do svojho tímu zahrnuli aj Iana Goodfellowa, ktorý vo svojej knihe vysvetľuje, že metódy, ktoré možno použiť pre oklamanie umelej inteligencie nemožno použiť na ľudský mozog.

Z korytnačky zbraň a z mačky zas pes

Zdroj: The Verge

Skupina výskumníkov z MIT minulý rok oklamala umelú inteligenciu od Google jednoduchým kódom, ktorý vložili do obrázku korytnačky. Tím presvedčili AI, že sa pozerá na zbraň, aj keď v skutočnosti videla korytnačku. Problém však nebol v umelej inteligencii ale v niečom, čo má každý počítač. Počítače nevidia obrázky ale spracovávajú ich. Preto je jednoduché pozmeniť časti obrázku, ktoré ľudia síce nevidia, no počítač oklamú.

Google si myslí, že riešenie problému spočíva v zistení, prečo sú ľudia k takýmto formám úpravy obrázkov odolní. Čo je však dôležitejšie je to, že sa taktiež snažia zistiť, čo treba urobiť s obrázkom, aby dokázal oklamať človeka.

Zdroj: Google

Aby ľudia na obrázku videli namiesto mačky psa, výskumníci priblížili obrázok a pozmenili pár detailov. Na prvý pohľad možno na obrázku psa skutočne uvidíte, no neskôr, keď sa prizriete bližšie, si uvedomíte, že je to očividne upravený obrázok. Vedci chceli na tomto príklade ukázať, že aj ľudí je ľahké oklamať, no len určitým spôsobom.

Zdroj: Google

Otázka tohto výskumu je naozaj veľká. Ak chceme čoskoro vypustiť autonómne autá na naše cesty, budú musieť vedieť rozoznávať veci lepšie ako to dokážu teraz.