Google je jednou z popredných spoločností, ktorá sa v nemalej miere zameriava na vývoj a zdokonaľovanie umelej inteligencie (AI). Robí tak prostredníctvom svojho systému Gemini, ktorý sa už od začiatku spája s veľkými sľubmi a ambicióznymi číslami. Nedávne udalosti však ukázali, že gigant v tomto smere stále má čo dobiehať. Jeho AI totiž dávala ľuďom nezmyselné, niekedy až nebezpečné rady, napríklad aby jedli kamene alebo si dali na pizzu lepidlo.
Ako píše server iMore, tieto odporúčania prišli zo strany funkcie umelej inteligencie s názvom AI Overviews. Novinka je súčasťou vyhľadávania a slúži na poskytovanie umelo vygenerovaných odpovedí na určité otázky či požiadavky.
Skutočnosť a výmysly
Trpela však celkom kritickou chybou. Nedokázala rozlíšiť legitímne lekárske rady od satiry, čo v nejednom prípade viedlo ku skutočne nezmyselným interakciám. Používateľom povedala, že môžu na svoju pizzu prilepiť syr lepidlom, ako aj že môžu jesť kamene, aby si udržali zdravý životný štýl.
Liz Reidová, viceprezidentka a vedúca oddelenia vyhľadávania Google, tento týždeň v príspevku na blogu priznala, že spustenie funkcie bolo náročné. Hoci jej príspevok naznačuje, že internetom môžu kolovať aj „falošné snímky obrazovky“, konštatuje, že slabým miestom AI Overviews boli otázky, ktoré sa ľudia bežne nepýtajú.
Exemplárnym príkladom je otázka typu: „Koľko kameňov môžem zjesť?“ Jednoducho neexistuje veľa legitímneho webového obsahu, ktorý by rozoberal aj takéto otázky. To vedie k fenoménu, ktorý sa prezýva „dátová prázdnota“ alebo „informačná medzera“. Tento pojem sa používa vtedy, keď je o určite téme k dispozícii obmedzené množstvo kvalitného obsahu.
Prišli zmeny, no obavy pretrvávajú
Príspevok spoločnosti tvrdí, že technológia vyhľadávania informácií pre generovanie odpovedí bola aktualizovaná. Po novom má disponovať lepšími mechanizmami na detekciu nezmyselných otázok, ktoré by sa tak nemali objavovať v AI Overview. Okrem toho bolo obmedzené zahrnutie satirického a humorného obsahu.
„Pridali sme obmedzenia pre otázky, pri ktorých sa AI Overviews neukázali byť užitočnými,“ vysvetľuje Reid s poukázaním na ďalšie vylepšenia s cieľom posilniť kvalitu, pokiaľ ide o obsah týkajúci sa zdravia a spravodajstva.
Neprehliadnite
To však všetky obavy, ktoré sa s AI Overviews spájajú, nerieši. Mnohí sú znepokojení aj tým, že funkcia umožňuje zobrazovanie obsahu bez toho, aby používateľ musel klikať na konkrétne webové stránky, čím dané lokality prichádzajú ako o návštevnosť, tak aj o peniaze.
