Umelá inteligencia (AI) je čoraz podstatnejšou súčasťou každodenného života ľudí. Vo veľkom jej kapacity využíva prakticky každý z nás, hoci si to často ani neuvedomujeme. A práve to, ako sa nám AI zarýva pod kožu, vyvoláva u mnohých odborníkov obavy. Majú strach, že ak sa vývoj AI vymkne kontrole, môžu nastať katastrofické scenáre. A zdá sa, že takýto názor majú viacerí.
Prejsť na:
Ako píše server Mobile World Live, viaceré krajiny, vrátane Spojených štátov, Číny a Veľkej Británie sa zhodli na pochopení rizík, ktoré predstavuje neprimeraný vývoj a využitie AI. V tejto súvislosti sa rozhodli uzatvoriť kľúčovú dohodu, resp. iniciatívu, ktorej cieľom je zabezpečiť bezpečný vývoj a nasadenie tejto technológie a jej budúcich iterácií.
Bletchleyská deklarácia
Dohoda vznikla ako jeden z výsledkov dvojdňového samitu o bezpečnosti AI, ktorý tento týždeň zorganizovala vláda Veľkej Británie. Dohodu s názvom Bletchleyská deklarácia podpísalo celkovo 28 krajín, okrem uvedených napríklad Brazília, India, Nigéria, Saudská Arábia a Európska únia (EÚ).
Vláda Veľkej Británie uviedla, že deklarácia naplnila kľúčové ciele samitu. Zúčastnené krajiny sa zhodli na pochopení zodpovednosti za riziká a príležitosti, ktoré sú späté s pokrokom v oblasti AI. Dohoda chce zabezpečiť lepšiu bezpečnosť pri výskume technológií AI, a to najmä prostredníctvom užšej vedeckej spolupráce.
Krajiny, ktoré podpísali deklaráciu, sa zhodli na tom, že v dôsledku úmyselného zneužitia AI môžu vzniknúť značné riziká. Rovnako medzi sebou zdieľali obavy týkajúce sa kybernetickej bezpečnosti, biotechnológie, dezinformácií a ochrany súkromia.
Oficiálne vyhlásenie v súvislosti s novo vzniknutým paktom poukazuje predovšetkým na „potenciál vážnych, dokonca katastrofických škôd, či už úmyselných alebo zámerných, vyplývajúcich z najvýznamnejších schopností“ modelov AI.
Kľúčom je transparentnosť
Signatári sa dohodli na spoločnej podpore transparentnosti a prijatí zodpovednosti za vývoj nových AI modelov, pričom iniciatíva sa má zaoberať aj meraním, monitorovaním a zmierňovaním škodlivých následkov.
Rishi Sunak, predseda vlády Veľkej Británie, označil Bletchleyskú deklaráciu za prelomovú dohodu, ktorá zdôrazňuje naliehavosť pochopenia rizík spätých s pokrokom AI.
Rapídne napredujúci trend
Pakt vzniká uprostred obdobia, kedy viaceré popredné technologické firmy budujú vlastné AI systémy. Novodobým trendom sú generatívne modely, ktoré dokážu na základe jednoduchých vstupov poskytnúť širokú škálu informácií. Väčšina prípadov použitia je neškodná, no nastali aj určité prípady, kedy museli vývojári zakročiť a kapacity svojich modelov osekať.
Jednou z najväčších obáv v súvislosti s generatívnymi modelmi AI je šírenie nepravdivých informácií. Hoci sú novodobé systémy naozaj pokročilé, ešte stále majú ďaleko od dokonalosti. Neraz sa teda stalo, že používateľom poskytli nepravdivé informácie, ktoré sa následne rozšírili do sveta.
Nájde sa pritom aj početná skupina odborníkov, ktorá tvrdí, že generatívne modely AI nikdy nedosiahnu štádium dokonalosti. Napríklad Emily Benderová, profesorka v oblasti počítačovej lingvistiky z Washingtonskej univerzity tvrdí, že problém s vytváraním klamlivých informácií u veľkých jazykových modelov (LLM) nebude z dlhodobého hľadiska tak jednoducho odstrániteľný, ako by si vývojári priali. „Toto sa nedá napraviť. Je to inherentný nesúlad medzi technológiou a navrhovanými prípadmi použitia,“ konštatuje.
„Veľké jazykové modely sú navrhnuté tak, aby si vymýšľali. To je všetko, čo robia,“ dodáva Benderová. „Ak náhodou prídu s textom, ktorý sa dá interpretovať ako niečo, čo považujeme za správne, je to náhoda. Aj keď sa dajú vyladiť tak, aby mali pravdu vo väčšine prípadov, stále budú zlyhávať – a pravdepodobne to budú zlyhania v prípadoch, keď je pre človeka čítajúceho text ťažšie ich odhaliť.“
Ide o prístup
Samozrejme, AI ako taká nie je zlá. Škodlivé faktory sú príčinou správania ľudí. Je teda pochopiteľné, prečo odborníci apelujú na zavedenie tvrdších regulácií. Ak bude vývoj a integrovanie nových systémov prebiehať primeraným tempom a v primeranej miere, v budúcnosti môžu viesť k obrovským prínosom.
