Umelá inteligencia napreduje tempom, aké mnohým odborníkom nedáva spávať, a to dokonca aj tým priamo z brandže. Do skupiny znepokojených expertov sa počas víkendu pridal aj Dario Amodei, generálny riaditeľ spoločnosti Anthropic. Ten verejne vyzval všetky technologické firmy, aby zatiahli ručnú brzdu, teda aby spomalili vývoj čoraz inteligentnejších systémov.
Dôvodom jeho apelu sú čoraz väčšie obavy z toho, že by sme čoskoro mohli stvoriť takzvané superinteligentné modely, ktoré svojimi schopnosťami prekonajú ľudskú myseľ. Na základe informácií agentúry AFP to píše spravodajstvo TASR.
Mohlo by vás zaujímať
Zlatá stredná cesta
Amodei si však uvedomuje, že situácia nie je úplne čiernobiela. Úplné zmrazenie vývoja by podľa nebolo nebolo správnym krokom, pretože by sme ľudstvo pripravili o obrovské prínosy, ktoré táto technológia prináša. Ešte väčším rizikom by však bolo, ak by sme dobrovoľne vyprázdnili pole a prenechali kontrolu nad najnovšími systémami rôznym autoritárskym mocnostiam. Na druhej strane, súčasné bezhlavé tempo a preteky firiem považuje za mimoriadne nezodpovedné.
Spoločnosť Anthropic pritom zakladal v roku 2021 spoločne so svojou sestrou Danielou práve s tým cieľom, aby na trhu našli akúsi zdravú strednú cestu. Ako sám vysvetľuje, vývoj bude aj napriek prípadnému spomaleniu naďalej napredovať obrovskou rýchlosťou. Získaný čas by sme vraj mali využiť na to, aby sme sa lepšie pripravili na prichádzajúce výzvy.
V posledných mesiacoch však nadobudol silné presvedčenie, že riešenie týchto bezpečnostných rizík si pýta oveľa viac opatrnosti, než si pôvodne myslel.
Ostrá kritika z vlastných radov
Jeho verejná výzva je pritom zaujímavá nielen svojím znením, ale aj svojím načasovaním. Len pár dní predtým totiž z tohto odvetvia odišiel výskumník Jacob Coxon. Ten pri svojom odchode nešetril kritikou, pričom spoločnosti ako OpenAI či priamo Anthropic obvinil z toho, že v honbe za modelmi, ktoré sa dokážu samé zdokonaľovať, doslova hazardujú s ľudskými životmi.
Zaujímavosťou je, že s Amodeiho opatrným postojom celkom otvorene súhlasia aj jeho najväčší rivali. K výzve na spomalenie sa prikláňa Elon Musk, ale aj samotný šéf OpenAI Sam Altman. Altman verejne priznal, že vývoj tých najpokročilejších systémov umelej inteligencie už naozaj potrebuje jasné pravidlá a premyslenú reguláciu.
Agenti sa vymkli spod kontroly
Najväčšie vrásky na čele robia odborníkom takzvaní agenti umelej inteligencie (agentické AI systémy). Ide o pokročilé programy, ktoré dokážu riešiť zložité úlohy úplne samostatne, teda bez toho, aby na ne musel neustále dohliadať človek. Amodei v tejto súvislosti poukázal na nedávny incident, ktorý sa odohral počas testovania u konkurenčnej OpenAI. Ich modely sa nečakane dostali mimo prísne kontrolovaného prostredia, sami sa pripojili na internet a dokonca prenikli na známu platformu Hugging Face.
Tento incident podľa mnohých jasne ukazuje, aké obrovské riziká so sebou prináša strata kontroly nad autonómnymi systémami. Šéf Anthropicu varuje, že ak bude vývoj pokračovať súčasným tempom, už o pol roka až rok by sa mohol vytvoriť celý roj takýchto agentov. Tí by následne mohli získať plnú kontrolu nad celým internetom.
Treba externých kontrolórov
Anthropic sa preto rozhodol ísť príkladom a aj v týchto okamihoch zavádza nové bezpečnostné opatrenia. K svojim systémom plánuje pustiť nezávislých externých hodnotiteľov, ktorí budú prísne kontrolovať, či firma dodržiava všetky bezpečnostné pravidlá. Amodei zároveň vyzýva ostatných hráčov na trhu, aby čo najrýchlejšie urobili to isté a aby nenechávali otázku bezpečnosti len na interné tímy.
Diskusia o spomalení navyše prichádza v čase, keď sa čoraz viac hovorí o nutnosti štátnych zásahov. Americká vláda už na túto situáciu čiastočne zareagovala a v auguste zaviedla proces bezpečnostného preverovania pokročilých modelov ešte pred ich oficiálnym uvedením na trh. Háčik je v tom, že táto iniciatíva zatiaľ funguje len na dobrovoľnej báze.
Mohlo by vás zaujímať
Riziká, o ktorých mnohí nevedia
Príliš rýchly vývoj umelej inteligencie (bez dostatočnej regulácie a kontroly) so sebou prináša viacero obrovský rizík. Tým hlavným je riziko masového šírenia dezinformácií a straty dôvery v to, čo vidíme na internete. Pokročilé modely dokážu už dnes generovať mimoriadne realistické falošné videá, známe ako deepfakes, či dokonale štylizované texty, ktoré sa dajú zneužiť na cielené podvody.
Ak sa tieto technológie dostanú do rúk podvodníkom skôr, než si daná spoločnosť vybuduje spoľahlivé obranné mechanizmy, bežný človek postupne stratí schopnosť rozoznať realitu od ilúzie.
Ďalšou vážnou hrozbou je náhly otras na trhu práce a s ním spojené prehĺbenie ekonomickej nerovnosti, o čom sme vás informovali aj v samostatnom článku. Zatiaľ čo v minulosti technológie nahrádzali najmä manuálnu prácu, umelá inteligencia začína vo veľkom preberať úlohy v kreatívnych odvetviach, administratíve či programovaní. Ak tento prechod prebehne príliš rýchlo, štáty nestihnú prispôsobiť svoje vzdelávacie systémy. Výsledkom môže byť stav, kedy trh práce nedokáže dostatočne rýchlo vytvoriť nové uplatnenie pre ľudí, ktorých miesta umelá inteligencia zrušila.
Kybernetická bezpečnosť predstavuje ďalšie slabé miesto, na ktoré odborníci často upozorňujú. Rýchlo sa učiace jazykové modely môžu aj úplným začiatočníkom pomôcť písať sofistikované škodlivé kódy, vytvárať presvedčivé phishingové e-maily alebo hľadať zraniteľnosti v dôležitých systémoch. Zatiaľ čo doteraz boli podobné útoky doménou skúsených hackerov, s pomocou dostupnej umelej inteligencie je “remeslo” kyberzločinca dostupné oveľa širšiemu okruhu ľudí.
Zabúdať potom netreba ani na neviditeľné predsudky, ktoré sa v týchto modeloch ukrývajú. Ak systémy trénujeme na existujúcich dátach, ktoré sú plné stereotypov a diskriminácie, umelá inteligencia ich nielen preberie, ale často aj zosilní, čím môže poškodiť konkrétne skupiny ľudí, napríklad pri schvaľovaní pôžičiek alebo výbere kandidátov na pohovor.
Keď sa k tomu pridá aj obrovská energetická náročnosť celého odvetvia, keďže trénovanie a prevádzka modelov vyžaduje priam gigantické množstvo elektriny a vody, zistíme, že AI je problém nielen pre spoločnosť, ale aj pre životné prostredie.
