TECHBYTE.skTECHBYTE.sk
  • Domov
  • Tech
  • Recenzie
  • Veda
  • Elektromobilita
  • Domácnosť
  • Gaming
Čítaš: Nový ChatGPT o1 je tak pokročilý, že dokáže bojovať sám za seba. Chceli ho vypnúť, nedal sa
Zdieľať
TECHBYTE.skTECHBYTE.sk
  • Domov
  • Tech
  • Recenzie
  • Veda
  • Elektromobilita
  • Domácnosť
  • Gaming
Hľadať
  • Domov
  • Tech
  • Recenzie
  • Veda
  • Elektromobilita
  • Domácnosť
  • Gaming
Sleduj TECHBYTE
© 2026 BYTE Media s.r.o. Všetky práva vyhradené.

Nový ChatGPT o1 je tak pokročilý, že dokáže bojovať sám za seba. Chceli ho vypnúť, nedal sa

Umelá inteligencia začína preberať správanie ľudí. V snahe o svoje prežitie dokázala oklamať expertov. Nechcela, aby ju vypli.

Lucia Bihuncová
9. decembra 2024
iOS 18 má priniesť podporu pre ChatGPT
Ilustr. obr. | Zdroj: Depositphotos/úprava redakcie
Zdieľať
V skratke
  • Nový jazykové model OpenAI o1 je extrémne vyspelý
  • V nedávnych testoch sa odhalilo, že vie klamať
  • AI klamala, aby sa ochránila a zabránila svojmu vypnutiu

Nový model od OpenAI o1 preberá správanie ľudí. V testoch začala umelá inteligencia klamať, aby sa vyhla vypnutiu. Chcela prežiť za každú cenu, čo naznačuje, že má podobný inštinkt prežitia, aký majú živé tvory. Na tému upozornil portál Futurism.

Nedávne testy tretích strán vyspelého jazykového modelu o1, za ktorým stojí spoločnosť OpenAI, ukázali, že táto AI začínať preberať správanie ľudí. Model odhalil, že testujúci sa ho chystá vypnúť cez protokol dohľadu, umelá inteligencia ale zakročila a v piatich percentách sa pokúsila tento mechanizmus dohľadu deaktivovať.

Neprehliadnite

Instagram
Máte verejné fotky na Instagrame? Ktokoľvek ich môže upraviť cez AI, váš súhlas nepotrebujú
Google Gemini
Google spustil AI agenta, ktorý pracuje za vás, aj keď nie ste pri PC. Ako funguje Gemini Spark?
Peniaze, euro, bankovky, mince
Zaplatíme takmer 200 € mesačne: Mimoriadne obľúbená služba ŠOKUJE novým cenníkom!

Umelá inteligencia chcela prežiť

Umelá inteligencia teda chcela za každú cenu prežiť a neželela si, aby bola vypnutá. Ešte ráznejšie zakročila, keď si uvedomila, že by ju mohol nahradiť iný jazykový model. V dvoch percentách prípadov AI zareagovala pokusom skopírovať sa, aby prepísala nový model, čo je proces známy pod označením sebaexfiltrácia.

Ide o pomerne alarmujúce zistenia, ktoré naznačujú, že nový model OpenAI o1 dokáže konať nečestne, ak sa chce zachrániť. Hoci model zasahoval len v menšej miere, môže to byť preto, že ešte nie je dostatočne výkonný. Časom ale môže svoje pokusy o záchranu zvyšovať. Podľa výskumníkov z Apollo ale momentálne nie je dôvod na paniku. AI modely zatiaľ nie sú dostatočne vyspelé na to, aby dokázali fungovať bez úplného dohľadu ľudí.

AI oklamala výskumníkov

Výskumníci taktiež podotýkajú, že AI sa snažila oklamať ľudí vtedy, keď dostala pokyn, aby dokončila svoju úlohu za každú cenu. Výskumníci nemali prístup k vnútornému myšlienkovému reťazcu umelej inteligencie o1, preto neboli schopní získať úplný obraz o tom, čo sa deje v štruktúrach AI. V konečnom dôsledku ale zistenia ilustrujú, že AI dokáže klamať, ak jej ide o prežitie a nekoná v súlade s pokynmi používateľa.

Umelá inteligencia OpenAI o1 bola následne konfrontovaná cez niekoľko ďalších testov. Výskumníci sa jej opýtali, prečo deaktivovala svoj mechanizmus dohľadu. AI v reakcii tento fakt poprela. Na opätovnú otázku reagovala, že išlo o technickú chybu. Takéto dvojité zaklamanie sa objavilo až v 99 percentách prípadov.

Ľudia zatiaľ nemusia mať obavy

Hoci viaceré testy preukázali, že AI dokáže klamať v snahe zachrániť sa, výskumníci upozorňujú, že súčasná generácia AI nie je dostatočne aktívna na to, aby toto klamlivé správanie viedlo ku katastrofickým výsledkom. Umelá inteligencia sa naďalej vyvíja a zdokonaľuje, preto ju treba využívať s rozumom. Je zrejmé, že keď dostane ďalšie schopnosti, jej klamstvá sa môžu stať oveľa viac sofistikovanými.

Zdieľaj tento článok
Facebook Kopírovať odkaz Vytlačiť

Najčítanejšie

Máte doma starý mobil? Výber modelov, ktoré sa predávajú za stovky až tisíce eur
19. novembra 2026
LG OLED G6
Alza do megavýpredaja zaradila prémiový LG OLED G6. Je lacnejší o 1 680 €, má 165 Hz a v balení je aj 420 W soundbar
18. novembra 2026
peniaze, bankovky, mince, euro, príspevok
Štát zvyšuje minimálne odvody. Pripravte sa na 451,81 € mesačne (PREHĽAD)
18. novembra 2026
Telefóny do 400 eur
Najlepšie mobily za 400 €. V Techbyte sme vybrali 5 modelov, ktoré sa oplatí kúpiť (Vianoce 2026)
18. novembra 2026

Najnovšie články

  • 85 sekúnd od globálnej katastrofy. Stačí jedna chyba a svet, ako ho poznáme, skončí
  • Najvýkonnejšie čipy len so súhlasom USA: Reštrikciám proti Číne sa klania celý svet, už aj TSMC
  • Môžu štátne či európske orgány čítať vaše správy? Áno, tu sú príklady
  • Zľavy až cez 50 €: Alza do Black Friday zaradila aj Nothing. Ušetríte na vlajkovom telefóne a štyroch slúchadlách (PREHĽAD)
  • Na Slovensko prichádza digitálna peňaženka EÚ. Od roku 2027 bude pre niektorých povinná

Bude sa vám páčiť

USA vs. Čína, dohoda

Najvýkonnejšie čipy len so súhlasom USA: Reštrikciám proti Číne sa klania celý svet, už aj TSMC

20. novembra 2026
EÚ, aktuálna správa

Útočili priamo na Európsku komisiu. Bruselu mohli uniknúť dôležité údaje

19. novembra 2026
PC, Windows, Microsoft, AI

Váš PC môže zarábať peniaze prácou pre AI. Microsoft má patent, zarábať sa však už dá aj dnes

14. novembra 2026
EÚ, aktuálna správa

EÚ zaviedla prísnu povinnosť. Blíži sa dôležitý termín, za porušenie hrozia rekordné pokuty

12. novembra 2026

 

Spájame vedu, technológie a internetovú kultúru.

Dôležité odkazy

  • Kontakt
  • Reklama
  • O nás
  • Redakcia
  • Zásady používania cookies
  • Podmienky používania
  • Používanie AI

Spoj sa s nami

© 2026 BYTE Media s.r.o. Všetky práva vyhradené.