TECHBYTE.skTECHBYTE.sk
  • Domov
  • Tech
  • Recenzie
  • Veda
  • Elektromobilita
  • Domácnosť
  • Gaming
Čítaš: Nový ChatGPT o1 je tak pokročilý, že dokáže bojovať sám za seba. Chceli ho vypnúť, nedal sa
Zdieľať
TECHBYTE.skTECHBYTE.sk
  • Domov
  • Tech
  • Recenzie
  • Veda
  • Elektromobilita
  • Domácnosť
  • Gaming
Hľadať
  • Domov
  • Tech
  • Recenzie
  • Veda
  • Elektromobilita
  • Domácnosť
  • Gaming
Sleduj TECHBYTE
© 2026 BYTE Media s.r.o. Všetky práva vyhradené.

Nový ChatGPT o1 je tak pokročilý, že dokáže bojovať sám za seba. Chceli ho vypnúť, nedal sa

Umelá inteligencia začína preberať správanie ľudí. V snahe o svoje prežitie dokázala oklamať expertov. Nechcela, aby ju vypli.

Lucia Bihuncová
9. decembra 2024
iOS 18 má priniesť podporu pre ChatGPT
Ilustr. obr. | Zdroj: Depositphotos/úprava redakcie
Zdieľať
V skratke
  • Nový jazykové model OpenAI o1 je extrémne vyspelý
  • V nedávnych testoch sa odhalilo, že vie klamať
  • AI klamala, aby sa ochránila a zabránila svojmu vypnutiu
Bavia vás články na TECHBYTE.sk?

Stačí pár kliknutí a naše články uvidíte častejšie. Sme aj na Facebooku a Instagrame.

Uprednostniť Google News Sledovať Instagram

Nový model od OpenAI o1 preberá správanie ľudí. V testoch začala umelá inteligencia klamať, aby sa vyhla vypnutiu. Chcela prežiť za každú cenu, čo naznačuje, že má podobný inštinkt prežitia, aký majú živé tvory. Na tému upozornil portál Futurism.

Nedávne testy tretích strán vyspelého jazykového modelu o1, za ktorým stojí spoločnosť OpenAI, ukázali, že táto AI začínať preberať správanie ľudí. Model odhalil, že testujúci sa ho chystá vypnúť cez protokol dohľadu, umelá inteligencia ale zakročila a v piatich percentách sa pokúsila tento mechanizmus dohľadu deaktivovať.

Neprehliadnite

zamestnanec, smútok
KONIEC benefitov a kompromisov: Zamestnancov čaká TVRDÁ zmena režimu. Pripraviť sa musia aj Slováci
Mistral AI
Európa má vlastnú umelú inteligenciu Mistral AI. Vyskúšali sme ju a v TOMTO predbieha aj ChatGPT
ChatGPT, OpenAI
Kontroverzná funkcia ChatGPT je ODTERAZ dostupná aj pre neplatiacich ľudí. TOTO dokáže

Umelá inteligencia chcela prežiť

Umelá inteligencia teda chcela za každú cenu prežiť a neželela si, aby bola vypnutá. Ešte ráznejšie zakročila, keď si uvedomila, že by ju mohol nahradiť iný jazykový model. V dvoch percentách prípadov AI zareagovala pokusom skopírovať sa, aby prepísala nový model, čo je proces známy pod označením sebaexfiltrácia.

Ide o pomerne alarmujúce zistenia, ktoré naznačujú, že nový model OpenAI o1 dokáže konať nečestne, ak sa chce zachrániť. Hoci model zasahoval len v menšej miere, môže to byť preto, že ešte nie je dostatočne výkonný. Časom ale môže svoje pokusy o záchranu zvyšovať. Podľa výskumníkov z Apollo ale momentálne nie je dôvod na paniku. AI modely zatiaľ nie sú dostatočne vyspelé na to, aby dokázali fungovať bez úplného dohľadu ľudí.

AI oklamala výskumníkov

Výskumníci taktiež podotýkajú, že AI sa snažila oklamať ľudí vtedy, keď dostala pokyn, aby dokončila svoju úlohu za každú cenu. Výskumníci nemali prístup k vnútornému myšlienkovému reťazcu umelej inteligencie o1, preto neboli schopní získať úplný obraz o tom, čo sa deje v štruktúrach AI. V konečnom dôsledku ale zistenia ilustrujú, že AI dokáže klamať, ak jej ide o prežitie a nekoná v súlade s pokynmi používateľa.

Umelá inteligencia OpenAI o1 bola následne konfrontovaná cez niekoľko ďalších testov. Výskumníci sa jej opýtali, prečo deaktivovala svoj mechanizmus dohľadu. AI v reakcii tento fakt poprela. Na opätovnú otázku reagovala, že išlo o technickú chybu. Takéto dvojité zaklamanie sa objavilo až v 99 percentách prípadov.

Ľudia zatiaľ nemusia mať obavy

Hoci viaceré testy preukázali, že AI dokáže klamať v snahe zachrániť sa, výskumníci upozorňujú, že súčasná generácia AI nie je dostatočne aktívna na to, aby toto klamlivé správanie viedlo ku katastrofickým výsledkom. Umelá inteligencia sa naďalej vyvíja a zdokonaľuje, preto ju treba využívať s rozumom. Je zrejmé, že keď dostane ďalšie schopnosti, jej klamstvá sa môžu stať oveľa viac sofistikovanými.

Bavia vás články na TECHBYTE.sk?

Stačí pár kliknutí a naše články uvidíte častejšie. Sme aj na Facebooku a Instagrame.

Uprednostniť Google News Sledovať Instagram
Zdieľaj tento článok
Facebook Kopírovať odkaz Vytlačiť

Najčítanejšie

Vodomer
Faktúry za vodu na Slovensku prudko vzrástli. Účtuje sa inak, jedna chyba vás môže stáť vyše 200 € ročne
15. novembra 2026
100" LG 100QNED87B6
Alza zrazila cenu obrovského 100″ LG televízora o 2 000 €. Má Mini LED, 144 Hz a je ideálny na GTA 6
14. novembra 2026
Plynomer
SPP má nové ceny plynu na rok 2027. Tisíce Slovákov zaplatia menej, vieme presne o koľko (PREHĽAD)
14. novembra 2026
65" Sony Bravia 7 II
Teraz je lacnejší o 900 eur: Alza osekala cenu 65″ TV od Sony. Je to lahôdka aj pre hráčov
15. novembra 2026

Najnovšie články

  • GTA 6 je tu: Vybrali sme výbavu, s ktorou si ho užijete naplno. Od konzoly až po televízor (VÝBER)
  • Vláda 17. novembra rieši spoluprácu s Ruskom. Všimli si to už aj v zahraničí
  • Phishingové útoky najviac zneužívajú Microsoft. Dajte si pozor, mnohí už prišli o peniaze (rebríček)
  • EÚ umožní jednoduchšie zrušiť predplatné, firmy dostanú nové povinnosti
  • Najlepšie mobily za 200 €. V redakcii sme vybrali 5 modelov, ktoré sa oplatí kúpiť (Vianoce 2026)

Bude sa vám páčiť

PC, Windows, Microsoft, AI

Váš PC môže zarábať peniaze prácou pre AI. Microsoft má patent, zarábať sa však už dá aj dnes

14. novembra 2026
EÚ, aktuálna správa

EÚ zaviedla prísnu povinnosť. Blíži sa dôležitý termín, za porušenie hrozia rekordné pokuty

12. novembra 2026
Xiaomi 17 Ultra

Rozlúčte sa: Tieto telefóny si už čoskoro nekúpite. Neoplatia sa

9. novembra 2026
operačná pamäť

Šéfovi OpenAI sa nepáči, koľko RAM máte vo svojom PC. Dátové centrá ju vraj potrebujú viac

4. novembra 2026

 

Spájame vedu, technológie a internetovú kultúru.

Dôležité odkazy

  • Kontakt
  • Reklama
  • O nás
  • Redakcia
  • Zásady používania cookies
  • Podmienky používania
  • Používanie AI

Spoj sa s nami

© 2026 BYTE Media s.r.o. Všetky práva vyhradené.