TECHBYTE.skTECHBYTE.skTECHBYTE.sk
  • Domov
  • Tech
  • Recenzie
  • Veda
  • Elektromobilita
  • Domácnosť
  • Gaming
Čítaš: Elon Musk narovinu: Nová AI na učenie potrebuje 100-tisíc grafických kariet. Jedna stojí 28-tisíc eur
Zdieľať
TECHBYTE.skTECHBYTE.sk
  • Domov
  • Tech
  • Recenzie
  • Veda
  • Elektromobilita
  • Domácnosť
  • Gaming
Hľadať
  • Domov
  • Tech
  • Recenzie
  • Veda
  • Elektromobilita
  • Domácnosť
  • Gaming
Sleduj TECHBYTE
© 2024 BYTE Media s.r.o. Všetky práva vyhradené.

Elon Musk narovinu: Nová AI na učenie potrebuje 100-tisíc grafických kariet. Jedna stojí 28-tisíc eur

11. apríla 2024 13:30
Roman Drexler
11. apríla 2024
Zdieľať
4 min
Zdieľať

Elon Musk, generálny riaditeľ viacerých úspešných spoločností, sa podelil s verejnosťou o pár zaujímavých predikcii týkajúcich sa vývoja umelej inteligencie, a to nie iba tej svojej, ale aj všeobecne. Uviedol napríklad, že umelá inteligencia môže prekonať ľudskú inteligenciu už v priebehu budúceho roka, prípadne v roku 2026, píše server Tom’s Hardware.

Proces to ale nebude jednoduchý – aby bolo možné vyškoliť umelú inteligenciu na takú úroveň, bolo by potrebných extrémne veľa špičkových grafických procesorov. Výroba a prevádzka veľkého množstva grafických kariet však vedie k obrovskej spotrebe elektrickej energie, čo rozhodne neprospieva životnému prostrediu.

Hardvér za 3 miliardy dolárov

Skutočnosť, že spotreba elektriny je jedným z faktorov, ktoré brzdia vývoj AI, uznal aj Musk. Ten taktiež venoval pár slov plánom týkajúcim sa modelu Grok, ktorého vývoj zastrešuje jeho startup xAI. Podľa aktuálnych očakávaní by mala byť tréningová fáza novej verzie modelu dokončená v priebehu mája. Vizionár prezradil, že na trénovanie druhej generácie Grok bolo použitých okolo 20 000 grafických kariet NVIDIA H100.

NEWSBYTE
Slovákom hrozí cenový šok: EÚ pripravuje tvrdé opatrenie, benzín a energie výrazne zdražejú

Slovákom hrozí cenový šok: EÚ pripravuje tvrdé opatrenie, benzín a energie výrazne zdražejú

Lekári varujú rodičov: Obľúbený letný nápoj poslal deti do nemocnice, TOTO im radšej nedávajte

Lekári varujú rodičov: Obľúbený letný nápoj poslal deti do nemocnice, TOTO im radšej nedávajte

Slovensku hrozí tvrdý úder: Závislosť od TEJTO krajiny môže mať vážne následky, varujú analytici

Slovensku hrozí tvrdý úder: Závislosť od TEJTO krajiny môže mať vážne následky, varujú analytici

Slovákom hrozí cenový šok: EÚ pripravuje tvrdé opatrenie, benzín a energie výrazne zdražejú
Slovákom hrozí cenový šok: EÚ pripravuje tvrdé opatrenie, benzín a energie výrazne zdražejú
Lekári varujú rodičov: Obľúbený letný nápoj poslal deti do nemocnice, TOTO im radšej nedávajte
Lekári varujú rodičov: Obľúbený letný nápoj poslal deti do nemocnice, TOTO im radšej nedávajte
Slovensku hrozí tvrdý úder: Závislosť od TEJTO krajiny môže mať vážne následky, varujú analytici
Slovensku hrozí tvrdý úder: Závislosť od TEJTO krajiny môže mať vážne následky, varujú analytici
Grok AI od xAI, firmy Elona Muska
Zdroj: Depositphotos.com

Očakáva pritom, že budúce verzie modelu si budú vyžadovať ešte viac grafických kariet, a to niekoľkonásobne. Konkrétne pri vývoji tretej generácie predpokladá použitie nie menej ako 100 000 kusov NVIDIA H100. Každá jedna takáto grafická karta pritom stojí približne 30 000 dolárov (28 000 €, pozn red.).

Dve hlavné brzdy

Ako už bolo spomenuté vyššie, pokrok v oblasti umelej inteligencie je brzdený dvoma hlavnými faktormi, a to nedostatkom pokročilých procesorov (získať 100 000 kusov NVIDIA N100 nie je zrovna jednoduché) a dostupnosťou elektrickej energie. Vážnosť týchto dvoch faktorov potvrdzuje aj Musk.

Pre lepšiu predstavu – jeden čip NVIDIA H100 spotrebuje okolo 700 W pri maximálnom vyťažení. Ak by ich na vývoj Grok 3 bolo potrebných až 100 000, hovorili by sme o spotrebe až 70 MW, a to len v tréningovej fáze. Netreba pritom zabúdať na to, že pohon umelej inteligencie si vyžaduje viac, než len grafickú kartu. Ak by sme do rovnice zahrnuli aj efektívny chladiaci systém (čipy pri práci produkujú teplo), mohli by sme rátať so spotrebou tak 100 MW. Takáto spotreba je porovnateľná s menším mestom.

AI umelá inteligencia
Zdroj: Depositphotos

V posledných rokoch boli podľa Muska problémom najmä dodávky dostatočne výkonných grafických čipov. V nasledujúcich dvoch rokoch sa to však má zmeniť – kritickými sa stanú dostatočné dodávky elektrickej energie. Stále však budú do určitej miery vývoj umelej inteligencie brzdiť obidve obmedzenia, čo predstavuje nemalý problém, keďže dopyt po novej technológií rapídne stúpa.

Pokrok ako kompenzácia

Treba však poznamenať, že pokrok v oblasti výpočtových a pamäťových architektúr umožní v nasledujúcich rokoch trénovať čoraz objemnejšie jazykové modely (LLM). Napríklad NVIDIA na konferencii GTC 2024 odhalila doposiaľ najvýkonnejšiu GPU pre umelú inteligenciu. Nesie názov NVIDIA B200 Blackwell a pýši sa skutočne nevídanými kapacitami.

Neprehliadnite

Peniaze, bankovky, euro
Benzín o 60 až 70 centov DRAHŠÍ: Slováci majú OBROVSKÝ dôvod na obavy, EÚ chystá TVRDÚ zmenu
Google, Slovensko, smartfón, vyhľadávanie
POZOR: Google ÚPLNE mení, ako vyhľadávame. Slováci si musia zvykať na TÚTO zmenu
mimoriadne, elektrina, ceny, faktúry
MIMORIADNE: Chystá sa OBROVSKÁ zmena pre elektrinu. Slováci ušetria KOPU peňazí (čo sa deje)

Prečítajte si tiež:

  • AI získava strašidelné schopnosti: OpenAI testuje model, ktorý v priebehu sekúnd zreplikuje ľudský hlas
  • Nová generácia vodiacich psov nemá mäso ani kosti. Nahradiť ich môžu roboty používajúce AI
  • Je Apple s AI skutočne tak pozadu, ako si myslíme? Tim Cook tvrdí, že nie

B200 Blackwell pozostáva až z 208 miliárd tranzistorov, čo je priam neuveriteľné číslo. Pre porovnanie – model Hopper H100, ktorý bol uvedený len minulý rok, používal iba 80 miliárd tranzistorov. Jensen Huang, šéf spoločnosti, tvrdí, že Blackwell je v porovnaní so súčasnými GPU dvakrát výkonnejší pri trénovaní modelov AI, 30-násobne rýchlejší a až 25-násobne úspornejší, a to ako voči elektrickej sieti, tak aj voči peňaženke. “Generatívna AI je určujúcou technológiou našej doby,” uviedol Huang s dodatkom, že Blackwell je motor, ktorý bude “túto priemyselnú revolúciu poháňať”.

Zdieľaj tento článok
Facebook Kopírovať odkaz Vytlačiť
Predchádzajúci článok Samsung Galaxy S24 Ultra Takto sa to robí! Samsung to nemusel, no aj tak to spravil. Obľúbená vlajková loď dostane ďalšie aktualizácie
Ďalší článok batéria Z 10 na 80 % do 12 minút: Nová batéria pre elektromobily šokuje bleskovým nabíjaním. Použiť ju môže aj Tesla

Najčítanejšie

AKTUÁLNE: Slovensko zásadne predĺžilo intervaly STK. Potešia sa TISÍCE ľudí (ako často chodiť)
21. júna 2025
Mimoriadne, Slovensko, vlajka
MIMORIADNE: Slovensko dostalo ULTIMÁTUM. Ostáva vám už len 400 dní, odkazuje EÚ (čo sa deje)
20. júna 2025
Slovensko, peniaze, Slováci, invetstovanie
Otočka o 180 stupňov: Slovensko by mohlo prejsť na úplne nový systém. Zdravotné poisťovne by peniaze posielali poistencom
21. júna 2025
AKTUÁLNE: Deje sa presne to, čoho sme sa obávali. Zo Slovenska odchádza ĎALŠIA veľká firma, ľudia dostali výpovede
22. júna 2025

Najnovšie články

  • Benzín o 60 až 70 centov DRAHŠÍ: Slováci majú OBROVSKÝ dôvod na obavy, EÚ chystá TVRDÚ zmenu
  • Zdravotníci bijú na poplach: TOTO cez leto nepite! Niekoľko detí už skončilo v nemocnici
  • Slovensko je čoraz viac závislé od TEJTO krajiny. Podľa analytika to TVRDO pocítime
  • MIMORIADNE: Štát chystá NAJVÄČŠIU zmenu za posledné dekády. VŠETKÝCH nás vystaví obrovskej hrozbe (čo sa deje)
  • Prichádza „GAME CHANGER“: Obľúbená automobilka Slovákov ešte pre chvíľou krachovala, teraz hlási REVOLÚCIU

Bude sa vám páčiť

Plynový kotol, plyn

POZOR: Ceny pôjdu hore aj o 50 %. Už je jasné, ktoré domácnosti dostanú energopomoc (koho sa to týka)

20. júna 2025
SpaceX Starship

Vesmírna loď Starship explodovala na základni. Musk prezradil detaily (VIDEO)

20. júna 2025
AI, človek

JE TO TU: Veľká firma prepustí TISÍCE zamestnancov. Peniaze radšej naleje do AI

19. júna 2025
ChatGPT, WhatsApp, OpenAI

ChatGPT do WhatsApp pridalo GENIÁLNU funkciu. TOTO choďte okamžite vyskúšať

17. júna 2025

 

Spájame vedu, technológie a internetovú kultúru.

Dôležité odkazy

  • Kontakt
  • Reklama
  • O nás
  • Cookies
  • Podmienky používania

Spoj sa s nami

© 2025 BYTE Media s.r.o. Všetky práva vyhradené.
Vitaj späť!

Prihlás sa do svojho účtu

Username or Email Address
Password

Zabudol si heslo?

Continue with Google