Jeden z dôvodov, prečo je grafika (GPU) schopná „zrýchliť“ výpočty, s ktorými procesory počítačov (CPU) zápasia, je ten, že GPU sú od základov postavené na paralelnom spracovaní výpočtov. Viac z Nvidia keynote nižšie.

Nvidia má fakticky monopol na technológiu Nvidia ACE NIM, takže ak si predstavíš cenu, ktorú musí Microsoft a Open AI zaplatiť spoločnosti Nvidia za hardvér potrebný na spustenie ChatGPT a Copilota, vynásob si túto cenu vo svojej hlave piatimi alebo dokonca desiatimi. Toto je Jensenov názor aby odôvodnili cenu, ktorú musia zaplatiť za tieto čipy.

Technológia Blackwell

Čipy pre dátové centrá a priemyselné čipy, ako sú tie, ktoré podporujú súčasný boom AI, ako aj sériu Nvidia RTX 5000 novej generácie. A na rozdiel od minulých generácií architektúry je Nvidia oveľa otvorenejšia, pretože naďalej propaguje svoj hardvér AI.

A spotreba? 15 000 wattov pre ten jeden malý stojan s ôsmimi GPU s Blackwell. Zabudnite na Artemis a cestu na Mesiac, na Mars, na priestor. Musíme čo najskôr investovať všetko, čo máme, do rozvoja jadrovej fúzie.

Milióny GPU dátových centier. Tento klaster GPU Blackwell mal v sebe 8 GPU a vyžaduje 15 000 W. To je 1 875 W na GPU.

1 000 000 x 1 875 W = 1 875 000 000 W.

To je 1,875 gigawattov výkonu. Typický jadrový reaktor vydáva asi 1 gigawatt energie.

Ak nič iné, pred klimatickou katastrofou nás môže zachrániť jednoduchý fakt, že naše rozvodné siete nedokážu zvládnuť tento druh trvalého dopytu po energii. No, možno nie zachránený pred katastrofou, ale aspoň to nebude ďaleko, oveľa horšie, ako by to mohlo byť, ak sa všetko, čo Jensen hovorí, splní.

Cestujúci obchodník

Problém cestujúceho obchodníka je jedným z tých problémov v informatike, ktorý je tak neriešiteľný na výpočet, že klasickému počítaču bude trvať 100 000 rokov, kým ho vyrieši. Nie je pravda, že tento problém môže vyriešiť kvantový počítač. Nevieme, že by to kvantový počítač dokázal, takže Nvidia sa nechystá riešiť TSP pomocou CUDA a zrýchlených výpočtov.

Problém s TSP je v tom, že máte obchodníka, ktorý potrebuje cestovať do X miest v obvode. Problém je v tom, že mestá sú od seba rôzne vzdialené, takže ako nájsť najefektívnejšiu trasu pre obchodníka, aby mohol cestovať do všetkých miest na svojom zozname, aby sa minimalizovali celkové cestovné náklady.

Riešenie problému

Neexistuje žiadny účinný algoritmus, ktorý by riešil tento problém, a nie je známe, či nejaký existuje. Ak je počet miest na zozname dlhých 10 miest, nie je to ťažké vyriešiť, ale ak musí predajca cestovať do 100 miest, bude to trvať asi milión rokov, kým sa dostanete hrubou silou, aby ste zistili, že väčšina efektívna trasa.

Problémom je mierka. Čím viac miest pridáte, efektívne zdvojnásobíte čas potrebný na vyriešenie problému a tento exponenciálny rast je vo veľkom rozsahu zničujúci. CUDA dokáže nájsť efektívnejší spôsob, ako nájsť trasu pre 25 miest alebo 30 miest, ale nie je to riešenie týchto problémov s optimalizáciou.

A verte mi, ak by Nvidia vyriešila problém s cestujúcim predajcom, malo by to na svet oveľa väčší vplyv ako generatívna AI. Vyriešenie TSP znamená, že vyriešite aj stovky ďalších problémov, ako je predpoveď počasia, prepravná logistika a skladanie bielkovín v medicíne. Bol by to najrevolučnejší pokrok od kalkulačky a bol by vo všetkých správach a v každom časopise o informatike na Zemi.

Revolúcia počítačov

To, o čom Jensen hovorí s týmito superpočítačmi AI, je tenzorové jadro. Toto je typ obvodu, ktorý môže vykonávať násobenie matíc veľmi efektívnym spôsobom. Násobenie matice je výpočtovo veľmi náročný proces, takže použitie integrovaného obvodu špecifického pre aplikáciu (AISC) je spôsob, ako vytvoriť časť obvodov spracovania, ktorá robí iba jednu vec a nič iné. Tenzorové jadro je ASIC s násobením matice a ako sa ukazuje, strojové učenie veľmi závisí od násobenia matice.

Toto je spôsob, akým hardvér tensor core Nvidia, ktorý je v je v najlepších grafických kartách, ako aj v procesoroch pre dátové centrá, umožnil spoločnosti Nvidia stať sa lídrom v oblasti AI, akým je práve teraz.