Nvidia ma sprzedać 550 tysięcy chipów H100 w 2023 roku
Autor: Zbyszek | źródło: WccFTech | 12:08
(3)
Pomimo kryzysu na rynku kart graficznych dla komputerów stacjonarnych, gdzie notowany jest wyraźny spadek sprzedaży, Nvidia nie ma raczej co narzekać na swoją sytuację budżetową, gdyż jak ciepłe bułeczki sprzedają się jej GPU dedykowane dla serwerów i obliczeń związanych z uczeniem maszynowy i sztuczną inteligencją. Mowa o akceleratorach serii A100 (Ampere) oferowanych od połowy 2020 roku, i najnowszych dostępnych od kilku miesięcy H100 (Hopper). Jak już wiemy ilość złożonych na nie zamówień jest bardzo duża, terminy dostaw uległy wydłużeniu, a do tego wskutek podniesienia ich cen o 40 procent Nvidia spodziewa się w tym roku rekordowych wyników finansowych.
Financial Times powołując się na swoje źródła z kręgów bliskich Nvidia informuje, że w tym roku Nvidia sprzeda około 550 tysięcy najbardziej zaawansowanych chipów H100, zarabiając na ich sprzedaży około 25 miliardów dolarów. Liczba ta to pojedyncze GPU dostarczane w obrębie gotowych serwerów DGX. Co więcej chipy H100 mają też cieszyć się zainteresowaniem ze strony rządów niektórych państw - dla przykładu Arabia Saudyjska zamówiła urządzenia DGX z około 3000 sztuk chipów H100. Nieokreśloną (lecz dużą) ilość chipów H100 mają otrzymać też Zjednoczone Emiraty Arabskie, które użyją ich do obliczeń wykonywanych z użyciem modelu obliczeniowego Falcon LLM.
K O M E N T A R Z E
Dziwię się dużemu popytowi na GPU w kontekście ML (autor: rookie | data: 19/08/23 | godz.: 20:01) Większość modeli jest liniowa i nie ma miejsca na setki prostych wątków.... https://thinkml.ai/...-algorithms-which-is-better/
"What operations do GPUs perform better for Machine Learning?
GPUs are not best for every machine learning process. They are best at operations that involve parallelism. Hence, they are used for Machine Learning applications that can take advantage of the GPU’s parallel processing abilities like CNN and RNN. Hence, GPUs provide high-speed data processing.
When GPUs are not preferred in Deep Learning?
Despite all the above advantages, it's still not ideal to use GPU for general-purpose computing tasks due to:
High energy consumption - which is a challenge for power-limited devices such as phones and embedded computers. The cost is also very high when considering the hardware required to support a typical deep learning workstation or cloud setup.
The type of computation must be well specified to achieve optimal performance since GPUs are generally designed with specific algorithms in mind. It's also difficult to program an algorithm for efficient execution on a GPU (but no doubt there are some ways of achieving this).
When you intend to train non-parallel (sequential/non-concurrent) algorithms, GPUs are not a good choice. Sequential algorithms are usually executed in a sequence manner and cannot be subdivided into smaller codes. Hash-chaining is an example of such an algorithm that is very difficult to parallelize. In simple words, “P-complete” programs are not meant to use GPUs."
rookie (autor: Markizy | data: 21/08/23 | godz.: 21:43) myślę że ma to duży związek z dotacjami a nie faktycznym zapotrzebowaniem na taki sprzęt.
Sam chatGBT jest pod kreską i to dość dużą https://biznes.wprost.pl/...-ich-marny-koniec.html
O ile uczenie maszynowe jest fajne i przydatne to skale na jaką niektórzy próbują ją w drożyć przerasta realne zapotrzebowanie. Tym bardziej że największe zastosowanie znajdzie to w prostych działaniach ze względu na dużą elastyczność i łatwość adaptacji.
moze (autor: pawel1207 | data: 27/08/23 | godz.: 03:32) dlatego ze ucznie maszynowe sie nie konczy na generowaniu obrazkow i zabawy z modelami jezykowymi i firmy odkryly ze uczenie maszynowe mozna wykorzystac do swoich celow podobnie jak to ze fmy typu chatgpt teraz powstaja setki bo karzda firma chce miec swojego chatbota a youtuberzy avatara itd... dziwne wszyscy dopieprzali sie do krytopwalut bo prad w gore krypto sie skonczylo prad jescze bardziej poszedl w gore :D a do uczenia maszynowego jakos nikt sie nie przypieprza pomimo iz wciaga ogromne ilosci pradu ue samo nawet czesc projektow dotuje zwlascza tych zwiazanych kontrola wlasncych obywateli :D poziom hipokyzji osiagnol poziom absurdu.
D O D A J K O M E N T A R Z
Aby dodawać komentarze, należy się wpierw zarejestrować, ewentualnie jeśli posiadasz już swoje konto, należy się zalogować.
