Nvidia ma sprzedać 550 tysięcy chipów H100 w 2023 roku

1. Dziwię się dużemu popytowi na GPU w kontekście ML (autor: rookie | data: 19/08/23 | godz.: 20:01)
   Większość modeli jest liniowa i nie ma miejsca na setki prostych wątków....
   https://thinkml.ai/...-algorithms-which-is-better/
   "What operations do GPUs perform better for Machine Learning?
   GPUs are not best for every machine learning process. They are best at operations that involve parallelism. Hence, they are used for Machine Learning applications that can take advantage of the GPU’s parallel processing abilities like CNN and RNN. Hence, GPUs provide high-speed data processing.
   When GPUs are not preferred in Deep Learning?
   Despite all the above advantages, it's still not ideal to use GPU for general-purpose computing tasks due to:
   High energy consumption - which is a challenge for power-limited devices such as phones and embedded computers. The cost is also very high when considering the hardware required to support a typical deep learning workstation or cloud setup.
   The type of computation must be well specified to achieve optimal performance since GPUs are generally designed with specific algorithms in mind. It's also difficult to program an algorithm for efficient execution on a GPU (but no doubt there are some ways of achieving this).
   When you intend to train non-parallel (sequential/non-concurrent) algorithms, GPUs are not a good choice. Sequential algorithms are usually executed in a sequence manner and cannot be subdivided into smaller codes. Hash-chaining is an example of such an algorithm that is very difficult to parallelize. In simple words, “P-complete” programs are not meant to use GPUs."
   
   
2. rookie (autor: Markizy | data: 21/08/23 | godz.: 21:43)
   myślę że ma to duży związek z dotacjami a nie faktycznym zapotrzebowaniem na taki sprzęt.
   Sam chatGBT jest pod kreską i to dość dużą
   https://biznes.wprost.pl/...-ich-marny-koniec.html
   O ile uczenie maszynowe jest fajne i przydatne to skale na jaką niektórzy próbują ją w drożyć przerasta realne zapotrzebowanie. Tym bardziej że największe zastosowanie znajdzie to w prostych działaniach ze względu na dużą elastyczność i łatwość adaptacji.
   
   
3. moze (autor: pawel1207 | data: 27/08/23 | godz.: 03:32)
   dlatego ze ucznie maszynowe sie nie konczy na generowaniu obrazkow i zabawy z modelami jezykowymi i firmy odkryly ze uczenie maszynowe mozna wykorzystac do swoich celow podobnie jak to ze fmy typu chatgpt teraz powstaja setki bo karzda firma chce miec swojego chatbota a youtuberzy avatara itd... dziwne wszyscy dopieprzali sie do krytopwalut bo prad w gore krypto sie skonczylo prad jescze bardziej poszedl w gore :D a do uczenia maszynowego jakos nikt sie nie przypieprza pomimo iz wciaga ogromne ilosci pradu ue samo nawet czesc projektow dotuje zwlascza tych zwiazanych kontrola wlasncych obywateli :D poziom hipokyzji osiagnol poziom absurdu.